AGI가 나오면 엔비디아 시대는 끝날까?(ft.한상기 작가 2부)

다음 단계에서도 엔비디아의 그래픽카드가 필요한 거예요. 좋아질 수 있는 모델을 만들고 싶어 하죠. 근데 당분간은 쉽지 않을 것 같고요. 학습하는 데서 쓰이는 GPU는 엔비디아가 압도적이잖아요. 그럼 작가님께서는 AGI가 인간의 마지막 발명품이 될 거라고 생각하세요? 그렇게 책을 쓰신 분이 있죠. 파이널 인벤션이라고 거기에도 논란이 많아요. 인류의 마지막 발명이 될 거라고 얘기하는 이유는 간단히 말해서 얘가 그다음부터는 모든 걸 발명해 나갈 거다. 우리는 얘가 되면 인류의 수준을 넘어서는 애가 등장하는 순간 그걸 이제 슈퍼인텔리전스라고 초지능이라고 합니다. 초지능이 등장하는 순간 초지능이 자기를 또 만들어낼 것이고 수많은 초지능을 만들어낼 것이고 수많은 초지능이 앞으로 모든 발명을 이끌어 갈 거다. 그래서 인류는 더 이상 발명할 기회가 없을 거다. 그래서 마지막 발명품이다라고 얘기를 하는 거예요. 근데 그렇지 않을 거다. 인류가 얘하고 협력하면서 수많은 협력 우리가 얘하고 공존하는 시대 제가 요새 사인하면 항상 물어봤냐면 안전한 AGI와 공존을 이렇게 사인을 했는데 우리랑 공존해야죠. 우리랑 공존하지 않으면 우리가 재고당할 거거든요. 우리가 얘의 눈치를 보고 얘한테 더 좋은 전기를 주고 더 좋은 데이터를 매겨주고 공존 가능성이 더 높다고 생각합니다. 그건 이제 통제할 수 있다는 가정 같고 저도 5년 정도 타임프레임 보고 있거든요. 근데 5년 안에 벌어질 일이야. 그러면 지금 교육받고 있는 학생들 지금 20대들은 완전히 새로운 세상에 살 거예요. 그럼 지금 교육이 무슨 의미가 있냐는 거예요. 이번에 OAN 갖고 해봤더니 수능 국어 1등급 나왔잖아요. 여러분들 지금 수능 국어 보시면 1등급 받으실 수 있어요? 저를 포함해서 여러분들보다 똑똑해요, 걔가 이미. 그런데 지금 수능 문제 지금 아이들이 문제프리 그럼 무슨 의미가 있는 거예요? 우리는 더 인간답게 사는 게 무엇이고 더 사람과 사람이 협력하거나 상대방을 이해해주거나 이런 능력이 더 필요해질 거거든요. 미국 노동부도 앞으로 가장 많이 필요한 인력은 두 가지라고 봐요. 하나는 컴퓨터 사이언티스트 컴퓨터 프로그래머들 또 하나는 케어기부들 상담을 했던 병원에서 돌봄하고 이런 사람들 이것만큼은 AI가 못할 거라고 했는데 요새 보면 할 것 같거든요. 우리보다 더 참을성 있게 들어주고 얘기하고 하잖아요. 이미 캐릭터.AI나 레플리카 같은 것들 써서 채팅하는 애들은요. 내 정신과 의사보다 낫다. 일단 시간이 한계가 없잖아요. 그래서 끊임없이 얘기하고 얘는 다 들어주는 거예요. 그런데 그렇지 않잖아요, 우리는. 그런데 우리는 그게 문제예요. 그거는 교육이 굉장히 안 좋아요. 예를 들어서 꼬맹이가 저도 저희 애들이 다 30대지만 왜? 그러면 설명하지 않으면 왜? 10번까지는 그냥 설명해요. 10번 지나면 한 대 때리거든요. 그러면 애가 배우는 거거든요. 아 이거 10번까지만 유효하구나. 그거 넘어서면 맞을 수가 있구나라는 걸 하면서 피드백을 받으면서 배우는 거거든요. 그런데 얘는 절대로 거부하지 않잖아요. 지금 이미 아이들한테 아이패드 주거나 스마트폰 주는 게 왜 문제냐면 절제와 제어를 못 배워요. 얘는 거부 안 하잖아요, 내가 하는 거. 내가 하는 건 다 할 수 있어야 되는 거예요. 그 애들이 초등학교 가고 중학교 가면 자기가 거부당하는 거에 대해서 굉장한 반응을 보이는 거예요. 그래서 저는 애들한테 절대로 그거 쓰면 안 된다고 주장하는 거거든요. 제어를 받을 수 있어야 돼요. 통제를 받을 수 있어야 되고 예를 들어서 식당 가면 조용히 있어야 되는 거고 사람 많은 장소에 떠들면 안 되는 거고 뛰어다니면 안 되는 거고 백화점이 됐든 뭐가 됐든 그런 데서 뛰면 안 되는 거고 외국은 그러면 화장실 내려가서 뿅땅땅 때리거든요, 자기 애를. 근데 우리는 애 기죽는다고 뭐라고 하면 난리치잖아요, 일부. 몰상식한 부모들이. 근데 더 통제가 안 되거든요, 애들은. 그래서 AI랑 이렇게 밤새 떠들고 또는 AI 통해서 어떤 지식을 받는 게 어디까지 좋은 거지? 어디까지 허용할 수 있는 거지? 라는 문제를 우리가 생각할 수밖에 없어요. 지금까지 제가 AI를 우리가 어떻게 통제할 것인가를 얘기했는데 좋은 질문을 줬듯이 AI를 사용하는 사람에 대한 룰은 어떻게 할 건가? 어디까지 사용할 수 있어야 되고 어느 이상은 안 되는 것이고 그거는 꼭 시간의 문제가 아니에요. 어떤 주제를 얘기하면 안 되는 것이고 그것은 어느 나이까지 그래서 성인이 되기 전에 AI하고 애가 사랑에 빠지는 거는 용납해서 안 되거든요. 그거 우리 실패한 게 소셜미디어잖아요. 소셜미디어를 쓰게 만들면서 브라우사이라는 책을 보면 나오잖아요. 2010년 이후부터 카메라가 들어가면서 폰에 여자아이들, 남자아이들이 자해와 자살이 급격히 증가합니다. 상대적인 비교에 의해서 인스타그램 보세요. 인스타그램 보면 다 잘 살아. 다 잘 살죠. 다 예쁘고 다 잘났고 근데 나는 라면 먹고 있잖아요. 컵라면 그리고 내 얼굴은 아니잖아요. 그러니까 그게 우리나라만의 문제가 아니에요. 전세계적인 문제가 지금 그래서 통제해야 된다는 얘기가 나오고 시작했고 메타도 이제 14살 16살까지 제한 두고 호주에서는 이미 이번에 법 통과됐죠? 16살인가? 그 이하는 금지 전 금지해야 된다고 생각해요. 소셜미디어는 우리 애들은 다행스럽게 대학 들어갈 때까지는 스마트폰 안 썼어요. 필요 없대요. 자기가 그래서 했는데 캐나다 같은 경우에도 학교에 가면은 모든 폰은 락카롱에 놓게 되어있거든요. 그 교육하는 교실은 못 갖고 들어와요. 근데 우리는 허용하잖아요. 역시 뭐 표현의 자유다 뭐 인권도 있는데 이런 문제들이 아이들의 지적인 수준 정서적인 수준 아이들의 어떤 통제력, 제어력을 아주 극도로 부정적으로 하게 만들거든요. 그래서 최근에 AI에 대한 법률에 대해서 서두르는 거예요. 많은 입법자들이 소셜미디어를 우리가 놓쳤다. 더 일찍 통제했어야 되는데 지금 통제할 수가 없는 상황에 와 있잖아요. 그래서 전 세계 나라가 다 불행하잖아요. 다 혼란스럽고 어느 나라가 다 극우극자 싸우고 다 가짜뉴스와 거짓 정보로 완전히 난리치잖아요. 어느 나라가 다 그러거든요. 우리나라 뿐만 아니라 이게 다 소셜미디어 때문이거든요. LNM에서 넘어가는 단계로 개발을 하게 되면 그동안 LNM 시대는 엔비디아의 그래픽카드 이게 떼돈을 벌게 해주는 시장이 됐는데 다음 단계에서도 엔비디아의 그래픽카드가 필요한 거예요? 병률 연산으로 계속 해야 되나요? 당분간은 지금 LNM 현재 트랜스포머 아크텍처를 돌파 또는 그것보다 나은 더 개선된 모델을 만들려고 노력을 하고 논문들은 나와요. 근데 이것이 배형화됐을 때 성능이 유지되는 걸 보여준 건 없어요. 근데 항상 이런 거죠. 우리 인간은 20W만 쓰는 두뇌를 갖고 이렇게 훌륭한 일을 하고 있는데 이렇게 엄청난 전기를 써야 되는가 이건 환경문제도 있고 비용이 너무 많이 든다는 문제도 있고 근데 이거를 극복할 수 있는 모델을 아직 못 만들고 있고요. 누구나 다 저장률력에 컴퓨테이션이 적게 써도 좋아질 수 있는 모델을 만들고 싶어하죠. 근데 당분간은 쉽지 않을 것 같고요. 그래서 학습하는 데에서 쓰이는 GPU는 엔비디아가 압도적이잖아요. 근데 이제 사람들이 사용할 때 쓰는 출원 경우에는 다른 대안들이 나오죠. 뭐 TPU라든가 타이타닉이라든가 뭐 여러 가지 그 방식들 뭐 메타도 하고 있고 우리나라에서도 이제 가오디인가요? 인테라고 같이 하는 어떻게 될지 모르지만 마크도 하려다가 삼성이랑 네이버랑 하려다가 어려워졌지만 어쨌든 반도체 회사들이 이 시장을 결코 놓칠 수가 없는 시장이기 때문에 도전을 할 건데 엔비디아의 역량 수준에 도전할 수 있는 기업이 거의 없어요. 저는 그렇게 봐요. 엔비디아가 그냥 춤만 잘 맞는 게 아니거든요. 관련된 생태계 소프트웨어 이런 부분들이 다 있는 거기 때문에 그 다음에 이 네트워크 데이터를 빨리 전달할 수 있는 이런 부분들이 종합적이기 때문에 그래서 제가 이쪽 연구하는 박사랑 얘기해보면 다 잘 된다고 엔비디아가 더 낫다는 얘기가 맨날 나오지만 벤치마크 믿지 마라 일단 벤치마크 믿지 말고 벤치마크에서 두 번째 이 정도의 대형 모델에 돌려봤냐 적어도 네이버에 와서 하이퍼클럽 X에서 돌려보고 얘기하자 그러니까 자기 작은 거 돌려가지고 됐다는 거는 믿을 수 없다는 거죠. 물론 그거부터 시작해야 되지만 그리고 벤치마크는 저는 사실은 AI 모델들도 벤치마크 테스트로 뭐 벤치마크 어디에서 점수가 몇 점에 우리가 1등 했어요 나오지만 그냥 그런 거 한번 보다라고 해요. 그거는 그냥 벤치마크에 특화될 수 있거든요. 우리가 이제 벤치마크에 오버피팅했다고 얘기하는데 뭐 의도적이든 의도적이지 않든 그 문제만 잘 푸는 거예요. AGI 시대에서도 엔비디아는 계속 물건을 팔 수밖에 잘 팔 수밖에 없다. 저는 그렇게 봅니다. 여러분 이렇게 파는 쪽은 엔비디아 청바지 파는 건 엔비디아고 금광 제일 잘 캐 회사는 빅테크 중에 하나일 건데 그래도 구글이 좀 선두에 있지 않나 이렇게 보신다. 그리고 이제 엔비디아 대안에 그 이런 거죠. 엔비디아만큼 고성능이 아니더라도 많은 양을 갖고 덤비면 그 시간을 좀 갖고 하면 될 수 있지 않을까 하는 모델들 그리고 이제 그렇게 스케일링에 의해서 올라가는 거는 한계가 있는 것 같으니 얘가 좀 더 깊이 있게 생각하는 방식으로 간다면 그때는 좀 다른 문제죠. 깊이 있는 방식이 출원 방식 그런 거 맞나요? 출원 COT 방식 그걸 더 깊이 있게 하는 거 그 다음에 이제 데이터도 양이 많은 게 아니라 얼마나 고품질의 데이터냐 요새 데이터를 누가 만들어주고 있냐면요. 검증을 하는 건 다 박사급들이에요. 저도 이제 은퇴나 다름없으니까 가서 그거 일할까 생각하는데 요새 다 박사급들이 합니다. 우리가 예전에 뭐 데이터 그러면 인형 눈 붙이기 뭐 이렇게 조롱했잖아요. 제가 그 데이터 학습용 데이터 과제 기획을 했던 사람인데 거기 같이 참여하고 한 4년 동안 그 과제를 내가 같이 이끌어왔던 사람인데 너무 모르는 거야. 그게 얼마나 수준 있는 작업들인지 의료 데이터 같은 거는 다 의료진들이 해요. 그걸 잘 모르는 사람들이 기사를 그렇게 쓰는 거예요. 인형 눈깔 붙이기라고 그러는데 지금은 다 박사급들이 합니다. 박사급들이 하고 근데 박사급들은 인건비가 되게 비싸잖아요. 돈이 필요합니다. 많이 들수록 또 아니면 인도에도 박사들 많으니까 인도 박사들 많이 쓰면 그런 인재들이 이제는 우리가 보면 국가인재 뭐 이렇게 했던 사람들이 앉아서 AI 가르치고 있는 거예요. 박사학위 없으시죠? 없습니다. 거기서 이제 AI한테는 필요한 존재가 아니에요. 자기를 개발할 사람도 아니고 자기를 가르칠 사람도 아니고 자기를 이용할 사람은 맞죠. 그냥 소비자에 불과한 사람인 거예요. 그래서 유럽에서 AI를 이용해서 사람을 평가하면 안 된다라고 하는 거예요. 이렇게 되면 평가를 하게 되거든요. 넌 몇 등급? 우리가 한우도 아닌데 그 등급을 재잖아요. 중국에서는 이미 사실은 얘가 하지 말아야 될 것들이 하나가 그런 거예요. 사람과 사람을 평가하는 거 어떤 사람이 더 훌륭한 사람인가 예를 들어 우리가 그 소위 말하는 국민주의자들이 얘기하는 유틸라이제이션을 최대화하기 위해서 하는데 거기 보면 이런 거잖아요. 한 사람이 죽는 거하고 열 사람 죽는 거하고 어떤 게 더 옳으냐 열 사람을 살리기 위해서는 한 사람이 희생할 수 있는 거 아니냐 근데 한 사람은 그 사람이 전체 우주예요. 우리는 한 사람과 열 사람을 비교할 수 없어요. 비교해서도 안 되고 근데 우리 순간적으로 사회에서 그런 일을 되게 많이 한단 말이에요. 나머지 사람이 사는 것도 중요하지 그 정도의 희생은 있어야 되는 거 아니냐 박정희 시대 때의 논리를 아직도 갖고 있는데 얘가 그렇게 배우면 안 된다는 거예요. 질문 중에 굉장히 좋았던 질문 중에 그렇게 되는 상황에서도 우리 인간의 가치는 그리고 우리를 멸망시킬 수 있을 건가 일단 멸망시킬 수 있을 거냐라고 한다면 예스 앤 노인데 우리를 멸망시켜서 얘가 얻는 이득이 있을까? 다행스럽게도 우리가 그렇게 대단한 존재가 아니라서 멸망 물론 매트릭스처럼 에너지 원의로 쓸 수는 있을지 모르지만 우리가 존재하는 것 자체가 자기들한테 위협이 되지 않는다면 우리를 구태야 멸망시킬 이유는 없죠. 근데 이제 잘못된 인간이 잘못 사용해서 그것이 나비효과를 해서 인류가 멸망할 수 있는 가능성은 여전히 존재하는 거죠. 그걸 p-value라고 해요. 얘네가 우리를 멸망시킬 수 있는 가능성은 얼마나 오십니까? 라고 하는데 학자마다 다 달라요. 40% 얘기하는 사람도 있고 20% 얘기하는 사람도 있고 저는 한 10% 정도는 가능성이 있을 거라고 생각하는데 뭐 제 입장이 중요한 게 아니니까 연구하는 사람들이 더 얼마나 보고 있는가인데 그런 가능성은 항상 존재해요. 우리가 훨씬 더 가치 있는 존재임을 보여줄 수 있어야 되고 가치라는 거는 인간의 가치죠. 사실은 인간의 가치인데 그래도 얘가 우리한테 배웠으니까 그래서 얘를 우리의 진화적 후손이라고 얘기하는 사람들도 있어요. 우리 진화의 또 다른 단계가 얘다. 왜 이렇게 얘기해야 되냐면 우리가 이제 화성 가자 뭐 이런 얘기 하는데 못 가거든요. 우리의 생물학적인 육체를 갖고서 거기 가서 존재하기도 어렵고 가는 기간 동안에 방사능을 견디기도 힘들어요. 그래서 우리가 행성여행을 한거나 항성간 여행 인터스텔라 여행을 하려면 우리 몸을 갖고 있으면 안 돼요. 그래서 우리의 지식과 우리의 역사와 모든 걸 기억하는 기계적 존재가 가야 돼요. 그게 그래서 우리의 후손이라고 얘기를 해요. 자연스러운 후손. 그래서 저는 외계인 UFO 막 이러면 그거는 분명히 기계가 와야 된다. 생물학적인 존재가 나타나가지고 흐물흐물거리면서 등장하는 건 다 구라라는 거죠. 왜냐하면 이 광대한 우주 공간을 그러한 몸을 갖고서는 그 넘어올 수는 없어요. 생명을 보내는 게 아니라 영혼을 보내는 거네요. 그렇죠. 그러니까 영화 트랜스포머처럼 기계가 오죠. 트랜스포머는. 그거는 혹시 Maybe 그게 하나 있고 그래서 얘가 우리 후손인데 그러면 우리가 지켜야 되는 가치 종교 의미 있는 역사성 왜 세상은 무가 아니고 유가 이런 거를 고민하는 정말 할 일 없고 쓸데없는 생각을 하는 인간이 있어야 되는 거죠. 예전에 그리스 로마 시대 특히 그리스 시대 때 모든 노동은 노예가 했잖아요. 그리고 사람들은 뭐 했죠? 철학 음악 그다음에 시 쓰고 연극하고 그랬잖아요. 그게 가장 인간의 정신을 꽃피웠던 시절이잖아요. 그때로 돌아가는 거예요. 이제 모든 노동은 AI와 로봇이 해준다면 이건 굉장히 긍정적으로 얘기하는 거예요. 꼭 그렇게 되려면 보장은 없을 수도 있어요. 대부분의 인간이 아주 처참하게 살 수도 있어요. 우리가 제대로 못하면. 그래서 이거는 새로운 파라오의 시대라고 얘기해요. 지금 일론 머스크나 제프 에이조스나 뭐 즈코버 같은 이러한 열댓 명이 세상의 모든 부모를 갖고 걔네들이 피라미드 만들듯이 우주선을 만들고 아주 엄청난 과학적인 도전을 하고 이런 거 하고 놀 때 우리는 거기 가서 월급 받으면서 일하는 근데 피라미드 노동자가 불행을 살진 않았거든요. 농부보다 더 많은 임금을 받았고 그리고 휴식을 취했고 그들은 맥주를 받았고 그랬거든요. 피라미드 노동은 아무 쓸데없는 노동이지만 노동자들한테는 좋은 기회였어요. 아니 무덤 만드는데 뭐 그렇게 크게 만드는 이유가 하나도 없잖아요. 근데 파라오가 만들고 싶었던 거잖아요. 뭘 화산을 왜 가야 되는데 근데 화산 가겠다고 하면서 돈 쓰잖아. 그러면 우리는 그걸 받아서 일하는 사회에 말하시면 되는 거잖아요. 뭔가 기분 나쁜데 파라오의 시대에 다시 가는 거다. 생산성과 고용이 별개가 되는 시대가 온다는 거죠. 그럴 수 있는 거죠. 그러니까 그리스 시대에 우리가 예술과 문학과 그리고 저녁에는 맨날 파티하고 저도 오늘 저녁에 하듯이 향연을 즐기고 그리고 따지죠. 우주는 왜 있을까라든가 나는 왜 존재하는 것일까 죽음 다음에 삶은 어떻게 되는 것일까 이런 얘기하고 있는 거는 우리밖에 없잖아요. 다음번에 철학과가 뜬다. 철학 연구에는 굉장히 중요한 기회가 왔다고 생각해요. 이런 존재와 같이 사는 인간의 의미는 무엇인가 인간의 가치와 AI의 가치라는 것은 어떻게 다를 것인가 이런 논의를 해야 되고 얘네와 같이 공존한다는 사회는 무슨 의미인가 이거는 사회학적으로도 중요한 주제예요. 제가 인문사회학자들하고 토론도 많이 하는데 근데 우리 인문사회학자들이 AI에 대한 인식 이해도가 너무 낮아요. 그래서 아직도 그런 책들 많이 팔리죠. 미체라든가 저도 미체의 영향을 많이 받았던 사람이지만 40대에 만나는 누구 E 시리즈가 딱 막 나오는데 그건 우리가 과학이 부족했을 시절에 우리가 이해 안 되는 거를 우리의 어떤 사유로서 해석을 하려고 했던 거잖아요. 이제 다 필요 없는 게 많아요. 거기에 논쟁 중에 이제 과학적으로 이해가 됐고 해석이 됐기 때문에 근데 아직도 그런 얘기를 하고 계시고 아직도 들레즈 데리다 얘기하면서 그 단어의 의미가 무엇인지 내가 그래서 철학자들 만나면 그거 그렇게 궁금하면 그 쓰레기한테 가서 물어봐. 내가 그러거든요. 그 뜻은 그게 아니고 내가 해석할 때 이건 혼구학이라 그러는 거거든요. 옛날에 우리 조상들이 앉아가지고 앵자가 했던 말 주작의 이 의미가 무엇인지를 해석하고 있는 거잖아요. 다 돌아가셨는데 왜 해석하냐고 그것도 그만하고 앞으로의 미래 앞으로의 인류가 어떻게 변화될 것인가 인류의 삶의 변화를 정말 철학적으로 살펴야 돼요. 우리는 어떻게 판단하는 게 맞는지 자율주행 자동차가 어디까지 판정할 수 있게 해야 될 것인지 그것이 우리의 가치관과 기준과 맞는 것인지 이런 철학을 해야 돼요. 사실 양자역학이나 상대성 원리가 사상과 철학을 무지 바꿔놨거든요. 근데 잘못 오해해가지고 다 상대주의가 되고 이랬긴 했지만 지금 그만한 수준의 혁명이 오는 거거든요. 그러면 철학이 바뀌어야죠. 사회학이 바뀌고 그래서 억스퍼드 대학에 내년인가 아마 오픈하는데 새로운 인문학과 생겨요. 21세기의 새로운 인문학 1억 5천만 달러를 파운드를 기증을 했어요. 블랙워터 해츠펀드 만들어서 슈라이츠만이 기증을 했거든요. 21세기에는 이런 인문학을 해라. 그래서 억스퍼드가 난리 났죠. 네네삼스 이후에 가장 큰 돈이 들어왔어요. 그러면서 건물부터 짓기 시작하더라고요. 아니 건물로 짓는 거는 소프트웨어라고 하는 건데 건물 부터 짓더라고요. 근데 거기에 제일 들어가야 첫 번에 들어가야 되는 게 AI 윤리 연구사예요. 우리가 해왔던 고고학이다 아니면 언어학, 문학 또는 이런 각종의 인문학들 또는 철학 포함해서 이것이 어떻게 새롭게 달라져야 되고 새로운 연구를 해야 될 것인가 사실은 할 거 너무너무 많아요. 근데 모르셔서 안 하는 거지. 윤리도 뭐 콜버그 단계로는 이런 거 있잖아요. 그러면 인간이 어느 순간부터 모순이 일어나기 시작하는데 AI랑 이걸 어디까지 서로 맞춰 나갈까 윤리를 이런 연구들도 좀 필요한 거잖아요. 처음으로 철학자와 공학자가 같이 일해야 되는 시대예요. 그렇게 되네요. AI 철학과 AI 인문학과 반대로 AI에게 철학을 가르쳐주는 사람 AI 심리 상담사가 생길 수 있습니다. 아 AI도 교육시키나? AI 심리를 확인하는 거예요. 얘가 계속 이상한 소리를 해. 도대체 무슨 일이 발생했는지를 알아내기 위한 AI 의사 AI 심리 상담사 가능성 있는 얘기 가능성 있겠는데요. 읽으시면 좋겠지만 여기는 문학계에서도 얘기했던 거 역사적으로 우리가 신화에서 얘기했던 것뿐만 아니라 수많은 지식인들이 얘기했던 얘기들이 언급이 돼 있고요. 그다음에 이제 2부에서는 도대체 그러면 어떻게 이 문제를 해결할 것인가 알라이먼트 문제 3부는 이제 아까 제가 한 번 얘기했던 전 세계 국가들이 도대체 어떻게 움직이고 있는가 정책적 경쟁이라고 포장을 했지만 새로운 패권주의 새로운 제국주의가 만들어지고 있는 상황을 우리 지금 이해를 해야 된다. 그래서 3부는 그걸 설명을 했습니다. 제가 만나뵌 분들 중에서 AI에서 기술적인 부분과 인문학 철학적인 부분이 둘 다 이렇게 잘 조화롭게 얘기해주신 분은 처음인 것 같아요. 나이가 먹으면 생기는 현상이에요. 지혜로워지면 근데 저도 철학을 전공할까 생각했던 적이 있었기 때문에 근데 그게 그런 거죠. 인간은 이렇게 50, 60대가 넘어가야지 좀 더 차분해지고 지혜로워지는데 AI는 너무 빨리 지혜로워지는 두려운 거죠. 우리는 학습의 시간이 오래 걸리잖아요. 중간입니다. 오늘 정말 덕분에 진짜 AI랑 또 시작해서 AGI 위험성 국가들이 어떻게 하고 있는지 여기서 정말 어떻게 보면 경계해야 될 것들도 정말 많이 있다라는 걸 깨닫게 돼요. 시대가 완전히 바뀌어버릴 수 있으니까 우리가 이걸 영상을 빨리 본 사람들은 우리가 어떻게 하면 데뷔할 수 있을까를 미리 고민해본 사람이랑 나중에 5년 뒤에 닥친다 하면 어떻게 하지 이런 사람이랑 결과가 완전히 달라질 거 아니에요. 이 책 반드시 읽어봐야 될 것 같습니다. 오늘 취해서 너무 감사합니다. 감사합니다.