AI 기술 발전, 당신의 자산도 위험하다? 일자리와 투자, 위기인가 기회인가 | 경읽남과 토론합시다 | 김상윤 교수 1편

네 여러분 안녕하세요 경인과학 오랜만에 찾아주신 전문가시죠 김상윤 교수님 어서 오세요네 안녕하세요네 인사 한번 부탁드리겠습니다네 안녕하세요여 이쪽 이쪽 보고 아 여기네요 오랜만에 출연하다 보니네 디 페이크 전문가라네 뭐가이 카메라가 너무 많아서 어떤게 리얼이 어떤게 페이크 제가 그중에 몇 개는 페이크 아 그래요 찾아서 하십시오 이건 거 같네요 찾아서 하십네 안녕하세요 여러분들께 디지털 기술로 인한 변화를 쉽게에 그리고 또 미래의 전망에 대해서 상세히 알려 드리는 디지털 경제학자 김상현입니다네 사주셔서 감사합니다 워낙 어이 디지털 경제 관련해서 많은 기업들로부터 이제 초대받고 뭐 거의 섭외 일순이 아아음네 뭐 그렇습니다 부인할 수가 없네요 자 그래서 좀 단도직입 쪽으로 질문 좀 드리겠습니다 디 페이크 쪽도 좀 연구를 하셨는데 어 앞에 계신이 화자는 네저 페이크입니다 리얼입니까 당황스러운 질문인데요 이렇게 하기로 했으면서 왜 당황스럽다 그런가요 저는 리얼이 리얼입니까 좋습니다 그러면 이야기를 가도록 하겠습니다 최근에 사회 문제로 이슈가 되고 있어요 디페이 라는이 현상 기술적인 일단이 책에서도 디페이 그를 다루고 계시기 때문에 질문을 드리고자 합니다 전반적으로 이런 디페이 그와 관련된 현상 사건에 대해서 어떤 견해를 갖고 계신지 듣고 싶습니다음 기술의 악용이 일단 기술의 악용네 현상은 기술의 악용 있니다 페이라는이 용어 자체도 어감이 안 좋아요 그죠 크라 단어죠 그렇죠 그렇죠 라는 것의 기술의 근본을 보면요 이게 좋은 기술이나 나쁜 기사를 구분 수 없습니다 기술 자체로는 왜냐면은 영상 처리 기술이고 영상 가공 기술이죠 근데 이게 영상 처리와 가공이 너무 정교해지고음 실제와 거의 똑같은 혹은 실제의 얼굴 부분과 다른 사람의 어떤 몸 부분을 합성했을 때 너무나 자연스러운 결과물을 만들어 주는 기술의 발전이죠 페이라는 용어 자체가 부정 적 어감을 주는 것은 실제로 어이 레이라는 게시판에 미국의 한 개발자가 페이크 프로그램을 올렸어요 예 그 프로그램이 여러 곳에 유포가 되면서 연예인들이나 정치인들이나 얼굴을 막 이렇게 재밌게 합성해 가지고 그 게시판에 쭉 꼬리에 꼬리를 달고 댓글들이 실렸어요 그게 이슈가 된 거예요 예 그렇죠 그래서이 기술이 도대체 뭐지 어 영상 가공 기술입니다 뭐 이렇게 설명을 다 하는데도네 그 프로그램을 올린 그 개발 의 아이디가 페이크였고 2018년 경부터이 분야가 페이라 아예 그냥 박혀버린 거죠네 근데 물론 디페이 하면 탁 한 번에 와 닿으 좀 어 이게 뭐 직관적이기 하지만 부정적인 어감이 아아 기술 자체는 우리가 절대로 탓을 할 수 없고 이것을 활용하는 행태의 문제이다 그럼 최근에 이제 국내에서도 뭐 특히 여중생 여고생들 어 이제 학교 시판에 들을 어 또이 빼돌려 가지고이 디페이 그를 만들어서 영상이나 뭐 사진이나 만들어서 유포하는이 사건이 되게 심각하게 지금 진행되고 있습니다 근데 이게 결국은 우리가 이것을 두 가지죠이이 범죄 자체를음 어떻게 다스려야 될지 질서가 안 잡혔어요 왜냐면 새로운 현상이죠 이런 정도의 정교함이에 나올 줄 몰랐거든요 그 준비가 안 된 채 디페이 그라는 기술을 만난 거죠 그렇죠 만난 거죠 그래서 제도 규제에 대한 정비가 필요하다 우리 사회에 관심이 필요하다가 한 가지고요 두 번째는이 기술 자체를 부정적으로 봐서는 안 된다는 겁니다 아네 이거 너무나 중요한 부분이 이걸 우리가 기술을 부정적으로 보면 볼수록 음지가 발전해요 그렇죠 왜냐하면은 이걸 도망가려고 하거 기술자들이 이게 돈이 되는 곳에 기술을 배포하려고 하는데 이게 어 아주 양지의 시장에서는 활성화가 안 되니까 음지로 풍선 효과가 벌어집니다 그렇죠 그러면은 이게 부정적인 활용이 더 커집니다 결국이 기술에 대한 우리가 세상이 어떻게 이걸 받아들이냐 문제인 거죠 저 말씀 중에 이런 사건 사건이라 다른 예들을 좀 떠올렸어요 자동차라는 놀라운 문명 기술이 나왔지만 그걸 악용해 예를 들어서 뭐 범죄로 사용할 수도 있잖아요 그건 사용의 문제지 자동차의 문제가 아니거든 그렇죠 뭐 예를 들면 라이나 성 개발됐고 석유가 개발이 돼서 놀라운 문명을 우리는 경험하고 있는데 그걸 화재 사고를 우발적으로 일으키는 그런 사용은 문제가 있는 거죠 뭐 좀 유사한 방향으로 대표적인 것이 또 악용되는 대표적인 사례가 뭐 핵폭탄과 같은 그런 핵 기술들 뭐 그런 것들도 있다고 볼 수 있겠습니다 조금 다른 범주 AI 로봇 혹은 자율주행 같은 경우도이 활용적인 측면이 아니라 그것이 도입이 되는 과정에서 문명을 혁신시킬 수 있다고 생각하지만 그게 자칫 잘못 활용되면 또 마치 로봇이 인류를 좀 어 이렇게 위협하는 일자리를 뺏어 가는 그런 역할로 또 작용하지 않을까 하는 우려들도 하고 있잖아요 그런 것처럼 기술적 기반은 좋을 수 있으나 이걸 어떤 식으로 유도하고 활용해야 될지를 고민해야 되지 않을까 교수님 좀 그런 고민 좀 많이 해 주세요 제가 지금 사실 연구를 하면서이 제가 기술 분야의 발전을 기술 자체로만 봤어요네 기술 트리라고 하죠 기술 예측 방법론이라는게 있습니다 그래서이 기술이 다음 단계에 어떻게 진화할 것인지 기술 사람 기술 분야 사람들끼리 모여서 논의하는 거죠 방법론도 만들고 예측도 하고 하는데네 예 과연 이것이 정말 어 10년 후 20년 후 실현이 되느냐 이거를 이제 어 백 테스팅을 해 보니까 그런 식으로 기술이 발전하지 않더라고요 그렇군요네 기술이라는 것이 연구실 안에서 실험실 안에서 과학자들이 기술자들이 예측 개발해서 아이 기술 다오면 이거고 이거 다음면 이겁니다고 생각하는 것과 실제로 기술 발전 양상이 완전히 상의합니다 그 이유는 방금 김광서 교수님께서 말씀 주신 것처럼 기술이라는 것이 악용된다 하는 것은 그것을 그것으로 이득을 취하는 사람들이 있는 거거든요 그 이득이라는 것이 자본인 수도 있고요 권력일 수도 있습니다 어 예를 들면 지금 최근에 AI 어 미국 주도아네 소수 기업이 주도하고 있습니다 미국 안에서도 오픈 AI 마이크로소프트 구글 이런 기업들이 근데 얼마 전에 이제 AI 유명 석학 중에 한 분인 캘리포니아의 그 앤드 교수가네 국내 한 언론사 이런 얘기를 했어요 내가 a AI 분야에 속해 있는 전문가 중에 한 사람이지만 지금 최근에 AI 발전이 상당히 우려가 된다 사실은 내가 이런 장면들을 여러번 목격했다 하면서 하는 말씀이 뭐냐면은네 미국의 전 세계 AI 주도하고 있는 소수의 기업 사람들이 미국 정치 세력들 정치인들을 만나서 로비를 엄청하고 있다라는 거예요 근데 미국은 로비가 합법화된 나라니까 로비 자체가 문제는 아니에요 근데 그 로비의 내용 목적이 뭐냐 중요한 거죠 AI 발전하는데 우리가 이것을 주도하고 있다 근데 이걸 더 치고 나가서 밑에 후발주자들이 못 따라오게 하려면은 규제나 법의 틀에 방해를 받으면 안 되 네 그러다 보니까 이것에 대한 로비를 하고 있는 거예요 AI 통해서 데이터 학습을 한다 개인 프라이버시 치매도 있고요 저작권 문제도 있고요 AI 결과물이 어떤 사람에게 피해를 주거나 혹은 잘못된 방향으로 어 활용될 경우에 또 책임을 기업이 물어야 되는 경우도 있을 수 있습니다 이런 여러 가지가 아직까지 법 제도가 완벽히 갖춰지지 않은 상황에서 이걸 자신들 유리한 쪽으로 정치권을 끌고 가는 거예요음 그래서 이런 거를 앤드류 교수가 적발을 해내 국내 언론사에 이런 얘기를 했습니다 나름 전는 충격적이라고 생각을 하고 이게 물 밑에서 이런 일이 벌어진다는 것은 AI 분야도 역시나 기술이 착한가 이걸 따지기 전에 사람들의 욕망과 권력과 자본이이 정말 음지에서 암투를 버리고 있다음 기술이 그런 방향으로 이끌어진 가능성이 또 크다네 다이나마이트 그랬잖아요 아 수님 말씀주신 것처럼 노벨이 다이나마이트를 최초에 발명했을 때는 실제로 어 광부들이 어 이제 굴을 팔 때라든지 혹은 도로 공사를 할 때 땅을 뚫는 역할 그게 이제 폭약을 써서 뚫고 하는데 그 당시에 나와 있는 폭약이 너무나 위험해 가지고 운반하는 과정에 터지고 준비가 안 됐어 터지고 사람이 엄청 죽었어요 하루에 몇십명씩 죽었어 근데 그 피해를 입은 사람 중에 한 명이 노벨의 형이었어 아 노벨의 아버지도 화학자 그런 연구를 하고 있었거든요 노벨이 아 내가 형의 원수를 갖겠다음 하면 이제 기술로 개발하는 거죠 그래서 어 다이나마이트 주성분 니트로 글리세린에 규소를 입혀 가지고 이것을 운반 과정에서 안전하게 보호되게 만든게 다이나마이트 기술이에요네 그래서 이게 어 산업화 과정에 다양한 공사 현장이나 뭐 광부들이 편하게 안전하게 쓸 수 있게 만든 목적인데네 그게 전쟁 세력들에 의해서 잘못된 방향으로 가공되고 진화되서 전쟁 살상 무기로 사용될 거네 노벨이 유원의 뭐라고 얘기를 했냐면요 내가 내 다이너마이트가 살상 무기로 사용될 줄 몰랐다 그렇죠 그래서 지금 내 이름으로 노벨상이 만들어진다면 이거를 정말 기술 발전이 일류에 공헌하는 사람들에게 이상을 줬으면 좋겠다이 유언을 남기고 돌아가셨습니다 그렇군요네 이런 것들이 반복될 수 있다는 거죠 우리 김사윤 교수님의 형이이 AI 발전으로 고충을 받을 수 있거든요 제가 저기 예 교수님이 저보다 형이니까 뭐 AI 피해 그러니까 노벨의 형도 어 고충을 받아서 뭔가 고민을 했던 것처럼네 좀 잘 고민 좀 해 주세요 가끔 이렇게 사석에서 AI 피해에 많이 얘기 하시잖아요 a 저는 너무 AI 나를 잘 알아서 미치겠다 하시잖아요 아니에요 아닙니다 자 저는요 이제 안면 인식 기술이네 너무 발전해 가지고 어 이제 이제 키오스크도 안면인식 기술이 활용되기 시작합니다 아 알리페이가 그걸 가장 먼저 적용했던 스마일투페이 서비스라고 서비스를 냈는데 저는이 안면 인식 기술로 저를 알아보고 저의 소비 패턴을 이해하니까 어 구매하기가 좋아져요 근데 안타까운 것은 어 저랑 장동건이랑 헷갈리니까 죄송합니다 장동선 이요 아 장동건 했 여러분 농담네 정말 농담삼아 했습니다 근데 그 웃겼죠 어쨌 안면 인식도 웃겼죠네 어 아하하하네 안면 인식도 되게 재미난 이슈가 있는 게요네 안면인식 기술 제일 잘하는 나라 어느 나라인지 아세요 중이잖아네 잘 아시죠 이게 AI 분야 월등하게 앞서 나가는 국가가 미국이든 왜 안면인식 만큼은 중국일까 이거 한번 생각해보실 필요가 있습니다 중국이 어 인구가 많잖아요네 그다 보니까 가 사람들이 개인의 얼굴을 식별하기 위한 니즈는 시장에 충만했는데 이걸 기술을 발전시키고 개발하는 과정에서 AI 아는 것이 사람들의 데이터 즉 사람들의 얼굴 데이터를 인식해서 학습해야 되는데 이것에 질서라는 인식이 되게 바닥인 거예요네 그러니까 여기저기 사람의 얼굴을 갖다가 쓸 수 있는 데이터가 넘쳐나는 거죠 이걸 돈을 주고 합법적으로 법적 테두리 안에서 프라이버시 제거하고 뭐 감형 정보로 만들어서 쓰고 이런 이제 그런에 선진국들이 이렇게 하고 있다면은 중국은 너무나 암시장에서이 데이터들이 거래가 활발하게 이어지다 보니까이 분야가 풍선 효과죠 발전한 거예요음 그래서 전 세계 안면인식 분야에 어 절반 이상의 논문이 중국에서 나옵니다 그죠 특허를 다 가지고가고 있어요 그니까 이게 참 아이러니합니다 예 이게 세상의 발전이 근데 어쨌든이 기술의 발전 지금 주로 논하고 있는 AI 빅데이터나 이런 기술의 발전에 기본은 한마디로 데이터 아아네 근데 자율주행 결국 어 승부를 볼 수 있는 그 뭐 테슬라가 뭐 구글이나 다른 기업들을 이제 웨 이모를 압도하는 그 과정은 어쨌든 그 자율주행 데이터 자율주행 운용 실적이 그거 그것에서 이제 모델을 더 구체 하듯이 근데 중국은 역시 그런 데이터가 많은데 어 규제 없는 환경이다 보니까 또 물론 불법이지만 우리나라에서 어이 안면인식 기술을 적용해 나가는 과정에서는 아마 개인 정보 보호법을 가지고 아니 왜 내 정보를 거기에 공유해야 돼 하는 생각 때문에 또 되기가 어려워 그까 여러 가지가 아이러니 하긴 합니다 근데 이번에 내신이 책 제목이 엑스 트로피에요네 근데 일단 뭐이 책 제목을 정할 때 제가 톡방에서 다른 걸로 하라고 막 했는데 엑스피 엑스트로 몰고 가셨어요 왜 그러셨 제가 뭐 이건 다 제가 말씀을 드렸는데 베스트셀러 저자분의 말씀을 좀 들었어야 되는데 아닙니다 어 아무래도 연구자들 고집이 세잖아요 저도 좀 고집이 센 거 같아요 이게 꽂혀 가지고 이거를 뺄 수가 없었어요 제목에서 그러셨군요네 꽂힌 이유는 좀좀 곧 설명드리겠습니다 그래요 부디 어 교수님만 꽂히지 않으셨기 아니 뭐 책이 잘 안 팔리면 어쩔 수 없 독자들에게 꽂혀야 되는데 저자 스스로만 꽂히면 안 되니까 네 그러면이 질문 드리겠습니다 그동안 뭐 책에서도 강조했듯이 AI 발전이 역할 혁명이다라는 표현을 해주셔서 전 굉장히 강하게 이해가 됩니다 그래서 오히려 역할 혁명 이렇게 가도 되지 않았을까 생각도 될만큼 굉장히 인상 깊은데 인간의 역할을 기술이 대체해 나가는 과정이자아요 대체할 때 인간의 설자리를 없애줄 것이다라고 부정 고민하는 사람도 있지만 상당히 사람들이 싫어하는 일들을 대신해 줄 거라는 기대감을 갖고 있기도 해요 그런 관점에서 더군다나 취향이나 가치관이나 철학이나 이런 것까지이 AI 갖추게 될 세상 이런 그림을 좀 그려보지 않을 수가 없는데 이거 바람직하다고 보십니까 어떻게 생각하십니까음 제가 기술을 연구하는 사람의 관점에서는 이걸 긍정적으로 보고 연구를 하고 있죠 네 기술 중단해야 된다고 저는 볼 수는 없기 때문이죠네 다만 이게 앞서 말씀드린 페이크의 사례에서처럼 이걸 어떤 방향으로 활용하느냐가 중요하고 그러다 보니까이 기술을 우리가 바라보는 관점을 아주 명확하고 투명하고 긍정적으로 끌고 가야 된다라는 것이 저는 인문학에서 말하는 철학 이더라고요 철학 그래서 기술 철학에 대한 관점이 필요하다라는 건데 AI 분야는 지금 특이점을 이미 우리가 맞이하고 있다 라고 봐도 될 거 같습니다 대표적인게 agi 아고 하죠 agi 아티피셜 제너럴 인텔리전스 해서 일 인공 일반 지능이 인공지능에 일반이라 단어를 붙인 이유가네 인간의 일반적인 제너럴한 활동들 판단이나 혹은 업무들을 AI 대부분 수행할 수 있게 된다라는 거예요 agi 예 그게 이제 여러 학자들마다 뭐낙 추상적인 개념이니 학자들마다 얘기는 다르지만은 수년 내에 도래할 것으로 대부분 보고 있습니다네 그러면 agi 등장하는 순간 우리가 보고서 쓰는 것 또 하루에 또 판단하는 거 내가 오늘 뭐 먹을지 내 계획을 짜고 내 인생에 투자 전략을 수립하고 또는 뭐 내가 디바이스와 소통할 때도 AI 그것에 역할을 하고 대부분의 활동들을 AI 의존하거나 AI게 대신 시켜 버리는 시대가 온다라는 것이죠데 과연 이게 부정적이냐 긍정적이냐 사실 개인들의 판단에 따라 다를 거 같은데요 이걸 되게 편리 하고 또 진화 되니까 내가 또 다른 업무에 또 또 내가 다른 내가 좋아하는 것에 투자할 수 있고 집중할 수 있고 좋다라고 볼 수도 있겠지만은 아주 인간의 본질에 대한 또 치매도 있을 수 있거든요 그렇죠 그 예를 들면은 뭐 아주 원초적으로 AI 연예할 수 있다 뭐 이런 또 상상들이 나오죠 맞아요 AI게 뭔가 내 삶의 어떤 정서적인 의지를 한다 가능한 일이거든요 실제 이루어지고 있고요 그죠 예 감정을 드러내는 AI 이 지금 속속 등장하고 있습니다 이거는 이제 학계에서도 논란이 되고 있어요 의식을 가질 수 있느냐음음 좋은 말씀이세요 예 한 사람만 말씀드릴게요 구글의 거대 언어 모델인 람다를 개발하는데 참여한 한 엔지니어가 충격적인 보고서를 2020년에 구글 상부에 보고를 합니다 왜냐면은 람다 개발 가정에 내가 참여하는 과정에서 람다와 여러 차례 대화를 나눈 결과 람다 는 의식이 있고 감정이 있다라는 생각이 들었다 예 연구자의입니다네 그래서 내가 여러 차례 검증한 결과를 렇게 요약해서 보고 한다라고 리포트를 발단을 했어요네 근데 그 연구자가 결국 어떻게 되냐면요 해고됐습니다음 왜 해고 했냐면 구글의 경영진 입장에서는 이런 뭐 의식이 있고 감정을 표출한다는 것이 AI 사회적으로 부정적으로 인식될 가능성이 크잖아요 사람들이 이걸 두려워할 수 있죠 이게 계속 외부에 노출되면 구글에 피해를 준다 이거죠 그래서이 사람과 막 협상하고 뭐 또 이렇게 조정하는 과정에서 결국 해고처리이 공고 사직 처리를 해 버렸어요 결국 이런 AI 구글조차도 AI 의식과 감정을 가질 수 있는 가능성이 있다 그런 쪽으로 AI 진화하고 있다는 걸 인정하는 셈이 된 거거든요네 그러면 말씀하신 이거에 이제 인간의 본질을 침해하는 영역까지도 다가갈 수 있고 이게 사람에 따라서는 이걸로 피해를 보는 사람도 생길 수 있다는죠 저도 몇 년 전에 그 AI 혹 로봇 윤리 현장을 만드는 그 위원회 활동을 좀 했었거든요 산업통상자원부에서 그만큼이 디페이 AI 아든 이게 뭐 남의 이야기가 아닌 상황이 우리는 어 곧 펼쳐진다 이렇게 보겠고 어쩌면이 기술진보가 위기를 불러올 수도 있겠다 라는 우도 됩니다 결국 어떻게 사용할지 문제인 것 같고요 근데 말씀하셨던 것처럼이 정서적 교감이 무조건 문제냐 또 그건 아닐 수도 있거든요 왜냐면 제 소니의 사례를 들어보면 너무나 유명한 사례죠 소니의 그 로봇펫 아이보 2.0 같은 경우는 일본의 고령자가 25% 넘어요 우리나라가 내년에 20% 됩니다 그니까 초고 회 내년에 진입하는데 일본은 진짜 진입했고 25% 수준이에요 레벨로 보면 우리보다 훨씬 높아요 근데 고령화 속도가 우리가 빨라서 추월할 수 있겠다라는 우려 거죠 근데 일본 같은 경우 25% 1분이 고자고문 노인이세요 그러면 더군다나 만약에 극단적인 경우 치매 환자라고 했을 때 보호자가 옆에 없단 말이에요 근데이 로봇펫 아이보 2.0은 일종의 보호자 역할도 하고 정서적 교감도 하고 그리고이 아이보 2.0은 그 보호자와 소통도 하고 어 심지 이제 눈까지 마주 치잖아요 그러니까 그런 것들이 이제 잘 활용되면 좋은 건데 또 그 정서적 교감이라는 그 이슈를 다른 방향으로 또 틀어서 사용하면 또 악용될 소지가 있는 자 기술진보가 어떻게 전개될지 우리는 정확하게 구분 되는 그런 현 주소에 놓여 있는 것 같습니다 그런 관점에서 좀 AI 에 대해서 조금 더 심도깊게 이야기를 좀 해보고 싶습니다