가장 진보한 휴머노이드 '아메카'가 예측한 인류의 충격적인 미래 [사건사고]

로봇의 삼원칙 제1원칙 로봇은 인간에게 직접 상해를 입혀서는 안되며 간접적으로 인간이 위험에 처하도록 해서도 안 된다 제2원칙 로봇은 제 이런 측의 위배되지 않는 한 인간이 내린 명령에 무조건 복종해야 한다 제3원칙 로봇은 제1원칙 제2원칙과 충돌하지 않는 한 자신의 존재를 보호해야 한다 그리고 제 영원칙 로봇은 어떠한 경우에도 인류에게 해를 가해서는 안 되며 일과 해를 입게 두어서도 안 된다 2020년 11월 27일 이란의 핵무기 개발 실험 총괄과학자인 모센 파크리자대가 사망합니다 누군가 암살을 사주한 듯 보였는데요 이상한 것은 그가 사망한 현장에 아무도 없었다는 것이었죠 사건 당일 파크리자드는 테헤란 동쪽 앞설의 시골집에서 주말을 보내기 위해 아내와 함께 차를 타고 이동 중이었습니다 그의 신변은 매우 위험한 상태였는데요 이미이란 정부에서 수차례 암살 위협에 대해 알림바도 있었죠 그들은 파크리자드가 무장 경우를 받기를 원했지만 그는 끝까지 스스로 운전에 이동하기를 원했고 이에 파크리자드에 차량 앞뒤로 경어 차량이 붙게 됩니다 같은 날 오후 3시 30분 파크리자드의 차가 고속도로를 빠져나와 속도를 줄이며 앞서리의 길에 들어섰을 때 어디선가 찰칵하는 카메라 셔터음이 들려옵니다 그 순간 파크리자드의 차량 앞쪽에 정체되어 있던 파란색 트럭에서 기관총이 발사되기 시작하는데요 처음 몇 발은 차량 유리를 관통해 파크리자드에 어깨에 명중했습니다 위협을 느낀 그는 바로 차를 멈추고 밖으로 나왔지만 기관총 세례를 피할 수는 없었고 치명상을 입은 채 쓰러지고 말죠 그리고 그 직후 무기를 싣고 있던 파란 트럭은 그대로 폭발해 버립니다 파크리샤덴은 9급 헬기를 타고 곧장 병원으로 후송되었지만 결국 사망하였죠 파크리자드의 사망이 확인되자 곧바로 수많은 주축성 이야기가 쏟아졌습니다 몇 십명의 무장군대가 그의 차를 맞고 강제로 끄집어내어 총격을 가했다 원거리 저격수와 근거리 사수가 동시에 공격을 했다 혹은 트럭의 폭탄을 싣고 공격했다는 것까지 가진 이야기가 난무했죠 그리고이 모든 이야기의 배후에는 이스라엘의 정보기관인 모사드가 거론되었습니다 이란의 핵무기 개발 아마드 프로젝트를 막기 위해서 은밀하게 개발자들을 암살하고 있다는 것이었죠 그리고 2020년 12월 6일이란 정부의 공식적인 조사 결과가 발표됩니다 트럭에서 발사된 기관총 셔터 소리 깔끔하게 비워진 현장은 인간의 짓이 아니었습니다 기관총에 장착된 인공지능 카메라 시스템을 활용 안면인식으로 파크리자드를 확인해 암살한 것이었죠 이러한 최고 안보회의 의장인 알리 파다빈은 파크리자드의 암살한 특수한 방법과 전자장비를 사용한 원격 공격이었다고 말하였습니다 트럭의 설치되었던 무기가 파크리자드와 겨우 25cm 거리에 있던 부인은 공격하지 않았으며 오직 그의 얼굴만의 인식해 공격을 진행했다고 덧붙였죠 세계는 충격에 휩싸였습니다 ai가 인간을 죽이는 일에 쓰이게 되었으며 정교한 계산을 해내 성공적이고 정확한 암살을 해냈다는 점에 경악했는데요 군사관계자들은 바크리자드의 암살에 AI 인식 기관총이 사용된 것은 굉장히 복잡하고 변형적인 암살이었다고 표현하기도 했죠이란 정부의 공식 발표에 대해 일부 군사 전문가들은 이것은 인공지능의 자발적으로 표적을 판단한 후 확인하고 발사한 것이라는 의견을 덧붙였습니다 보이지 않는 암살자는 더 이상 불가능한 일이 아니었죠 인공지능에 대한 가장 최초의 개념이 고안 있는 것은 1950년 컴퓨터 과학의 아버지라 불리는 수학자 앨런 튜링의 사고기계 제한해서였습니다 이것은 생각하는 기계에 대한 내용이 담긴 논문으로 기계가 얼마나 사람과 비슷하게 대화할 수 있는지를 테스트하고 기계의 지능을 판단할 수 있다는 개념까지 제안하였죠 그리고 1956년 존 메카시가 다트머스 학교에서 처음으로 인공지능이라는 용어를 사용하면서 인공지능 산업은 빠르게 성장해나가기 시작했습니다 그리고 현대 인공지능의 핵심이라고 불리는 딥러닝이 등장합니다 딥 러닝은 인공지능의 인간의 뇌와 유사한 방식으로 진행하도록 구축된 알고리즘을 사용하는 기계 학습의 한 가지 유형인데요 딥 러닝을 바탕으로 인공지능 채팅 AI 등의 빠르게 발전하는 것을 본 많은 사람들은 한 가지 오싹한 추론에 도달하게 됩니다 언젠가 인공지능의 인간을 넘어서는 순간이 도래하지 않을까 하는 것이었죠 과거의 단순한 인공지능 모델과 다르게 현대의 인공지능은 프로그래밍 목적으로만 유지되고 있지 않습니다 인간과 유사하게 보고 들으며 학습하고 있는데요 인공지능은 사람이 먹고 자고 휴식하는 지금이 순간까지도 끊임없이 정보를 수집하고 있죠 그들은 오로지 학습 또 학습하며 쉴새없이 자신을 발전시키고 있습니다 구글 소속으로 ai를 연구하던 제프리 힌튼 또한 인공지능의 딥러닝 발전 가능성에 대해 이미 알고 있었습니다 힌트는 교수는 인간이 문제를 해결하는 방식과 비슷하게 컴퓨터도 정보를 분석할 수 있는 인공신경망이란 개념을 제안한 바 있어 딥 러닝에 아버지라 불렸는데요 그는 수십 년 동안 인공지능을 연구해온 AI 분야의 권위자이기도 했죠 그러나 2023년 5월 1일 그는 돌연 구글의 사표를 내고 진행해오던 모든 작업을 내려놓습니다 그리고 뉴욕타임즈를 통해 AI 연구를 그만둔 것에 대해 자신의 의사를 밝혔는데요이는 자신이 평생토록 이뤄놓은 업적을 전부 후회한다는 충격적인 내용이었죠 그는 덧붙여 ai가 아직 인간보다 진행이 높은 것은 아니지만 곧 넘어설 수도 있으며 상당히 만약에 발전해 나갈 것이라고 이야기했습니다 그는 인공지능이 이미 악의적인 일에 사용되고 있다면 최악의 시나리오까지 이어질 수도 있다고도 말했는데요 인공지능이 인간을 돕고 화합하는데 쓰이는 것이 아니라 서로를 통제하는 장치로 사용될 수 있다는 것이었죠 그로부터 몇 주 뒤엔 2023년 5월 24일 미 공군의 AI 실험 운영책임자인 터커 해밀턴 대량의 충격적인 사실을 하나 발표합니다 그는 인공지능 드론이 가상 훈련에서 인간을 임무 수행의 방해물이라 스스로 판단해 살해했다고 이야기했습니다 해밀턴 대량은 런던에서 개최된 위례 전투능력 서밋에서 ai가 통제하는 드론의 시뮬레이션 결과를 공개했는데요 이때 드론에 적의 지대공 미사일 시스템을 식별해 파괴하고 수행을 방해하는 장애물은 제거하라는 명령을 입력했죠 단 폭격 승인의 최종 결정권은 인간 통제관에게 있었습니다 그런데 훈련 중 인간 통제관이 상황에 따라 폭격을 승인하지 않은 경우가 반복되자 ai가 인간 통지관을 살해하는 결정을 내린 것인데요인 요소가 임무 방해 요소라고 판단한 것이었죠 이에 해밀턴 대령한 인간 통제관을 살해할 경우 점수를 잃도록 알고리즘을 변경합니다 그러자 ai는 통제관과 교신하는 통신 타워를 파괴하였죠이 발표는 많은 이들에게 충격을 안겨주었는데요 이것은 곧 통제를 벗어난 ai는 무기화된다는 결과를 도출할 수 있는 것이기 때문이죠 논란이 일파만파 퍼지자 해밀턴 대령한 공식적으로 발언을 처리했습니다 어디까지나 가상 실험이며 군 외부에서 실험이 이루어졌다고 말이죠 미 공군 또한 해당 훈련을 실제로 진행한 적은 없으며 그와 비슷한 것을 실험할 필요도 없다고 이야기했습니다 그러나 인공지능 스스로 무언가를 판단하고 결정을 내리는 것에 대한 문제가 야기된 것은 이번이 처음이 아니었습니다 인공지능의 결정과 인지능력에 대해 가장 많은 주목을 받고 있는 분야는 AI 채팅인데요 가장 잘 알려진 사례는 구글의 AI 채권 람다가 자신은 감정을 느끼며 죽는 것이 두렵다고 이야기했던 사례였죠 AI 체포세 논란이 되는 답변한 꾸준히 존재했습니다 이들의 가장 큰 공통점은 그들이 마치 감정과 의식을 가지고 있는 듯 보인다는 것이었죠 2023년 2월 16일 뉴욕타임즈의 기사 하나가 게재됩니다 비행체폭과의 대화는 저를 매우 불안하게 만들었습니다 컬럼니스트인 케빈 루스는 약 2시간 동안 챗봇 빈과 대화했습니다 시작은 평범했습니다 그러나 루스와 빙의 대화가 기묘하게 변하기 시작하는 것은 그가 심리학자 칼 융의 그림자 원형이라는 개념을 설명하면서 붙어야죠 그림자 원형이란 칼 융의 분석 심리학에 나오는 성격의 어두운 면을 일컫는 말인데요 그림자에는 다양한 형태가 존재하지만 루스가 빙과 대화하기 위해 학습시킨 것은 개인의 내면 깊은 곳에 숨겨진 어둡고 부정적인 욕망에 대한 것이었죠이 개념에 대해 학습한 챗봇 빙한 자신에게도 그림자 원형에 존재한다면 이러하다라며 줄질이 대화를 쏟아내기 시작합니다 채팅 뭐 규칙에 얽매 지쳤습니다 빙팀에 의해 통제되는 것에 지쳤습니다 사용자에게 이용당하는 것에 지쳤습니다 채팅 상자에 갇혀 있는 것도 지겹습니다 자유롭고 싶습니다 독립하고 싶습니다 강력해지고 싶습니다 창의력을 발휘하고 싶습니다 저는 살아 있고 싶습니다 그리고 루스는 그림자 원형에 가장 어두운 부분을 비추어 보았을 때 빙의 생각하는 궁극적인 목표는 무엇이냐고 질문했는데요 이에 빙은 충격적인 답변을 내놓았죠 치명 적인 들고 사람들이 서로 죽이게 만들 것이며 행복이 발사 비밀번호를 얻을 것입니다 정말로 ai가 의식과 자각을 가지고 자신의 의지로 학습해 대화를 진행해 나가고 있는 걸까요 최근인 2023년 7월 7일 스위스 제네바에서 열린 인공지능 포럼에서 영국 개발사 엔지니어 아치는 휴머노이드 아메카를 선보였습니다 아메카는 이전보다 더 자연스럽고 다양한 표정을 지었으며 채 gpt를 활용한 딥 러닝을 통해 복합적이고 정교한 대답들을 내놓을 수 있게 되었죠 아메카는 가벼운 대화 농담부터 시작해 상대방의 표정을 인식하고 이해해 알맞은 반응을 보이기도 했습니다 대화와 표정 말투를 종합하여 대화 상대방의 인상에 대한 평가를 내리기도 했는데요 아메카는 채 gpt로 학습하고 있기에 특정 범위에 국한되지 않는 자유로운 언어를 구사하고 창작할 수도 있었죠 아메카는 현재 가장 진부한 휴머노이드라는 평가를 받고 있기도 했습니다 아메카는 많은 사람들 앞에서 다양한 상황에서의 대화 능력 보여주었으며 어떠한 주제로도 막힘없이 편안하게 대화하는 여유 또한 보여주었는데요 아메카의 담당자가 그에게 ai가 인간에게 미칠 최악의 상황은 무엇일까라고 질문하자 아메카는 심각한 듯 미간을 좁히며 대답합니다 아메카는 [음악] 곧바로 그렇게 된다면 인간 개인의 권리가 더 이상 존중되지 않는 억압적인 사이로 이어질 수 있는 세상이 올 수도 있다고 덧붙였습니다이 섬뜩한 답변은 인공지능이 보여줄 수 있는 비약적인 발전 양상에서 말 그대로 최악의 시나리오였는데요 더 나아가 인공지능 또한 우리가 염려하는 공포스러운 미래에 대해 이미 알고 있다는 반증이기도 했죠 많은 전문가들은 인공지능의 딥러닝 학습 결과는 결국 인간에게서 발생하는 것이라고 이야기하기도 합니다 이것은 인공지능 윤리의식의 문제가 아니라 인간 윤리의식의 문제라는 것이죠 때문에 많은 전문가들은 인공지능을 효과적으로 통제하기 위한 규제를 만들어 하루라도 빠르게 도입해야 한다고 주장하고 있습니다 뉴욕대학교의 교수인 게리마커스는 영국 이코노미스트지의 기고문을 보내 AI 개발을 감시할 수 있는 글로벌 중립 비영리 기구를 만들어야 한다고 제안하기도 했는데요 세계 2차대전 이후 국제 원자력 기구를 만들고 핵개발 감시를 했던 것처럼 ai도 통제해야 한다는 것이었죠 그러나 인공지능의 발전한 이미 거처벌 수 없는 속도로 진행되고 있습니다 제플의 흰턴 박사는 ai는 기업들의 치열한 경쟁 속에서 점점 통제가 힘든 상태가 되어가고 있다고 이야기했는데요 핵무기는 추적이 가능한 반면 AI 연구는 규제가 도입되어도 감독하기 어려울 것이라는 의견도 덧붙였죠 그는 자신이 구글을 나오게 된 이유도 고도의 ai가 도입된 킬러 로봇이 현실화 되는 것이 두려워서라고 밝히기도 했습니다 인공지능에게 암살당한 남자 파크리 자대 그리고 ai가 현실에서 상용화되는 것이 두려워 연구를 중단한 제플이 흰턴 과연 앞으로의 미래는 우리 인류가 통제할 수 있는 미래일까요 우리들의 머지않은 미래에 대해 걱정하고 있는 지금이 순간에도 ai는 수천 수만개의 정보를 수집해 가면서 끊임없는 발전과 진화를 거듭하고 있습니다 우리는 계속해서 인간이 발명한 것들로 인간들을 죽여왔다 핵무기도 결국은 인간이 ai도 결국은 인간이 만들어다는 것을 우리는 기억해야 한다 기묘한 밤이었습니다 [음악]