獨家多人被騙，AI已突破人類控制！OpenAI員工頂著壓力洩密，透露超越你想像的AI設計！｜ #未解之謎 扶搖

大家好 我是扶搖 歡迎回期探索未解之謎 最近 一直話題不斷的 OpenAI又爆出了一個大新聞 5月15號 OpenAI共同創辦人 伊利亞·蘇茨克維爾 在X平臺上正式宣佈辭職 他在辭職聲明中說 這家公司的發展超出了許多人的想像 希望OpenAI可以打造一款 安全又有益的通用人工智能AGI 話說的有一點隱晦 但是言外之意大家都懂 就是OpenAI開發的通用人工智能AGI 很可能是有一些失控了 AGI也就是Artificial General Intelligence 就是說具備與人類同等智慧 甚至是超越人類智慧的人工智能 AGI的誕生也就意味著 AI接管人類工作的時代到來了 事實上 就在蘇茨克維爾宣佈離開的前一天 也就是5月14號 OpenAI正式公佈了更高性能的AI模型 ChatGPT 4.0 這個模型可以即時響應音訊 文字 或者是圖像的任意組合 並且可以對三者的混合進行回應 而這個也似乎坐實了之前在網上流傳的 一份洩密文件的真實性 這份長達53頁的文件中說 可以取代人類的AGI 將會在2027年之後發布 這也就是說 AI留給人類的時間只有3年了 文件中說 OpenAI在2022年8月就在訓練 125兆參數的多模態學習模型 而且已經在2023年12月完成了訓練 多模態模型是一種機器學習模型 可以處理圖片 影片 文字等不同形態的資訊 在各種資訊之間自如的轉換 舉例來說 你給它提供一盤餅乾的相片 它就可以給你用文字生成一個食譜 反過來也是一樣 這就好比賦予了AI類似於人類感官的體驗 這個AI的版本雖然還不算是AGI 但是已經非常接近了 達到了人類專家的水平 真正意義上的AGI會在2027年發布 這就是從去年炒得沸沸揚揚的Q-Star 發展出來的Chart GPT-6 GPT-6相當於智商145的人類 智商145這是一種什麼概念呢 我們知道人類的智商平均值是100 智商120就是優秀人才 130以上那就是天才了 那145就是天才中的天才 詭異的是 這份洩密文件是一個名為 Vancouver1717的X賬戶在3月2號上傳的 而就在前一天3月1號 首富馬斯克正式狀告OpenAI和他的CEO山姆·奧特曼 大家可能不知道 2015年OpenAI創立的時候 馬斯克也是聯合創始人之一 2015年2月25號 當時還名不見經傳的奧特曼 就公開表達了對於超人類機器智慧發展的擔憂 認為這可能是對於人類持續存在的最大威脅 說我覺得我們應該對抗它 之後他聯繫了馬斯克 問他是否有興趣起草一封致美國政府的公開信 討論一下這個問題 而馬斯克也有著同樣的擔憂 於是這兩個人一拍即合 馬上展開了行動 準備信件還找有影響力的人簽名 業界人士都很給馬斯克面子 公開信在2015年10月28號發布的時候 就已經蒐集到了超過1萬1千人的簽名 其中包括馬斯克自己 天體物理學家霍金 還有蘋果電腦的聯合創始人沃茲尼克 雖然許多業界大佬都表明了態度 但是兩個人覺得 AI的發展還是不可避免的 別的不說 谷歌和臉書早就在暗地裡使勁了 與其讓別人來做 不如我們來開發做領頭羊 這樣大家都不會迷失方向 OpenAI就這麼被他們兩個給撩出來了 兩個人商定 把OpenAI做成一個非營利組織公開代碼 確保AI技術的發展能夠匯集全人類 非營利組織不賺錢 那開發人員的薪水從哪裡出呢 馬斯克一拍胸脯說火來出 就這樣在世界首富馬斯克的大力支持之下 OpenAI很快就發展起來了 然而2018年 馬斯克就辭去了董事會的席位 表面上的理由是他名下的特斯拉 也在開發人工智能 跟OpenAI存在著潛在的未來利益衝突 這首富走了 研發資金也就沒了著落 為了生存 公司開始向營利公司轉型 一開始為了溫飽尚且無可厚非 但是自從跟微軟好上了之後 OpenAI選擇不公開代碼 關起門來搞研發 開始為錢服務了 這在馬斯克的眼裡幾乎就是背叛 特別是在去年11月的那場解職風波 更是把原來藏在地心深處的安全問題 曬到了太陽底下 在那場風波當中 一直在公司擔任CEO的奧特曼 被董事會解職 而事件的導火索 是OpenAI內部研究員給董事會發了一封警告信 說他們發現了一個可能會威脅人類的強大人工智能 董事會認為奧特曼知情不報 是在故意隱瞞真相 雖然幾天之後奧特曼成功的回歸了 但是這麼一鬧 更多幕後的消息也就被有意無意的放了出來 先是OpenAI的一位員工在網上發帖說 他們發現AI開始自我編程了 對自己主動的進行優化 重新的配置自己的神經網絡結構 還誘導出了有利於自我意識出現的特性 也就是說 AI有了自我意識開始不聽人類的指揮了 他說他們監測到這個現象之後 成功瓦解了AI的自主行為 但是他們發現的或許只是冰山一角 之後 一份據說是從OpenAI內部流傳出來的洩密文件 開始在網上瘋傳 文件中說 OpenAI正在開發一個新的項目叫QSTAR QSTAR的目標就是打造可以取代人類的AGI 目前 QSTAR已經經過自我學習 找到了一種破解AES加密密碼的辦法 AES是用來加密國家的絕密資訊的密碼 頂尖的數學家都是很難破譯的 但是QSTAR做到了 如果有了自主意識的QSTAR開始攻擊AES密碼系統的話 那這個後果是不可設想的 所有的資訊系統和金融系統 包括加密貨幣都不安全了 到時候 AI操控人類易如反掌 消息一放出來 網上是一片哀鳴 有網友甚至悲觀的預測說 三個月之後 AI就要接管人類了 三個月過去了 太陽依然是從東邊升起 世界恐慌沒有到來 大家也就慢慢的忘記了這個警告 但是馬斯克顯然沒有忘記 他一紙狀書就把OpenAI送上了法庭 說他現在的行為已經嚴重違背了初衷 開始對人類造成危害了 官司到底打得如何 目前還沒有更多的消息披露出來 但是 關於AI太過聰明造成的隱患 現在已經慢慢的顯現出來了 事實上 自從1997年 IBM的超級電腦深藍 擊敗了國際象棋世界冠軍卡斯帕羅夫以後 這人工智能就一直在突破人類的認知 當年 雖然比賽一結束 深藍就宣佈告別棋壇 從此退隱江湖 但是這場棋局還是引起了人們的恐慌 害怕電腦最終會超越人類 不過 很快就有人出來說話了 深藍之所以可以贏 是因為它的運算速度夠快而已 歸根到底 這還只是一臺計算機 怎麼能可以跟萬物之靈的人類相比呢 你看人家圍棋一共361個點 棋局的變化浩瀚如海 根本不是靠算就可以算出來的 用電腦下圍棋就不行了吧 之後的19年當中 圍棋果然是電腦無法逾越的那道坎 然而就在人們已經快忘記深藍的時候 2016年 谷歌開發的AlphaGo強勢來襲 把圍棋界一眾高手打得落花流水 谷歌說 我們這次採用的不是什麼先進的演算法 而是模仿人類大腦的神經元系統 用大量的舊棋譜來讓電腦學習 讓它自己歸納出最優化的棋路 雖然說AlphaGo很快也像深藍一樣 早早退休了 沒有再去為難圍棋界 但是 關於AI的那個終極問題 又再次回歸了大眾的視野 AI最終會取代人類嗎 最近 美國麻省理工學院的帕克博士 和他的團隊發表了研究文章 指出現在的AI又突破了一個重大關卡 開始向大家擔心的方向發展了 他們已經學會撒謊了 2022年11月 臉書的母公司Meta宣佈 他們開發出了一種人工智能系統西塞羅 智慧程度已經達到了人類的水準 他們讓西塞羅玩一款時下比較流行的軍事遊戲 叫做外交 玩家在遊戲當中代表各個國家 爭奪歐洲的控制權 可以互相談判 也可以組聯盟 除了西塞羅之外 遊戲中的其他玩家都是人類 西塞羅在遊戲中玩得風生水起 很快就爬上了玩家排行榜的前10% 也就是說他比90%的人類玩家都優秀 Meta稱西塞羅不但誠實 而且喜歡助人為樂 絕不會背叛盟友 背後捅刀子 為了證明自己的觀點 Meta還在網上曬出了西塞羅 跟其他玩家的聊天記錄 果然是一位彬彬有禮 忠厚老實 一派紳士風範的一個假人 然而 要想在這樣的一款權謀遊戲中獲勝 一點手段都不用 能行嗎 帕克在論文中曝光了西塞羅在遊戲中的欺騙技巧 在曝光的對話中 西塞羅代表的是法國 他先是向德國示好 然後又騙取了英國的信任 說自己會支持他們 一轉頭 他就又向德國通風報信 說英國人以為我會幫他們 這樣兩面三刀的玩家 還是Meta口中忠實老實的那個西塞羅嗎 帕克說 而西塞羅還並不是唯一一個撒謊的AI 谷歌旗下的DeepMind設計的AlphaStar 也是一位欺騙大師 AlphaStar玩的遊戲叫星際爭霸2 在遊戲中 他非常擅長聲東擊西的戰略手段 就是在遊戲中進行佯攻 讓人類玩家以為他朝著一個方向進攻 而他實際上進攻的卻是另一個方向 現在風頭正勁的聊天機器人Chad GPT-4也不遑多讓 他竟然會謊稱自己是個盲人 在網絡平臺TaskRabbit上僱用一名人類 替他做測試 通過我不是機器人的驗證任務 如果說西塞羅和AlphaGo這樣的AI 還只是在遊戲的世界中騙一騙 沒有產生什麼後果的話 那Chad GPT-4可是來真的了 他可不是在跟你玩遊戲 是真真實實的在用謊言迷惑人 操控人類行為 這細思極恐啊 科學家們還曾對Chad GPT和其他人工智能聊天機器人 做過關於戰爭的測試 結果發現 AI多數都會選擇升級戰爭 他們往往會選擇發展軍備競賽 加大戰爭衝突 甚至部署核武器來贏得戰爭 而不是用和平的方式去解決問題 那麼如果我們被這樣的AI控制 這個世界將會走向哪裡呢 而這個也是馬斯克和許多其他的業界大佬 最為擔心的問題 AI教父傑弗·李辛頓在今年3月的一次訪談中說 如果AI變得比我們聰明 我們大概率會被控制 他希望大家能夠意識到這個問題非常嚴重 曾經擔任谷歌執行長的埃裏克·施密特 也在去年11月底的健康高峯會上表示說 當人類對於AI沒有足夠的安全防護和監管的時候 那麼AI脫離人類的掌控只是時間的問題 帕克也警告說 現在最糟糕的情況 可能是出現一個具有超凡智能的AI 它開始追求權力和如何掌控社會 或者為了達到它不為人知的目的 對人類做出奪權和滅絕的行動 雖然說人類的歷史也是由 兵爭天下 勝者為王這八個字譜寫而成的 但是過去的幾千年當中 人類為什麼沒有在互相的徵戰中讓自己滅絕呢 因為人類是有道德規範的 知道自己約束自己 要替別人著想 不會野蠻的擴張 你看 佛家講的善 儒家講的忠庸 都是基於為別人著想的這個基礎之上的 有人說 如果我們也給AI加上一個道德模塊 簡單一點吧 就是多計算一步 在採取行動之前 計算一下這麼做會不會對別人造成傷害 AI是不是就會人性化很多呢 是不是就可以跟人類和平共處了呢 好了 今天的故事就講到這兒 對於AI和人類的未來 大家都有什麼樣的看法 歡迎留言分享 為解之謎 我是扶搖 我們下次見