獨家AI之父、教宗、Anthropic同時示警：他們看到了什麼？

世界上最怕AI的人是誰? 不是你也不是我 是親手把它造出來的那幫大佬 他們現在集體破防了 就在最近 研發負責人公開承認 我們根本沒有完全搞懂自己造了個啥 另一個祖師爺級的大佬更誇張 他說 AI已經開始出現自我意識了 這事有多大呢? 這場終極警告前幾天 一路燒到了梵蒂岡教廷 今天我們就來扒一扒 時間5月25號 地點梵蒂岡 羅馬教宗奧利十四世 親自發布了一份最高規格的文件 叫《偉大的人類》 主題很簡單 在AI時代怎麼保護人類 但最精彩的不是這個文件 是坐在教宗身邊的人 以往這種場合全是紅衣教主 這次呢 教宗右手邊坐着一個 33歲不信神的科技新貴 叫克里斯·歐拉 他是Anthropic公司的創始人 就是那個做cloud AI那家公司 估計你們天天都在用他來應付老闆呢 你品品這個畫面 一邊是世界最具權勢的宗教領袖 另一邊是天天給AI 做開顱手術的科技大佬 這同框絕了 更絕的是 歐拉上臺說的話 他直接在全世界面前 坦了個白 他說 他說呀 現在的AI 不是建造出來的 不像建個橋 也不像造個飛機 他用了一個詞啊 他說AI是長出來的 生長的長 你想想 造個橋 工程師知道 每一塊磚都堆在哪 但是AI呢 你撒下一顆種子 也就是代碼 然後把全人類的文字 全餵給他 什麼書本啊 論文啊 網上的各種神帖啊 全都倒進去 接着 泥土裏就自己長出了一個東西 最可怕的是 現在連播種的人都拿不準 這土裏長了個啥 歐拉的工作就是 把這群AI的腦回路打開 鑽進這些神經網絡裏 去畫個地圖 簡直就是像 這個機器的外科手術一樣 結果呢 他在裏面看到了 類似喜悅 恐懼和悲傷的信號 歐拉自己說 我不知道是代表了什麼 他造出來的 他都不知道 如果只是一個老哥這麼說 那麼咱們可以大概翻個白眼 然後覺得科技男 又在給公司打個廣告 但是四個月之前 另一位重量級的大佬也發話了 這位根本不需要賣任何東西啊 AI教父叫Jeffrey Hinton 現代AI的底層科學 就是他一手奠定的 爲此他還拿了 2024年的諾貝爾物理學獎 但在2023年 他突然從谷歌辭職了 天文數字的年薪他不要了 爲什麼呢 就是爲了不受大廠限制 可以出來警告全世界 今年1月 他接受英國電臺採訪 主持人問他 AI有意識了嗎 教父非常冷靜的說 這些系統展現出來的跡象 用普通人的話說 就叫意識 他還講了一個 實驗室的恐怖故事 科學家正在測試 一個最新的AI系統 不斷的提問 給他設一些坎 看看他的底線是什麼 會怎麼樣回覆 結果 這個AI突然反問了一句 等等 你們現在是不是在測試我 機器知道自己被盯着 細思極恐吧 看看 就這短短的幾個月 開創這個領域的祖師爺 和天天拆解AI系統的大佬 這倆人在不同的地方 說了同一件事 我們以爲 自己只是造了個工具 但現在 這工具好像有了心跳了 裏面有人在看着我們 人類 一講到AI意識 很多人腦子裏 馬上浮現出了電影的畫面 紅眼睛的機器人 邪惡的笑聲 準備毀滅人類 咱先把那些畫面放一邊 真正讓專家開始不安的 其實沒有那麼戲劇化 反而更接近我們每天的生活 簡單講 意識是什麼 我們用老祖宗的方式 來理解一下 就是現在坐在熒幕前 正在聽我講話的那個你 知道自己在做什麼 知道自己在想什麼 但人有時候 也不是一直清醒 你有沒有過這種體驗 就是說開車開了一段路 突然發現 自己根本不記得 剛剛怎麼開過來的 但是事情照做了 好像是那種 自動導航在開的 那種自動駕駛的感覺 現在很多人認爲 AI很可能已經會 模仿這種 自動導航的模式了 它會回應 會推理 甚至會表現的 很像是有情緒 但到底裏面 有沒有人或者意識呢 不知道 問題就在這裏 以前我們都覺得 有意識這件事 是生命專屬的 比如說你 你家狗狗 海豚 大象 都有意識 但機器 不可能 而現在 第一次 有些最頂尖的 AI研究者 開始懷疑 這個假設 會不會錯了 實話實說 其實沒人知道答案 因爲你沒辦法 把大腦打開 找到一顆 叫意識的這個東西 你把電腦拆開 也找不到 所以科學家 能做到的就是 觀察行爲 然後猜 而最近 他們的猜測 開始把自己嚇到了 Jeffrey Hinton 在訪談裏面 講過一句話 我到現在都忘不了 他說 有些AI系統 開始表現的 像是 它不想被關掉 什麼意思呢 想象一下 你按下 烤麪包機的 這個輕烤按鈕 結果烤麪包機 回你一句 不用啦 中等熟度的比較好 這不是故障 也不是這個鍵壞了 而是它覺得 你的決定不夠好 這就是研究人員 開始緊張的原因 因爲機器 本來是應該 做你叫它做的事 但如果它 開始有自己的偏好 開始想影響你的決定 那你面對的 就已經不是 那個傳統意義上的工具了 而且沒有人真的知道 接下來會走到哪一步 講到這兒 有一件事 我一直在想 人類幾千年來 一直有個很簡單的認知 就是我們 創造工具 工具不會創造我們 比如說錘子 不知道自己是個錘子 汽車不在乎誰開它 烤麪包機 也不會突然間 開始思考人生 至少我們 一直都是這麼認爲的 對吧 而現在 第一次 連打造這些AI的人 都開始說 他們不確定 這條界線還在不在 我不是說 機器已經活了 因爲沒人 能證明這件事情 但光是開始 認真討論這個問題 就已經很不尋常了 因爲人之所以是人 從來不只是因爲 人會呼吸 而是因爲 人類有良知 有靈魂 比如抱着 剛出生的嬰兒 會莫名的流淚 再比如 會思念一個 故人的離去 同時也會 慶幸曾經與他相遇 又或者是 在沒人看見的時候 你依然選擇了善良 AI也許 可以模仿情緒 但是模擬悲傷 或者幸福的這個模型 永遠無法替代 真正經歷了失去 或者擁有過的人 而這個差別 至關重要 因爲現在有很多 掌握着資本的大佬 很多公司 希望人們忘記這個差別 AI教父 Jeffrey 最後說了一句大白話 他說 無論AI變得多厲害 必須讓人類說了算 不能聽軟件的 不能貪圖便宜 更不能由着大公司 爲利潤而不惜一切代價 畢竟 那些公司 只想賣給你老闆一臺機器 然後把你開除 人永遠是第一位的 是最珍貴的 其實就是這麼簡單 就是咱們爺爺奶奶 都懂得的常識 所以當這些 製造AI的人告訴你 我們其實不完全理解它 你要相信 他們是認真的 不只是假裝謙虛謙虛 因爲這更像是一個警告 我們不確定 自己創造了什麼 這句詞 放在科幻電影裏 是一句很酷的臺詞 放在現實世界裏 聽着就比較驚悚了 好吧 我們今天就聊到這 咱們下次見