11/21“馬斯克會更富有，人們會失業”：諾貝爾獎得主辛頓談人工智能

這是一個關於為最壞情況做準備的故事 也許是我們任何 人所能想像的最糟糕情況 一年前 我們與電腦科學家談過 傑弗里·辛頓在獲頒機器學習領域諾貝爾獎僅幾 天後這位被譽為人工智慧「教父」 的人物自那時以來一直忙碌不已 卻並未致力於開發人工智慧 但提醒人們注意這一點 他說 我們都已更加意識到其中 的風險 但僅僅知道這些風險 是不夠的 我們必須採取行動 假設某架望遠鏡發現了一 支約十年後就會抵達的外 星入侵艦隊 我們必定會 感到恐懼 並採取行動應對 好吧 這就是我們現有的情況 我們正在打造這些外星人 他們大約十年後就會到來而且會比我們更聰明 我們必須認真再認真地思考 我們該如何與這些事物共存 共存與控制 這兩件事正是傑弗里·辛頓本人 反覆深思的課題 作為促成現代人工智慧成為可 能的電腦科學家之一 他最適 合評估其未來發展 以及究竟 有誰或是否有人能塑造這一切 有公司真正在安全方面投入實質工作嗎 我的意思是 我們聽過 Anthropic 也聽過 DeepMind 它們真的在安全層面有所貢獻嗎 是的 我認為達里奧·莫迪 和德米斯·哈薩比斯 還有傑夫·迪恩 他們都相當重視安全問題 顯而易見 他們都參與其中 在激烈的商業競爭中也 是如此 因此情況很困難 但他們都明白 當人工智慧變得超級智能時 可能會取代我們 這是一種生存威脅 所以他們多少有些擔憂 我認為有些公司比其他公司更不負責任例如我覺得Meta就特別不負責任 雖然OpenAI成 立時是為了負責任地 處理這件事 但卻一 天比一天更不負責任 而且他們最優秀的安全研究人員都已陸續離開 或已經離開 我認為 Anthropic 和 Google 對安全問題多少有些顧慮 其 他公司則相對較少關注 當我與一些人士交談時 在你們提到的一些公司裡 當我提出安全性的疑問時 我經常聽到的回應是：「別擔心 你 那可愛的小腦袋不用為這事煩心 」 我們有優秀的電腦科學家正在處理此事 我們距離任何真正的危險還很遠 而且我們的電腦科學家很快就會有所發現因此 我們更關心的是這場競賽 成為主導 是的 這就是問題所在 他們更關心的是種族的競爭 他們應該更關心的是人類是否能挺過這場考驗 以及社會是否能挺過這場考驗 倘若我們面臨大規模失業 有一個好消息 那就是各國都一致反 對人工智能取代人類 他們在網路攻擊或自主武器等議題上持 反對立場 但在製造 病毒方面則有一定程 度的共識 皆不希望其他國家研發病毒 至於人工智慧接管的問題 他們將會合作 因為沒有人想要那樣 中國共產黨 不希望人工智慧接 管一切 川普也不 希望人工智慧接管一切 他們可以 在這一點上合作 這留下了一個問題 我們該如何防止它全面掌控 即使所有國家都合作 你又能 怎麼做 我認為目前所有大型 企業和政府都採用了錯誤的模式 所以他們的基本模式是 我才是董事長 而這個超級聰明的人工智慧 是極其聰明的行政助理 我才是老闆 我隨時可以解僱這個行政助理 如果她不照我想要的去做 然後我隨口說一句 「把它弄好」 有點像《星際爭霸》那樣 超級智慧的人工智慧便真的把它弄好了 而我則獲得所有功勞 太棒了 它不會是那樣的 當它 比我們更聰明、更強大時 我認為那種模式是錯誤的 我們需要環顧四周 說道 有沒有某種模型 讓較不聰明的 東西控制較聰明的東西 我們有 一個這樣的模型 而且這個模型 大家都很熟悉 就是嬰兒控制母親 進化花費了大量心力 讓嬰兒能掌控母親 而母親 實際上往往更關心嬰兒 而非自己 兔 子卻不是這樣 但這確實是人與人之間的互動方式這似乎是一個更為可信的模型 說明我們應如何與超級智能共存 但我們必須接受 自己其實是嬰兒 而她們是母親們 希望她們不是猶太母親 但你無法想像這些科技新貴會接受這種模式 他們根本不會這樣思考世界 美國在發展生成 式人工智慧方面 目前是否落後於中國尚未 美國仍略為領先 但並未 如他們原先所想的那麼領先 而在中國 你會發現大量極具競爭 力、極富智慧的人才 他們在科學、 工程和數學方面接受過極為優 秀的教育 他們正在培養更多的人才 在這些領域 中國的表現 將超越美國 美國基本上依 賴移民在這些方面具備才智 中國很可能會超越美國 如果你是中國人 想 要確保中國變得聰明 並超越美國 你會做的事就是…… 那項損害有多嚴重 我們何時會立刻感受到 攻擊基礎研究的重點在於 你實際上要過上 十年、十五年甚至二十年才會真正感受到其影響 因為你所做的事情 正是確保這 裡不會出現真正 重大的概念性突破 然後後來 中國人會領先很多 無論誰成為人工智慧競賽的領先者 辛頓表示 過去一年來 所有人面臨的風險都已上升 尤其對勞工而言 正如本周所見 當亞馬遜宣布將裁減4%的 員工時 這或許是因前所未有 的AI投資而變得可能且必要 已有巨額資金投入AI領域 自我們一年前談過以來 我指的是我當時根本無法 想像的金額 若將所有公司加總起來 金額高達數兆 那麼 那筆錢究竟用於何處 又 會不會最終惠及任何人呢 這些都 是由嚴肅人士經營的大型企業 他 們想必不會隨意投入如此巨額資金 除非他們認為能獲得回報 其中涉及一些自尊心他們想成為第一個完成這件事的人 無論這會不會毀掉我們所有人 因此 其中涉及自我的因素 但他們大概認為其中蘊含獲利的機會 我擔憂的是 除了向使用聊天機器人收費之外 顯而易見的賺錢方式 透過取代工作來實現 讓公司 更賺錢的方法 就是用更便宜 的東西取代工人 我想這正是 推動這股趨勢的重要因素之一 最終會是贏家通吃嗎 我的意思是 從基本結構來看 我不知道 我想說的一點是 這片領域可說是前所未有的未知領域 我們 從來沒有遇過幾乎與我們一樣聰明的東西 而 如今我們已擁有這樣的東西 也從未遇過比 我們更聰明的東西 但這不久的將來就會出現 我們從未到過那裡 工業革命期間 我們曾擁 有過比我們更強大的事物 但我們始終掌握著它們的控制權 你知道 蒸汽機比馬強大得多 但 我們能控制蒸汽機 可這情況不一樣 此外 如果你因為過去曾從事挖掘溝渠的工作而失業 現在你必須做其他事情 那 麼你可以在客服中心找到工作 但現在 這些工作全都要消失了 那些人會去哪裡 還不清楚 一些經濟學家表示 這些重大變革總是會創造出新的工作機會 我無法確定這是否會發生 但我認為大型企業正押注於此 因為AI將大幅取代人力 這才是未來獲利的關鍵所在 正如你所說 一些經濟學家指出 回顧歷史 新技術會淘汰某些工作 但同時也會創造出新的工作 最終 總體而言 工作數量不減反增 你說這次情況不同 這筆投資 千億美元甚至更多的投資 能否在不摧毀就業的情況 下帶來回報 我相信不可能 我相信 要賺錢 你勢 必得取代人力 面對人工 智能對勞工、經濟乃至人 類整體所帶來的嚴重警告 人們不禁會想 傑弗里·辛頓是否對自 己在賦予它生命過程中所扮演的關鍵角色有所後悔 我們問了ChatGPT 它會如何描述 自己與眾多人心目中那位「教父」之間的關係 它的答案是：如果 我是成熟的雨林 那麼辛頓就 是那些播下第一顆種子並 發明如何澆灌它的人之一 然而 這是否值得的問題 卻讓他遲疑了 若問一個 不公平的問題 你幾乎可說是在那時刻親眼見證了誕生 如果你有能力做到 明知事情不會發生 你會因為風險而完全停止人工智慧嗎 我不清楚 因為你也 得記住 這不像核武 器那樣只會帶來壞處 這是一個困難的決定 由於它能在醫療與教育領域帶來巨大的好處 因此將產生巨 大的正面影響 事實上 若你 仔細思考 提升生產力更是如此 在許多產業中 這本該是件好事 但問題在於社會的組織方式 使得馬斯克變得更富有 而許多人卻面臨失業 馬斯克才不在乎呢 我用馬斯克當作一種替代象徵 這並非關於人工智慧 而是關於我們如何組織社會 我不禁想 在過去一年裡 經濟和市場並未與你為敵 在 這個意義上 股市的大幅增長 以及推動經濟的大部分動力目前都來自對人工智慧的投資 即使公眾對你所描述的某 些風險關心的程度超過現 狀他們仍會說：等一下 這正是推動我們經濟的動力 我們不願放棄這一切 我們不éparation陷入經濟衰退 有些人認為 我們最大的希望 是 讓人工智慧試圖接管卻以失敗告終 我們需要一些真正讓我們嚇破膽的事物 就像AI界的車諾比事件一樣 我不確定我是否同意這一點但這確實是一種可能 或是古巴導彈危機 因為其中一個我曾思考的問題是 即使政府大致 同意我們應該 這麼做 是否 有一種緊迫感呢我认为古巴導彈危機可能為 核裁軍帶來了緊迫感 是的 我們需要一些東 西來吸引人們的 注意並投入更多資源 因此 目 前大型企業不會將三分之一的資源投入於確保其安全性的研究上 但如果它試圖接管卻僅僅失敗了 他們或許就會這麼做