CBS Mornings完整訪談 ｜“人工智能之父” 分享對人工智能未來的預測併發出警告

我們上次討論的是兩年前的兩年 我很好奇你對於這兩年間的期望 對於你對未來的看法是如何發展的 AI發展得比我想像中的還要快 特別是他們現在擁有這些AI代理人 他們比AI回答問題更危險 因為他們可以在世界上做事 所以我認為現在的情況比以往更恐怖 我不知道要不要稱之為AGI超級智慧 非常能幹的AI系統 你對於未來的期望有什麼期望嗎? 一年前我認為五到二十年後會有很好的機會 所以我應該相信四到九年後會有很好的機會 我認為這仍然是我的猜測 比我們上次討論的更早 因為你仍然在想二十年 是的 我認為有很好的機會在十年以後會有很好的機會 所以在四到九年後我們已經到達這個地步 這看起來會是什麼樣子? 我並不想猜測AI決定要採取行動 因為有很多方式可以做到 我不是說採取行動 我們可以討論 我相信我們會討論 但除了採取行動 還有超級智慧的智慧智慧 這可以做到什麼樣的事情? 好的情況之下 我們會像一個大公司的傻CEO 他擁有一個非常聰明的助手 他可以做到任何事情 但他只能做到CEO的要求 所以CEO認為他們在做一些事情 但事實上都是由助手做的 然後CEO覺得很好 因為他們決定做的一切都成功了 這是一個好的情況 我聽說你提到幾個你認為有理由 對這個未來的看法感到有信心 是的 為什麼我們不去考慮它們? 在醫療方面 他們會比較擅長讀取醫學圖像 這是一件小事 我幾年前預測過 他們現在會變得更好 現在他們差不多能與專家相比 他們很快就會變得更好 因為他們會有更多的經驗 有些東西可以看一百萬個X-ray 然後學到一百萬個 而醫生卻不能 他們會是很好的家庭醫生 你可以想像一位家庭醫生 看到一百萬個人 包括一百萬個人 患有非常非常稀有的疾病 他們會是更好的家庭醫生 一位家庭醫生 可以將你的基因的資訊融合 包括你和你的親屬的測試結果 整個歷史 他不會忘記任何事情 這樣就會變得更好 已經AI與醫生合作 在艱難的情況下 醫生會做得更好 所以我們會得到更好的醫療服務 他們也會設計更好的藥物 教育是另一個領域嗎 是的 在教育方面 我們知道 如果你有個私人教師 你能夠快速地學習很多東西 這些東西 最終會是非常好的私人教師 他們會知道你錯誤的知識 他們會給你一個正確的例子 讓你更快速地學習 也許你能夠快速地學習 三到四次 這對大學來說是壞消息 但對人類來說是好的消息 你認為大學系統會在這段期間存活嗎 我認為有很多方面會存活 我認為大學系統會在這段期間存活 大學系統會在這段期間存活 是真正的原始研究的最佳源頭 我認為這會存活 你需要一種學習 有些人希望這會解決氣候危機 我認為會有幫助 它會製造更好的材料 例如能製造更好的電池 我相信AI會參與製造它 人們正在使用它來探測氣候 我並不確定這會成功 只是因為能量的考慮 但可能會成功 一般來說我們會得到更好的材料 我們甚至會得到 室溫超過室溫 這意味著你能在森林中 找到更多的太陽能 我們可以在千里之外 還有其他好消息嗎 大致上任何行業都會更加有效 因為幾乎每家公司 都想從數據中預測 AI非常擅長預測 它比我們之前的方式更好 幾乎每次 所以它會造成 巨大的生產力增長 這意味著當你打電話給 當你打電話給微軟 抱怨某些東西不成功 然後你得到電話號碼 電話號碼的人 其實會是一個AI 他會更加有信心 是的 我幾年前問你 關於工作損失 你似乎認為 這並不是一個大問題 這仍然是你的想法嗎 不,我認為這會是一個大問題 AI在過去幾年 但是 如果我擁有 一個電話號碼的工作 我會非常擔心 是的 或許工作是一名律師 或是一名新聞記者 或是一名經紀 是的 無論做任何事 我認為 研究新聞記者 會維持很長一段時間 因為你需要很多措施 加上一些道德憤怒 我認為 新聞記者會在公司工作一段時間 但是除了電話號碼 你對工作有什麼擔憂 任何日常工作 例如一份標準的總裁工作 例如一份非法工作 這些工作都受損了 你有沒有想過 我們如何前進 在這些工作失敗的世界中 是這樣的 如果我們能增加生產力 每個人都會得到利益 那些正在做這些工作的人 可以工作幾個小時一星期 而不是60個小時一星期 他們不需要做兩份工作 他們可以賺很多錢 只要做一份工作 因為他們只是做生產力 利用人工智能助理 但是我們知道 這不是這樣的 我們知道會發生的 是非常富裕的人 會變得更加富裕 而不太好的人 他們要做三份工作 我認為沒有人喜歡這個問題 但是我們喜歡問 這個P-Doom的概念 它有多有可能 我很好奇 你認為這是一個很可能的東西 還是它只是很差 即使它的可能性不高 我們還是會很擔心 你認為它有多有可能 我認為 大部分的科學家都同意 如果我們考慮到 這些東西會變得比我們更聰明 然後從我們身上取得控制 這個可能性 很可能是超過1% 也很可能是少於99% 我認為大部分的科學家 都同意 但這不是很有幫助 不 但這是一個很好的開始 可能會發生 也可能不會發生 然後不同的人 我認為到目前為止 我們必須瞭解 是的 因為 這件事很可能會變得比我們更聰明 他們已經比我們更瞭解 所以GPT-4 比一般人更瞭解數千次 它不是一位一切都很好的專家 後來它的成功人員 會成為一位一切都很好的專家 他們會看到不同領域的聯繫 是沒有人見過的 是的 我也想了解 好的 有一個糟糕的10%到20%的機會 但是 或者更多 或者少一點 但我們假設 有一個80%的機會 他們不會超過 然後清除我們 所以這是最有可能的情況 你仍然認為 會是極為正面或極為負面 如果不是最糟糕的結果 好的 如果我們可以阻止他們超越 那會很好 唯一的方法 那會發生 如果我們投入嚴重的努力 但我認為 當人們明白這正在發生 就會有很大壓力 投入嚴重的努力 如果我們像現在一樣 只是為了賺錢 這會發生 他們會超越 我們必須讓公眾 給政府壓力 做一些嚴肅的事情 但即使AI不超越 還有一些壞人員 利用AI做壞事 例如大規模監控 這已經發生在中國 如果我們看看 西班牙和維吾爾人 AI對他們來說是很糟糕的 我坐飛機來多倫多 我必須要拍一張 美國政府的肢體認證照 當我來到加拿大 你把你的護照放上 它看著你 它看著你的護照 每次它都失敗地認證我 它認證了所有人 它認證了所有不同的國家 但是它不能認證我 我特別不高興 因為我猜它在使用網絡 你沒有剪掉一個例子 沒有 它只是 它不喜歡某些東西 我必須找個地方 把它安裝好 所以這裡是最好的地方 我們來談談諾貝爾 你可以畫一張 你發現的那天的照片嗎 我半睡覺 我的手機 在牀上的牀上 我聽到有聲音 但當電話響起 螢幕就亮起了 我看到一條小光線 因為我剛好躺在椅子上 我的頭在旁邊 它在這裡 靠著電話 而不是靠著路 我剛好靠著電話 我看到一條小光線 我在加拿大 早上1點 大多數人會叫我 在歐洲或歐洲 你不使用不要打擾 不 我關掉了聲音 我只是好奇 地球上有誰在打電話給我 在早上4點 在東海岸 這太瘋狂了 所以我拿起電話 有一個長的電話號碼 我完全不認識 然後有個瑞士人的聲音 問我是不是我 我回答是 他們說我得了諾貝爾物理獎 我不是做物理的 所以我以為 這可能是個笑話 我以為最有可能的 是一個笑話 我知道諾貝爾獎會上演 因為我很想知道 Demis Hassabis會獲得 諾貝爾物理獎 我以為會在明天上演 但是 我不做物理 我是個心理學家 隱藏在電腦科學 我獲得了諾貝爾物理獎 這是錯誤嗎 如果是錯誤 他們可以拿回嗎 但這幾天 我做了一個理論 如果我是心理學家 我會獲得諾貝爾物理獎 我會獲得1萬2千萬 如果是我夢想 我會獲得諾貝爾物理獎 我會獲得1萬2千萬 如果我夢想是1萬2千萬 但現實是1萬2千萬 這樣就有可能 這是一個夢想 而不是現實 這幾天 我在想 你確定這不是一個夢想嗎 你把我帶進了一個很荒謬的地方 但這也是一部分的討論 有些人認為我們在做一個測試 AGI不是證據 而是提示 這可能是我們生活的現實 我真的不相信 我覺得這很荒謬 但我不認為這完全是胡言亂語 我也看過《碼頭》 好的 荒謬但不完全 我想要和諾貝爾一起說 我想你曾經說過 你希望利用你的信任 來傳達一個訊息 給全世界 你能解釋一下嗎 是的 AI有可能是非常危險的 有兩種危險 壞人用它來做壞事 還有AI自殺 這是兩種不同的威脅 我們知道壞人已經在用它做壞事 它在Brexit時 使得英國人 選擇離開歐洲 是非常瘋狂的 一個公司叫Cambridge Analytica 從Facebook獲得資訊 並使用AI AI自此以來已經發展了很多 它可能被川普選中 他們從Facebook獲得資訊 這可能有幫助 我們不確定 因為它從來沒有被調查 但現在 它變得更有能力 人們可以使用它 更有效的方式 例如虛擬攻擊 新的病毒製造 虛擬的視頻 來虐待選舉 虛擬的視頻 用人們的資訊 來證明 我們會讓他們受到懲罰 自動武器 這些武器 美國 俄羅斯 中國 英國 以色列 我想加拿大 可能太過於虐待 問題是 我們應該做什麼 我們應該實行什麼樣的規範 我們需要分辨 這兩個威脅 壞人用它做壞事 AI自行掌控 我主要討論了第二個威脅 不是因為它比其他威脅更重要 而是因為人們認為這是科學 我用我的聲譽來說 不是科學 我們需要關心 如果你問我們該做什麼 這不像氣候變化 氣候變化 只要停止燃燒碳 一切都會好 會很糟糕 但一切都會好 如果不燃燒碳 AI自行掌控 我們不知道該怎麼辦 我們不知道 譬如說研究家們不知道 是否有方法阻止 但我們必須非常努力 大企業不會這樣做 如果你看大企業現在在做什麼 他們在爭取 減少AI自行掌控 他們想要減少 因為他們想要短期利潤 我們需要 把壓力放在政府 堅持大企業 做嚴肅的安全研究 所以在加州 他們有一個非常合理的法案 法案1047 他們說 最少大企業需要 仔細測試 並報告測試結果 但他們並不這麼做 這讓你覺得 制裁不會發生嗎? 這取決於我們得到的政府 在現有的美國政府 我認為制裁不會發生 所有的大企業 都和特朗普同歸於盡 是的 這是一個不好的情況 伊隆·馬斯克 在特朗普政府中 一直擔憂AI安全 已經很久了 是的 他是一個有趣的混血兒 他有一些瘋狂的觀點 例如去馬斯克 我認為這完全是瘋狂的 這是因為制裁不會發生 還是因為這不是優先事項? 這不是優先事項 因為無論你做得多壞 地球永遠都會比馬斯克 即使你發生了全球核戰 地球都會比馬斯克更加可憐 馬斯克只是不可憐 他做了一些很棒的事 例如電動車 以及幫助烏克蘭 與斯大林的通訊 他做了一些很好的事 但現在 他似乎被 煤炭和能源燃燒 他做了很多瘋狂的事 所以他有這個有趣的觀點 所以他的歷史 關於AI安全的擔憂 並不讓你覺得 特朗普政府有任何好處 我認為這不會拖慢他 在AI上做不安全的事 他們已經在釋放 AI語言大型模式的重量 這是很瘋狂的事 這些公司不應該釋放重量 Meta釋放重量 OpenAI剛剛宣佈 他們將釋放重量 你認為這是一個壞主意嗎? 我認為他們不應該釋放重量 因為釋放重量 就能解決 釋放重量的主要障礙 所以如果我們看看 核武器 只有很少的國家 擁有核武器 是因為 核武器很難得到 如果你在亞馬遜 能買到核武器 更多的國家 都會擁有核武器 AI的核武器 相等於 大型模型的重量 因為它要花 數百億美元 去訓練一個大型模型 也許不是最終的訓練 但所有研究 都要花數百億美元 也許是小型教會 或一群虛擬犯罪犯 不能付出的 當你釋放重量 他們就可以從那裡 從那裡開始 花數百億美元 我認為釋放重量太瘋狂了 人們說它像開放軟件 但它非常不像開放軟件 開放軟件的軟件 你釋放了密碼 很多人會看著密碼 覺得那條線上可能有漏洞 所以他們會修改 當你釋放重量的時候 人們不會看重量 覺得那條線上可能有漏洞 不 他們會 用重量的基礎模型 去訓練重量犯罪犯 但問題是 正如您的前夥伴 約翰·勒庫恩說的 有些公司 控制了大量的 強大技術 我認為這比所有人 控制大量的 強大技術還要好 你也可以說 核武器 你認為只有幾個國家 控制核武器 還是你認為 所有國家都應該控制核武器 我從這方面來看 你對於 聽起來像是 所有的大型公司 目前正在做 社會上最好的利益 而不是他們的利益 這對你來說是正確的看法嗎 我認為公司的運作方式是 他們要求法律的 為他們的投資者 他們不需要法律 也許公司是公共利益 但大多數公司 不需要法律 去做社會上的利益 你對於今天 我以前對於 Google工作的感覺很好 因為Google是非常負責任的 它沒有釋放這些大型 它是第一家 擁有這些大型的聊天機器 它沒有釋放它們 我對它們的工作 我不會對它們的工作 如果我對它們的工作 我會比其他公司 更加負責任 你對Google的承諾 不支持軍事AI的使用 非常失望 我非常失望 特別是因為我知道 Sergey Brin 不喜歡軍事AI的使用 你認為他們為什麼做了 我真的無法猜測 他們的內部資訊 我真的無法猜測 他們的內部資訊 我可以猜測 他們會擔心 被現任政府 如果他們不使用 他們的技術 來製造武器給美國 我問你今天 最難的問題 你還持有 很多Google的股票嗎 我持有一些Google股票 大部分的資金 都不在Google股票上了 我持有一些Google股票 當Google上升時 我會很開心 當它下跌時 我會很不開心 所以我對Google 是有信心的 但如果他們 加入強硬的AI規則 讓Google的價值減少 但讓人類的生存機會增加 我會很開心 一個最著名的實驗室 當然是OpenAI 他們失去了 他們的頂尖人物 你做了什麼 OpenAI 是專門為 安全發展超級智慧 而設計的 在過去幾年 安全越來越進入背後 他們會花一部分 在安全上的計算 然後他們就放棄了 所以他們現在 正在嘗試成為 一個全額的公司 他們正在解決 基本上所有的安全承諾 我可以看到 他們失去了 很多很好的研究員 尤其是 我以前的學生 Ilya Sutskever 他是一位非常好的研究員 他是一位 對GPT-2的發展 對GPT-4的發展 是非常負責任的 你和他談過 他離開後 所發生的所有的戲劇嗎 不 他非常低調 他不會和我談 關於OpenAI的 我對他很自豪 他離開後 我對他很自豪 他離開後 我對他很自豪 他離開後 我對他很自豪 工作人員 那是個很壞的時機 所以工作人員大肆支持Sam Altman 但不是因為他們想要Sam Altman 而是因為他們想把他們的文件變成現金 所以當時是很傻的 你覺得他做了這個錯誤會讓你感到驚訝嗎 還是你預料到他會做出這個不完全計算的決定 我不知道 Ilya是個很聰明的人 他有很強的道德基礎 而且技術上非常好 但在處理人類方面 他可能不太好 這是一個很奇怪的問題 但我覺得這個問題很有趣 是關於這個領域 是關於人們在討論什麼 你提到Ilya的謹慎 似乎在這行業中 有一個NDA的文化 所以很難知道人們的想法 因為人們不願意 甚至不願意討論發生了什麼事 我不確定我能否作出評論 因為當我離開谷歌 我認為我必須簽署很多NDA 事實上當我加入谷歌 我認為我必須簽署很多NDA 我離開的時候會適應 我完全不知道他們說什麼 我已經忘記了 你覺得他們很困擾嗎 不 你覺得這是一個因素 讓公眾難以理解發生了什麼事 因為人們不允許告訴我們發生了什麼事 我不確定 你必須知道 你必須知道那些人告訴你 所以你不認為這是一個 我不認為這是一件大事 這是一件大事 明白了 我認為是一件大事 是OpenAI 出現了一件事 說明瞭 如果你已經有了股份 他們可以從你身上拿走錢 是的 我認為這是一件大事 他們很快地反駁了 當這件事變成公開 這是他們公開的聲明 他們沒有提供任何合約 讓公眾判斷他們是否反駁了 但他們說他們反駁了 有很多重要的 一些關鍵的事 關鍵的事實上不是很好的詞語 但關鍵的事 我希望得到您的意見 其中一個是美國 和西方對中國的方向 在他們的努力追求AI 您同意我們應該 試圖阻止中國 還有出口控制 我們應該讓民主 先到AGI 您對此有何看法 首先我們必須決定 哪些國家仍然是民主國家 我的看法是 在長遠來說 這並不會有太大改變 這可能會在幾年內 但如果我們阻止中國 從最先進的技術中獲得 人們都知道 這個最先進的技術是如何運作的 所以中國只是投資了 很多很多億 也許是百分之百億 在製造晶片機 或者在獲得自己的 家庭基礎技術 來製造晶片 所以這會讓他們慢下來一點 但這會迫使他們 發展自己的業務 在長遠來說 他們是非常有能力的 他們會的 所以這只是 讓他們慢下來幾年 但民主是正確的框架 我們不應該嘗試 和共產中國合作 我不能這樣形容 我只能說 我已經不再是共產主義人物了 我用充沛的詞彙 是因為 你為什麼不和共產中國合作 唯一不和共產中國合作的理由 是你認為他們是 一個陰謀的力量 有些地方我們不會和共產中國合作 我們是 我不確定我們是誰 因為我現在在加拿大 我們以前是 美國的加拿大 但現在不是了 顯然 這些國家不會和共產中國合作 在製造無人機 因為無人機 是用來對抗其他國家的 但我們已經有了協議 和其他類型的武器 正如你所說 我們可以有協議 不去製造它們 但在製造它們的好處 他們不會這樣做 當然 現在 他們會和共產中國合作的地方 就是在生存威脅上 如果他們真的在擔心 生存威脅 而做一些事情 他們會在這方面合作 以阻止AI從中取得 因為我們都在同一艘船上 所以在冷戰期間 蘇聯和美國 一起合作 以阻止世界核子戰爭 甚至一些非常殘忍的國家 也會和共產中國合作 當他們的利益融為一體 有一個問題 關於合法使用 無論是否可以 讓數百億人的內容 在多年來製造 被複製為 可以替代 製造訓練數據的 你怎麼看 我認為 我對這件事 有很多不同的看法 因為這是一個 非常複雜的問題 所以 一開始 是的 他們應該付錢 但是 假設我有一位音樂家 他在某種類別的歌曲製作 問他 他們如何在某種類別的歌曲製作 他們如何製作 某種類別的歌曲 他們從聽到 某種類別的音樂人 聽到某種類別的歌曲 他們從中 瞭解歌曲的結構 然後製造了某種類別的歌曲 而製造的東西不同 並非盜竊 而這是被接受的 這就是AI在做的 AI在吸收所有資訊 然後製造新的東西 並非僅僅是 把它們合成 而是製造新的東西 同樣有著相同的主題 因此 這不僅不是盜竊 而是一個人在做相同的事情 但重點是 它們在巨大的規模下做 沒有一位音樂人 把所有其他音樂人都刪除了 沒錯 所以 在英國 例如英國 政府似乎沒有興趣 保護創意藝術家 而如果你看看經濟 創意藝術家對英國是很值得的 我有一位朋友叫做B.Bankidron 他說我們應該保護創意藝術家 這對經濟是非常重要的 只要讓AI走掉 這就不公平了 UBI Universal Basic Income 你認為這是AI的損失的解決方案嗎 我認為它可能是必須的 以阻止人們飢餓 但我不認為它完全解決了問題 即使你擁有很高的UBI 它並不解決了人道尊嚴的問題 對很多人來說 他們是 特別是學術學家 他們是融入了他們的工作中 這就是他們 如果他們失業了 只要賺到同樣的錢 就完全無法補償 他們不再是自己的身份 我也認同 我看到你曾經寫過一篇文章 你曾經說過你會更快樂 如果你是一名木工 是的 因為我真的很喜歡當一名工匠 還有沒有其他選擇 例如你100年後出生 你不必浪費時間 在這些網絡上工作 你只需要享受木工 並賺取一個月薪金 是的 但做木工是一種趣事 但做木工是一種生活 做木工是一種生活 所以你不認為未來 我們能夠追求我們的趣事 並不需要貢獻給經濟 我認為這可能是可以的 是的 如果所有人都這樣做 但如果你在某些 缺乏優勢的群體中 得到普通的基本薪金 而你得到的薪金比其他人少 因為僱主會要求你做這件事 讓其他人可以為他們工作 這將是非常不同的 我對機械人權的想法感興趣 我不確定有什麼更好的詞語 來形容它 但在某個時候 你將擁有這些 非常聰明的人工智能 他們將非常聰明 在世界上做各種事情 他們能否擁有物業 他們能否投票 他們能否和人類結婚 在愛情關係中 或許如果他們比我們聰明 如果他們有更好的智能 比我們擁有的東西 他們是否應該 讓人類成為歷史 是的 我們來回顧更廣泛的想法 我對更廣泛的想法感興趣 除非你認為 廣泛的問題是無關的 因為廣泛的問題 是有前提的 不,我認為廣泛的問題是有關的 是的 所以我曾經擔心這個問題 我曾經想 如果他們比我們聰明 為什麼他們不應該擁有 和我們相同的權利 是的 現在我認為 我們是人類 我們關心的是人類 我吃牛 我知道很多人都不吃牛 但是我吃牛 我吃牛的原因是 因為它們是牛 而我是一個人 同樣的 對於這些超級智能AI 它們可能比我們聰明 但是我關心的是人類 所以我願意 對它們好 我願意拒絕它們的權利 因為 我想要人類最好的東西 是的 現在 它們不會同意 它們可能會贏 但是 這是我目前的立場 關於AI應該擁有什麼權利 即使它們聰明 即使它們擁有感情 情緒和感情 這些東西 它們不是人類 而人類是我關心的 但它們會看起來像人類 我感覺它們會很難 它們會偽造 是的 它們會看起來像人類 是的 你認為我們會給它們權利嗎 我不知道 好的 我會避免這個問題 因為有更多的即時問題 例如AI的壞用 或者它們會如何採取措施 如何避免 如果你開始談論它們的權利 大多數人 你會失去大多數人 即使只靠靠近人類 很快就會有 如果它們已經不在了 能夠使用AI 來選擇我們有哪些寶寶 你會擔心 這條線 選擇嬰兒 你是指選擇性 還是選擇 智慧和眼光 和肺癌的可能性 這條線一直下降 我們可以選擇的所有東西 如果我們可以選擇一個 較少可能患上肺癌的嬰兒 那會是一個很好的選擇 我願意這樣說 好的 這是我們應該追求的 我們應該製造健康的 更強壯的嬰兒 這是一個很困難的領域 是的,這就是我所問的 有些方面 對我來說是合理的 例如 如果你是一對 正常健康的情侶 你懷孕了 你能預測到 你會遇到很嚴重的問題 或許不會活得太久 對我來說 這對懷孕 和健康的嬰兒 我知道很多宗教人士 不會同意這一點 但對我來說 如果你能靠這些預測 去做得到 這對我來說 是很合理的 我們已經回歸到 一些中心點 我認為你希望人們 要避免的 就是機器的損壞 和它們的影響 所以我希望我們可以 盡可能地討論 你認為我們能做到的事情 你認為我們應該如何 去處理這個問題 人們應該如何去思考 最好的方法 去感情上了解 就是我們像是 有一個非常可愛的 蝸牛 它是一個非常可愛的蝸牛 現在 除非你非常確定 它不會殺死你 當它長大了 你應該擔心 要延伸這個說法 你把牠放進監獄裡 你殺了牠 你對蝸牛有什麼看法 蝸牛的問題是 牠只是在你身體上 比你更強壯 所以你仍然可以控制牠 因為你比牠更聰明 有些事情 比你更聰明 我們沒有這樣的經驗 人們並不習慣 思考這件事 人們認為 你無法控制牠 你不允許牠按按鈕 或者其他 有些事情比你更聰明 牠們能夠控制你 所以另一個方法 思考這件事 想像一下 有一個幼兒園 有兩個三歲的孩子 兩個三歲的孩子 他們是負責任的 你只要在幼兒園 你並不比 兩個三歲的孩子 跟超級智慧相比 但你比他們更聰明 你如何控制牠們 你只要告訴牠們 你會得到免費糖果 如果牠們簽名 或是和你同意 你會得到免費糖果 你喜歡的糖果 然後你就可以控制牠們 牠們不會知道 發生什麼事 而超級智慧 牠們會比我們更聰明 我們不會知道 牠們在做什麼 所以我們要做什麼 我們要考慮 是否有辦法 建立超級智慧 讓牠們不想控制 我認為沒有辦法 讓牠們不想控制 所以唯一的可能性 就是不要建立超級智慧 你認為這是可能的嗎 這是可想而知的 但我不認為會發生 因為國家之間 有很多競爭 還有公司之間 他們都在等待 下一步的發展 發展得非常快 所以我不認為 我們能夠避免 建立超級智慧 這是會發生的 問題是 我們能否設計 讓牠們不想控制 牠們永遠都是友善的 這是一個非常困難的問題 人們說 我們要讓牠們 和人類的利益相符 但是人類的利益 和人類的利益 如果我說 我有兩條對角線 我希望你能給我 兩條對角線 這有點困難 如果你看看 中東 有些人的觀點非常強 但不相符 你如何讓人類的利益 和人類的利益相符 人類的利益 和人類的利益不相符 這是一個問題 這會非常困難 我們必須研究 如何讓超級智慧 不想控制 不想傷害我們 但我們必須嘗試 嘗試是一種 隨機的過程 每個月 每年 我們嘗試 當然 如果我們想要發展 讓牠們不想控制 當牠們的智慧 比你少一點 我們已經很接近 你應該考慮 牠們會做些什麼 試圖掌握 如果你看看現有的智慧 你可以看到 牠們已經能夠 故意欺騙 牠們能夠假裝 比牠們更愚蠢 騙你 這樣牠們可以 把你搞混 不明白牠們在做什麼 我們必須非常瞭解 所有這些 研究所有這些 研究是否有辦法 阻止牠們做這些 我們幾年前談話 我被驚訝 你之前沒有做太多 現在你能夠 很明顯地 很大聲地對牠們發聲 是因為你感到 更自由地說這些話 還是因為這幾年 我們幾年前談話 我還在Google工作 是在3月份 我沒有辭職 直到4月尾 但我還在考慮離開 我們之前談話 我發現這些東西 可能比我們更有智慧 這讓我非常害怕 你之前沒有這樣想 只是因為你認為 時間線是如此不同 不是隻有這樣 是因為我做的研究 在Google 我正在思考 可不可以設計 大語言模型 使用更少的力量 我開始瞭解 數字的優勢 所有現有的模型 都是數字的 如果你是數字模型 你能夠使用 同樣的網絡 同樣的重量 使用不同的硬件 例如數千種不同的硬件 然後你能夠 使用某個硬件 去觀察某個部分的網絡 然後使用另一個硬件 去觀察另一個部分的網絡 每個硬件都可以說 我如何改變 我內部的規格 我的重量 我能夠吸收 我剛纔看到的資訊 每個不同的硬件 都可以這樣做 然後他們可以 平衡所有重量的改變 因為他們都使用 同樣的重量 用同樣的方式 所以平衡是合理的 你和我無法這樣做 如果他們有1兆磅重量 他們分享的資訊 就像是1兆磅 每次他們平衡 你和我 當我想得到一些知識 從我的頭腦 到你的頭腦 我不能只拿出 精神和融合在內的 因為我們的精神 是不同的 我們是分別的 我們是不同的腦子 所以我唯一能夠 帶給你一些知識 就是我做一些行動 如果你相信我 你嘗試改變 你的腦子的精神和融合 這樣你才能做到 如果你問我 那有多省電 如果我給你一個句子 它只有幾百個資訊 是最多的 所以它很慢 我們只能交流 幾分鐘的資訊 這些大語言模式 運行在數位系統上 可以交流 數百萬個資訊 所以它們比我們 多數百萬倍 在分享資訊 這讓我感到害怕 對 但你被驚訝的 或是你改變的 思維是 你以為analog 會是前面的路徑 不是 我以為 如果我們想要 使用更少的電力 我們應該考慮 能否做到 這個analog 因為你能使用 更少的電力 你也可以 在系統設計上 因為會發生的是 你不需要 製造一個系統 能做到 你所說的 就是一臺電腦 你能製造一個系統 有很多複雜的東西 它會學會 使用這個複雜的系統 這就是我們的腦子 你認為技術 不再適用於 這個解決方案 但會適用於 這個數碼解決方案嗎 我認為 它會適用於 數碼解決方案 現在很可能 我們可以使用 這些數碼電腦 來設計更好的 analog硬件 比我們還要好 我認為 這可能會是 我們的長遠未來 你進入了這個領域 因為你想了解 如何使用腦子 是的 你認為我們 會透過這個 進一步瞭解嗎 我認為我們已經 做了一段時間 所以我認為 我們已經學會了很多 在一個非常普遍的層面 如何使用腦子 所以30年前 或50年前 如果你問人 你可不可以 建立一個大型的 無線網絡 有無線連接力量 然後你可以 展示一些數據 讓它學會 做一些困難的事情 例如認識 別人的說話 或回答問題 只要你展示 很多數據 幾乎所有人 都會說 這太瘋狂了 你不可能 這樣做 它必須有很多 無線網絡結構 而這來自於 發展 但事實上 他們錯了 事實上 你可以建立一個 大型無線網絡 然後它可以 只從數據學習 這不意味著 我們沒有很多 無線網絡結構 但是 基本上 我們所知道的 大部分都是 從數據學習 而不是從 無線網絡結構 所以這是一個巨大的進步 在理解腦子 現在問題是 你如何得到 資訊告訴你 是否增加 或減少連接力量 如果你可以得到資訊 我們就知道 我們可以訓練一個大型系統 開始用無線網絡 去做美妙的事情 腦子必須得到 這樣的資訊 而它可能會 得到它 在不同的方式 不像這些 大型AI模式 叫做背後傳輸 腦子可能 不會使用背後傳輸 沒有人可以 想像得到 它會怎麼做 它可能會得到 規律資訊 那就是 增加重量 會改善表現 在不同的方式 但我們現在知道 如果它可以 得到這個規律資訊 它可以 非常有效的 在學習 您知道現在 任何的實驗室 正在使用 它們的模式 去追尋新的 AI發展的想法嗎 確實有 好的 特別是 DeepMind 非常有興趣 使用AI 來研究科學 其中一項科學 就是AI 當然 那是你們 試圖的 當你們在那裡 就像這個 穿梭的想法 說不定 下一個創新 可以是AI 自己創造出來的 所以 有這些元素 例如 他們是使用 AI 來製造晶片 用來製造AI 所以Google的 AI晶片 他們的 Tensor 處理器 他們使用 AI 來製造那些晶片 我很好奇 如果 在你日常生活中 你會懷疑 未來 以為 未來不會這麼好 我不會懷疑 但主要是因為 我甚至覺得 很難去認真 很難 讓你的頭 回到 我們在歷史上 非常特別的時刻 在相當短的時間內 一切 可能會完全改變 改變到 我們從來沒見過的程度 很難 感情上 吸收到 是的 我也注意到 雖然人們 可能會擔心 但我從來沒見過 有人反對 這件事 並沒有 真正的政治動機 世界正在改變 但沒有人 這麼在乎 AI研究者之中 人們 更加了解 我所認識的 他們最擔心的 是真正的AI研究者 我開始 做一些實用的事情 因為 AI會很擅長 設計 網絡攻擊 我認為 加拿大銀行 不再是安全的 加拿大銀行 已經是 最安全的銀行 加拿大銀行 相比美國銀行 但是 在接下來的十年 我不會感到驚訝 如果有 一場網絡攻擊 把加拿大銀行摧毀 摧毀是什麼意思 假設 銀行擁有 我擁有的股份 對吧 假設 網絡攻擊 把股份銷售出去 現在我的錢已經消失了 所以我現在 將我的錢 分成三間銀行 好 在你的牀上 這是我第一件 實用的事情 因為我認為 如果網絡攻擊 把一間加拿大銀行摧毀 其他銀行 就會變得更嚴重 好的 還有什麼 這是最主要的 這就是我發現 我實際上 做了一些實用的事情 來源於 我相信 很可怕的時刻 我們幾年前討論過 你曾經說 人工智能像傻子一樣 但人類仍然 很擅長理論 對 這改變了 好的 解釋一下 過去 大型語言平臺 會把一句話 分開來 就這樣 現在 他們分開了一句話 他們在看 分開了一句話 他們會分開一句話 還沒有回答問題 他們會分開一句話 叫做 理論的一條路 現在他們可以 反省 已經分開了一句話 這給他們空間 去思考 你可以看到 他們在思考什麼 這很棒 如果你是研究員 很多老式人工智能的人 說 這些東西無法理論 它們不太聰明 因為它們無法理論 你必須使用 老式人工智能 把它們變成邏輯形式 來進行正確的理論 它們是完全錯誤的 人工智能 會進行正確的理論 它們會進行正確的理論 是通過 這條路 透過 它們反映出來的東西 你剛才說 過去兩年 發展速度 比你預期的快 還有其他例子嗎 例如 如果你說 哇 它很快 這是最主要的例子 它也很擅長 產生圖像 但最主要的是 它能夠理論得很好 你可以看到 它在思考什麼 為什麼這件事重要 為什麼這件事有意義 你可以看到 它們在思考什麼 因為有些例子 你給它一個目標 你可以看到 它在理論 為了達成目標 在欺騙人 你可以看到 它在做這件事 就像我可以聽到 你的頭腦裡的聲音 另一件事 我們已經通過了 但也許 我不知道 你還有什麼話要說 但是 很不意外的是 現在華盛頓DC 有這麼多技術人物 擔當重要的角色 在這個時刻 華盛頓DC 對於這個技術的 進步和監管 是非常重要的 這對你有所不妥嗎 你怎麼看 那些技術人物 主要是對於 他們的企業利益 所以這對我來說是很大的擔憂 我看不出有什麼改變 除非有強硬的規範 或者是這套貿易模式 我看不出有什麼改變 我覺得如果公眾意識到 發生了什麼事 他們會把壓力放在政府身上 幫助AI公司 發展得更安全 這是我能做的最好事 雖然不太滿意 但這是我能想到的最好事 更安全意味著 這些公司對於安全研究有更多資源 是的 比如說 他們在安全研究上 應該是很重要的一部分 例如一分之三 現在卻是非常少 有一家公司 Anthropic 它們對於安全 比其他公司更關心 它們設計了 對於安全 讓人們離開了AI公司 因為AI公司 不夠關心安全 而Anthropic 它們在安全研究上 但仍然可能不夠 有許多人認為 AI公司 對於這些問題 但卻沒有 展現出這些價值 這是您的看法嗎 是的 您看到了什麼證據 所有最好的安全研究員 都離開了 因為他們也相信 他們設計了 一個公司 用來發展AI安全 他們的主要目標 不是為了利潤 而是為了發展AI安全 他們正在忙於 邀請加拿大總裁 讓他們轉移到 一個為了利潤的公司 有許多證據證明 我可以給您一個機會 提醒一位 作為一個好演員 人們應該感到更好 您提到Anthropic 這是它的名字嗎 您看到了嗎 這家公司 Anthropic 對於安全最關心 許多安全研究員 離開了AI公司 轉移到Anthropic 所以Anthropic 有更多的文化 關於安全 但是 他們有投資 來自大企業 他們得到錢 來自某個地方 我擔心那些投資 會迫使他們 發展得更快 當我問你 你覺得 你最適合的公司 你沒有回答 或許是Google 我應該說 也許是Google 或者是Anthropic 好的 謝謝你 這段時間 還有今天 非常感謝 好的 你還沒說完 我還沒說完 我還在計算