馬斯克："AI反正會失控，所以必須由我先造"，發展AI就是在召喚惡魔，明知AI危險卻無法剎車

最近世界守護馬斯克說了句很炸裂的話 最近科技媒體LearnInformation爆料 SPEXX發600億美元收購了AI編程工具公司Cursor 之後馬斯克開了一次第一次全員會 對新員工說了這麼一段 大意是AI模型總有一天會先進到人類無法控制 他認爲AI模型失控是不可避免的 所以SPEXX的AI部門必須趕在別家之前 先把它造出來 所以說就是反正AI會失控 所以必須由馬斯克他先造出來 既然AI遲早會失控 那隨先造出來有什麼區別呢 AI失控等於說就是 AI會反過來控制人類或者是毀滅人類 這就打個比方說 反正人類遲早會在覈戰裏同歸於盡 那麼隨先造出來最大的那顆核彈 那有什麼作用呢 投入器本身就是用威懾 但是知道這個一定會滅絕 那造它有沒有什麼意義 馬斯克他要把這個AI先造出來 並沒有說他能安全的造出來 而是說反正會失控 但是他要把它先造出來 難道反正AI會摧毀人類 需要是由他摧毀人類嗎 需要由馬斯克自己親手來這麼做嗎 這跟其他AI公式就不一樣了 比如說OpenAI創立時的敘事 再比如Anthropic一直以來的自我定位 他們都是AI很危險 所以應該由他們謹慎的來創造 馬斯克的這個版本就直接把 安全這兩個字給省掉了 謹慎安全給省掉了 就是要由他來先造 即使他知道肯定會失控 所以這並不是一個安全邏輯 而是一個競賽邏輯 終點雖然肯定會毀滅 但最重要的是我第一個到終點 第一個讓這個毀滅發生 看看過去12年馬斯克 對AI的態度這條時間線 2014年的時候 馬斯克說 研發AI是在召喚惡魔 是人類最大的生存威脅 這話當年被當成硅谷最響的警鐘 那個時候大家應該都還沒有 意識到AI的強大 因爲那個時候離GPT誕生 還有差不多10年的時間 當然我是指真正影響到大家 影響到世界上所有人的GPT誕生 而不是最早期的版本 2015年的時候 馬斯克聯合創辦了OpenAI OpenAI其實是馬斯克聯合創辦的 他創辦的初衷 是對抗Google對AI的壟斷 他的理由是 不能讓最強的AI落在一家手裏 2018年的時候 馬斯克推出了OpenAI 2023年3月 他在那份呼籲 全球暫停大模型研發 6個月的公開信上籤了名 4個月之後 他自己創辦了XAI 今年7月 馬斯克就在經濟學人主編對面說 AI失控的風險不是零 而且這個AI失控的風險 災難性後果的風險 大概是10%到20% 5年內 AI就會超過全人類智慧的總和 10年內 人類將不再握有AI的控制權 然後他說 有時候他甚至懷疑 就算真的有一個停止按鈕 讓AI停止發展 那麼 馬斯克在懷疑 我們是不是應該去按它 去按一下這個停止按鈕 因爲他認爲 讓人類實現極大的 無窮的物質豐富 那麼AI是這條路的 這個必經之路 如果AI停止發展了 人類就沒有辦法實現 這個物質自由 因爲AI會釋放 這個無窮的生產力 馬斯克認爲 AI的收益太大了 是通向物質極大豐富的鑰匙 風險和收益比下來的話 那AI這件事情仍然值得幹 馬斯克一直以來 強調了一點是 未來的貨幣是這個 是電 因爲算力完全是靠電 而現在的中國發電量 已經是美國的兩三倍了 已經拉開美國幾倍了 如果美國按下了 停止按鈕的話 對手不按 那麼這個結局 將會是更加不安全 就是換一個國家 第一個到重點 這就是爲什麼 AI發展這臺機器 沒有剎車啊 因爲這個剎車 已經被各種理由 給這個 給拔除了 不可能剎車的 人類如果沒有 真的經歷過極大的痛苦 它是不可能停止的 今年春天那條記錄 出自法庭 馬斯克起訴奧特曼 奧特曼案開庭 馬斯克宣誓作證 被問到 特斯拉有沒有追求 通用人工智能的具體計劃 他當時的回答是沒有 而就在八週之前 馬斯克在自己的 X平臺上 剛剛發過帖 說這個 特斯拉會是造出 通用人工智能的公司之一 而且很可能是 第一個造出人形版本的 所以說這些大佬們說話 有時候也是前後矛盾 當然有可能是 他們的想法變得很快 畢竟現在XAI 沒有成爲特斯拉的一部分 倒是成爲了SpaceX的一部分 我覺得本來 XAI跟特斯拉更加契合吧 馬斯克在每一次公開警告之後呢 緊接着他自己會親自入場 做他警告的東西 他警告是真的 警告的事情是真的 但是他的入場也是真的 在他自己的世界觀裏 可能這兩件事情並不矛盾 也許他相信的是 誰先造出來 誰定規則 既然擋不住 那就讓規則由他來定 反正AI會失控 那麼就由馬斯克自己來 先造出會失控的AI 那麼即使失控的話 也是他定規則定的問題 或者他能定出更好的規則 能夠讓AI延緩失控 說到馬斯克和AI 讓我想起了另外一個老馬 記得馬斯克多年前 跟馬雲還有一場辯論 那時候馬斯克說 AI非常的恐怖 但是馬雲說 AI沒什麼大不了的 當下那是非常多年前的視頻 當下的視頻 在AI大爆發之後 一直被人放出來 來這個諷刺 馬雲的認知 和馬斯克的認知 有多大的差距 確實差距非常大 我也想不到爲什麼 馬雲這方面的認知 如此的淺薄 當然這個也是事後視角 也許多年前的話 大部分人也想不到AI 當然現在可能大部分人也想不到 AI有多大的危險 其實現在很多大佬 都覺得AI現在已經處於 危險的臨界點 其實這種搶先造出 AI讓他不失控 或者是他肯定會失控 但是由我來先造 這套邏輯呢 其實在整個行業 AI行業的頭部玩家 其實都是這種敘事 OpenAI, Slowpick, Google 還有各個國家之間 每一家都真誠地相信 自己是更負責任的選擇 所以說每一家 因此都在全力加速 想要比其他不負責任的人 先要造出更強大的AI 因爲大家都對別人沒有信心 對自己又信心過頭了 所以說現在這場競賽 AI競賽也已經失控了 在2023年的那封 AI暫停信 呼籲全球AI實驗室暫停6個月 那時候有3萬多人簽名 簽名者有很多大佬 不乏這個馬斯克 還有一批頂尖學者和企業家 結果呢簽名完 沒有一家實驗室暫停過半天 馬斯克本人簽完4個月 就自己開了一家AI公司 3萬名大佬簽名 但是沒有一家公司暫停AI的研發 這就是 這就是AI現在的囚徒困境 大家都覺得 AI應該停 有危險 但是每一個人都不敢 第一個停 因爲第一個停的人 唯一的結局 確定的就是出局 這是確定的結局 沒有所有人都停的情況下 停的那個人就是出局的人 做比爾蓋茨那期視頻的時候 我就說過 大家對AI發展並沒有計劃 看到這裏應該就能明白 爲什麼計劃出不來 因爲 坐在AI參賽桌邊的每位參賽者 都認爲自己 纔是那份安全的計劃 那還要計劃幹什麼 只要能比其他人 更優先就行了 比其他人跑得更快就行了 馬斯克在今年1月的時候 說了 2026年 今年是奇點之年 什麼奇點呢 宇宙大爆炸 就是從奇點爆發出來的 也就是說 今年是大爆炸的元年 通用人工智能 馬斯克認爲 今年將會實現 2030年AI將會超過全人類 7月說 5年超過全人類 10年失控 還說3年內特斯拉機器人 會比任何人類外科醫生都強 最好的醫療將基本免費 馬斯克的這些預言應該怎麼看呢 那我們就看看 他的預言歷史成績單 有人就統計過 馬斯克關於特斯拉完全自動駕駛 明年就會實現的公開預言 這個前後超過20次 每一次都沒有按期兌現 雖然自動駕駛 今天確實在路上跑了 但是這個晚了非常多年 之前講奧特曼的視頻的時候 就說過這類人的通病 他們的預言方向纔算是對的 但是時間幾乎都是錯的 馬斯克他的預言 不能說完全錯 只不過是 他的時間線不對 但是有沒有 會不會有這種結果 這件事情這個是對的 所以他的預言 大方向應該是沒有問題 但是你要把它當日歷 當時間線 那估計就錯的離譜了 比如說你如果聽到 馬斯克說三年內機器人 會成爲外科機器人 取代外科醫生 成爲外科醫生 那麼就不學醫了 或者是已經學醫了 就去轉行 那估計可能就 就不一定正確 甚至錯的離譜 可能他說的三年是三十年 因爲我覺得外科醫生 應該是機器人取代人類的 最後一關吧 外科醫生的手術實在是太精細了 比如說你要做大腦的手術 那個差那麼 一毫米 0.01毫米可能就碰到腦組織了 那麼這個手術就失敗了 人就喪失功能了 當然機器的模式識別 最終肯定會比人更精確 但是現在的話 你按機器來說的話 這個錯誤率還有精度啊 各方面啊 肯定都沒辦法跟這個 專業的外科手術醫生相媲美 要說現在 十年後能不能 我估計都很難說 還有就是學生 聽到2026年是基點之年 那可能就乾脆就不念書了 或者就不上大學了 因爲未來這個白領全部都失業了 那還唸書幹啥 投資者聽到 AI這麼厲害 可能也就重創了 要知道2000年互聯網泡沫 那個時候也漲得很兇 但是 互聯網來了遲了幾年 導致大盤奔了個大就死 AI會不會走出相同的路呢 但是這些事情 對預言者本人來說 無所謂 預言的事情可以年年推遲 但是按照馬斯克的預言 來做決定的人 按他的預言的時間線 來做決定的人可能就會 造成重大的損失了 而且你造成重大損失 你不可能找馬斯克去索賠 對我們普通人來說 瞭解這些有什麼用呢 首先不要把馬斯克說的話 說的預言 還有預言中的時間當作日程表 那所謂五年預言 十年預言 2026年的基點預言 這些數字呢 不聽也罷 但是內容方向的話 還是很值得參考的 這些率器也不是完全不聽 你可以把它乘以一個倍數 比如說乘以3乘以2 這可能就有點參考意義了 那麼SpaceX爲什麼會用 600億美元這麼多錢 買一家成立才30年的 代碼編輯器公司呢 爲什麼這家公司值這個價呢 主要有兩樣東西 一個是路口 全世界很多程序員 都在用Cursor 這個工具 作爲它的編程路口 那誰握着路口呢 誰就定義工作流 另外一個原因就是數據 你在編輯器裏面 Cursor上怎麼改怎麼刪 哪裏卡住哪句提示詞 最後被採納 這些行爲軌跡呢 是訓練下一代編程AI 最值錢的數據 上一期講的Meta視頻中 說的路員工 鍵盤鼠標的時候 說過工作數據正在 變成訓練 AI的數據 代碼編輯器之類的 這種工具呢 本身就是 訓練數據的天然採集器 只不過這次呢 不是需要裝監控 而是馬農們資源打開的 AI編程工具 已經成了巨頭的軍備 馬農每天打開的工具 現在是戰略資產 這些AI工具的更新 迭代速度只會更快 不過我個人認爲 馬斯克600億美元買Cursor 應該是虧大了 因爲Cursor這筆交易 成交之後的一段時間 或者是就是那段時間 我感覺Cursor已經越來越不行了 起碼我把Cursor的 年費會員給退了 我就完全 換成其他的AI工具 因爲Cursor跟其他的兩個相比 已經我個人認爲 已經沒有什麼亮點了 其他兩個完全可以覆蓋Cursor的 所有功能,那爲什麼我要去 單獨去訂閱一個Cursor 所以說我就覺得它不值這個價 當這個 當這個用戶都流失了 像這種互聯網 互聯網產品 這種怎麼說呢 這種網絡產品,軟件產品 這個雖然說AI工具 但也算軟件產品 反正都是贏家通吃 就是最厲害的一個人通吃所有人 所以說這個差距一旦被拉開的話 那麼用戶會急速流失 所以說我覺得買這個Cursor 並不是一筆什麼好的生意 而且Cursor它本身 自己它沒有 什麼核心技術 我個人認爲沒什麼核心技術 因爲它自己沒有 做什麼大模型 它用的純粹是 別的AI模型 當然這個Harness也是一個非常重要的 重要的東西 怎麼控制AI對話 這個Harness也是非常重要 說到這其實Copilot 也只不過是個Harness 用的也是別家的模型 關鍵還是看用戶數量 它的用戶數量如果能不下降的話 600億美元是值的 如果完全被其他的 競品打下去 比如說CodeCode Copilot CodeX 被這幾家 完全比下去的話 那就完全沒有什麼競爭力了 馬斯克的預言 總是把時間線說的很短 總是說明年會怎麼樣 會發生什麼 今年會發生什麼 這種就是打臉來的非常快 我也不知道這些 大佬世界首富 這種都不用擔心 自己吹牛會不會打臉 今年就是基點之年 按他說的 那就看今年這個通用人工智能 會不會誕生 會不會成爲真的基點之年 打臉可能會來的非常快 我覺得明年通用人工智能誕生 成爲基點之年 確實是有可能的 今年可能還有點難 當然通用人工智能怎麼定義 一直是 我覺得沒有什麼標準 你說現在的AI不夠聰明嗎 不能成爲通用人工智能嗎 我覺得他已經可以了 我們這個頻道呢 最近幾期視頻 算是講了AI預言的四部曲 講了OpenICO Ultimate認錯 認錯AI發展的比他想象的慢 因爲社會的關係太大了 講了比爾蓋茨和黃楠勳的 辯論 比爾蓋茨認爲AI將會 取代大量工作 造成失業潮 認爲年輕人會找不到工作 這主要原因是 比爾蓋茨最近用了quotacode 他這個用的遲了點 那黃楠勳認爲 這個AI 並不會造成大量失業 反而會創造出 前所未有的工作機會 相反的兩種觀點 上一期視頻還講了 Meta的那場 大實驗 想要用AI替代 60%員工的大實驗 馬斯克說的這句話呢 就更加代表了 AI競賽的剎車 是停不下來的 就前面說的 反正AI會失控 但是要由我們來完成 所有公司都想要 那麼我們普通人 在這場比賽裏面 只是觀衆 當然也是這些巨頭們的賭注 這些巨頭們賭的是 自己的歷史地位和萬億市值 即使其中一家輸了 還有下一家公司 但是我們呢 我們在這個AI時代 巨浪中的 牛馬們 壓上的是自己的工作 還有孩子的前途 還有我們的人生 輸了的話 人生沒有第二局 我們能做的就是儘量看清 儘量提升認知 看清規則 不要完全相信 盲目相信 任何一位的 比賽中的發言 競賽中的發言 把自己的生活安排在 沒有人會踩AI競賽 剎車的前提下 這並不是悲觀 而是清醒的認識到 真的沒有人會踩剎車 所以說才能做最適用的準備 至於哪一個巨頭 會第一個到 終點 到這場競賽的終點 這場競賽的終點到底有什麼 他們怎麼說都不算 到終點之後我們就知道 這個終點我覺得並不會太遠 但可以肯定的是 這場競賽肯定是停不下來的 我們能做的 我們普通人能做的 也只有準備吧 就是多準備點錢吧 來應對未來 不確定的時代 有可能是非常黑暗的 也有可能是非常 非常好的 但無論是哪一種 這個過程肯定是非常 非常動盪的 對了我的頻道還有會員不能 加入會員 就能看我的頻道的 專享視頻 而且還能提前 看我未發佈的視頻 就是Member Only 還有Member First 加入會員每個月需要 幾塊錢 歡迎有實力的朋友 加入我的會員 支持我一下 感謝看到這裏 如果覺得這個視頻還不錯 請幫我點贊訂閱轉發 下個視頻再見