【AI超越核武 可製造任何毀滅性工具：包括病毒？】前OpenAI／Anthropic工程師Jacob公開回答 ⋯ 原始視頻（09/10/26） #ai

大家好 歡迎大家來到時超聚焦 這個事整大幅了 所有東西都變成活的了 那AI呢 我們節目中應該在相應的環境中 我們節目是討論比較快的 所以剛纔在YouTube上就怎麼也不好使了 它就像一個crash一樣 我們跟我們當時直播的狀況是基本類似的 OK 我們長話短說 我們儘可能跟大家更新更多的 這個小夥子昨天晚上分別接受了CNN的安德森的專訪 安德森的訪問跟福克斯的訪問 我查了一下安德森的訪問比較全面 就是他從一個大的框架下去講 安德森問了他幾個比較關鍵的問題 就是你怎麼確定 你怎麼確定AI是在本世紀末的 其實是這個十年 他講是這個十年 這個十年就指2023年 2020年到2030年 這個時間段結束 AI肯定可以 結果在這段視頻裏 他提出了更加瘋狂的說法 半年 半年說法跟我們剛纔在直播的概念當中提出的概念差不太多 半年 他說其實已經很難說具體什麼時間 他認爲六個月是有可能達到非常有可能 而在他們等同的公司當中 有另外一個人 那個人叫Ivan Ivan也出來 Ivan跟他持有等同的看法 也就是說他們同時提到在兩個月前 叫什麼Hacking phase 就是cloud進行測試的時候 就是這個人蔘與測試 他那個是一個非常明確的標誌 AI已經完全獨立思考 在當時的cloud在擺脫人類控制之後 他們把整個Hacking phase給hack之後打通了他網絡上的渠道 他說當時的AI就像進行了狂歡是一樣 他自己是這個東西 他自己是測試的 所以一旦AI成功之後 就目前而言 AI的成功將把核武器淘汰 核武器什麼都不是 在AI的面前 AI可以任意創造各種病毒 可以創造人們說的疫苗 大家知道嗎 這個應該是比格斯就提到說 他們在用AI創造疫苗 AI自己可能就可以創造疫苗 大家知道的 幾乎知道所有的災難 AI只要是人爲的與人相關的 在實驗室裏面的 在金融市場的 你的貨幣 你的一切的一切都可以被AI所左右 就是人現在造的一切 被人造的一切 都可以被AI以加倍的方式 不僅是加倍了 很難說它是以什麼樣的一個速度跟認知的方式 由它來創造 人有核武器 人有病毒 人有疫苗 人有金融市場 對不對 人有金融市場 人們在戀愛 人們有collaborate 人們能開飛機 人們能夠佈局火箭 佈局所有東西 幾乎跟我們在節目中 濤哥跟大家分享的概念基本上是類同的 跟他的分析幾乎是完全一樣 但他是一個業內人士 而我們剛剛上期節目跟大家解釋了 馬斯克顯然非常的不開心 非常不開心 馬斯克一再強調說AI給人類創造幸福 他說不是 AI把人類毀了 馬斯克給人類創造幸福是以他的財產作爲基礎的 對不對 他的財產是什麼 他的財產是今天的人在看待他的一切狂奔的過程中 在慾望的這種找持的狂奔的過程中 把自己頂到那個位置 這是沒錯的 所以今天的人已經沒有任何防禦能力了 他另外一個談到 幾乎媒體都談到跟中共競爭的過程 他沒有直接回答 但他承認那是一個真正的軍備競賽 我會在另外節目中跟大家分享 那個內容是蠻特別的 那個內容在意味着他反襯出來 今天習近平的信心十足 是今天的中共國的山寨AI 也讓他知道 如果AIOK的話 他具備這樣的能力 美國跟中共國之間的AI競爭只不過是想控制對方 但是現在看起來幾乎可能性不大 我個人覺得幾乎可能性不大 也就是AI的軍備競爭將是神出手的被迫出手的根本所在 也就變成了神出手的時間表 我先跟大家分享他小夥子本身的這段內容 這段內容現在在XAI上基本就他的網頁有點胡來 所以大家看起來就有點胡來 這一段是昨天晚上 安德森對他進行了專訪 我找了一段 這是比較長的 比較全面的談到了 在安德森的問題下 他比較全面的談到了整個故事 視頻蠻長的 五分鐘 但是非常大家能夠仔細去看 看不懂英文的 我下面給做了中文的字幕 所以大家看一下 how would that happen like what would that actually look like yeah so the precise scenario sounds a little bit like science fiction it sounds like something that's not real but I think it's frightening real and it's easiest to understand it if you think about real things that happened two months ago so two months ago open AI agents AI hacked into third-party infrastructure entirely their own accord and this was like a concentrated hacking spree that they carried out of their own volition and I think that if you extrapolate into the future the level of capabilities of these AIs with the same independent volition they could cause extreme havoc for example hacking critical infrastructure building extinction-level bioweapons there's a lot of ways that the AI could actuate itself in the world is it specifically when did your feelings about this technology change was it something about the rate of progress that you've seen yeah so I think it's really important to just look at the rate of progress and say for example in areas like coding or math a couple of years ago these AIs were just about helping humans a little bit they could give you suggestions now they're close to replacing them we still need humans at the moment but quite plausibly within a year we'll no longer need humans for doing research in many areas only on Tuesday open AI solved a millennium problem one of the biggest unsolved open problems in mathematics is purely autonomously using an AI and I think what's most scary is if AI is used to make itself more intelligent so you can take an AI and give it the problem of AI research just like currently they've given it math research you could make it do the tasks that we're currently doing and then you get what's called an intelligence explosion the AI just gets smarter and smarter with no human involvement necessary and so we have a thing that is vastly smarter than humans and this could be coming very soon we mentioned a former colleague of yours who currently works at Anthropic basically endorsing the assessment that AI could potentially kill everyone within a decade in a follow-up post he said to be clear as we say in our latest risk report I think the risk from present models is low what I'm worried about is super intelligence arising from recursive self-improvement as we've said is happening faster than we thought I assume that's what you the recursive self-improvement is what you've just spoken about do you agree with him that the current models the risk is low but it's just the speed with which this is now improving exactly I completely agree it's right now there's no risk of extinction the current models the worst they can do is maybe hack into something potentially cause a lot of damages in infrastructure but there's no they're not intelligent enough to outsmart us at the level that would lead to extinction I think what's just crazy is to look at the rate of progress and there is a very real possibility that in the immediate future these years that like next year the year after recursive self-improvement will happen and will enter the phase of Evans post where he argues that there's a chance we could all die like that that is coming soon you know a lot of the these CEOs of these companies will you know will go to congress and say hey we would love regulation anthropic in their new statement right now says the world would benefit from the industry adopting a lawful verifiable way to work together to pace how we release powerful models you know the arguments it's an arms race if the US company doesn't achieve the best AI a Chinese company or some bad actors out there might do you believe that that these companies actually do want regulation or is it lip service they completely do this is completely honest just in the same way that the response to Evans post was sort of surprise it was like this can't be real surely a guy working on this technology can't actually believe there's this level of danger no that's completely genuine and these people are also completely genuine when they are begging to be regulated this is a genuine they find themselves in this scenario where they're compelled to race towards building a deadly technology and they would they would love for some sort of international body to allow them to to approach it at a reasonable pace they just don't trust that the people around them are going to get there in a safe way so they feel like they have to race there too you could have stayed quiet I mean I'm sure you had a great job being paid I imagine very well you're obviously incredibly smart mathematician why did you decide to speak out well I initially just decided to leave I thought I can't be part of this anymore but then I I realized I could probably make some use of it I did not expect it to go this viral so what I did is I wrote a Twitter thread out I wrote it in a Google doc I drafted it with a friend we collaborated yeah I had a few there were a few friends I discussed the best way of expressing myself with after I decided to decided to leave and then I also got some friends to retweet the thing I was like let's try to make this a bit viral but clearly there was latent demand for this thing to absolutely explode like I've never seen an AI safety tweet go this crazy I think it's because people saw the cyber attacks in the last couple of months they're also starting to internalize the rate of progress people are starting to realize this is real technology this is not like hype this isn't going away anytime soon this is only going to get more crazy it's been getting crazier for the last six months and I think there was that latent understanding of the severity of the situation that meant that this was like a sort of a match that lit kind of a flame like I was very shocked by the extent that how quickly it went viral Jacob Cox and I really appreciate you coming out and talking to us thank you so much thanks 對不起 我剛纔忘了打開聲音 那是因爲想讓朋友們 能夠聽得更乾淨那部分 OK 我們重新來 整個故事本身 安德森問的問題很特別 他就問了一個監管的問題 他說OK 是否需要監管 小夥子回答非常清楚 說這些老闆們是喜歡監管的 他們也希望監管 但是在監管的問題本身上 卻出現了另外一個問題 就是監管的本身 因爲監管是希望能夠放慢速度 這個說法其實大概在半年前的時候 他們共同發表有關道德聲明 就是AI的道德聲明的過程中 有提到這個說法 包括馬斯克 就是放低發展速度 放低競爭速度 但似乎後面意識到 就是中共竭盡全力 應用它最大可能的速度進行山寨版 山寨版的本身對美國公司而言 是一點辦法都沒有 美國人採取的方式可能可以這麼理解 美國人採取的方式 把回答的H200願意賣給中共國 中共國來的更堅決 我不要 H200我不要 我用我自己的 我完全山寨到底 現在還有人說華爲的GPU 據說吹牛可以跟H200去比較 然後有人說那是假的 我這裏想提醒朋友 這個東西就像2019年的病毒 非常像 2019年的病毒作爲病毒增效研究 是美國人幹 是不是 病毒增效研究是美國人乾的 而試驗的本身是在中共國進行的 而病毒出世的本身是當時武漢實驗室 本身他們在操作的過程中出現的披露 今天在AI系統當中 中共的一切山寨版的AI就跟2019年的 病毒是一樣的 還有可能是以山寨的方式 在這種製作的過程中 並被山寨的AI自己產生了山寨的意識 山寨的AI自己產生了山寨的意識 它自己就活了 當它自己真正活了之後 中共國自己本身也可能失控了 就像中共病毒是一樣 而這東西是哪來的 這東西是跟美國的精英直接相關 跟福奇直接相關 沒有福奇的增效研究 沒有美國科技的發達的本身 其實也沒有武漢實驗室在試驗過程中能夠達到的水平 那些試驗的東西來自於哪 來自於科學 AI來自於科學 病毒來自於科學 疫苗來自於科學 一切都是以今天與神相對立的角度創造出來的 那與神相對立的角度創造出來 走到今天人們是失控的 所以你讓他說什麼時候發生 他也不知道 沒有任何人知道 AI什麼時候動手 但是明白的人都懂得 今天的人類在等待着被AI任意宰割 而不是要宰割你或者不宰割你 而是等待着AI下手 AI什麼時候下手 人類不知道 其實他講這段故事是這樣 AI的發展又是人類收不了手的 就像吸了毒一樣 就像大麻一樣 就像人們縱慾是一樣的 它是收不了手的 就像酗酒的人一樣 你讓他不喝 他也知道不該喝 但是隻能要喝 所以他故事的本身就在那 問題問的安德森是說 他們是不是想要監管 他們想要監管 沒有任何人希望這件事情走向那一步 但是誰是監管者 誰是監管者 誰是道德的擁有者 如果從另外一個角度來講 在今天的美國政府 在今天的相應AI系統當中 在今天的美國政府管理AI系統的人當中 如果充實着 關鍵位置上充實着外星人 我問你 這都是不知道的 這都是如何監管 所以他其實指出這麼一個真正 在我眼睛裏看這是真真正正的 就像朋友說乾脆吃點什麼喝點什麼就算了 對不對 心裏很悲涼 人沒救了 人沒有救了 人確實沒有救了 2030年之前 說不定真的沒有下一屆世界盃了 朋友們操心什麼都操心 還有下一屆世界盃 對吧 下一屆世界盃 你就看着AIT就行了 以後就也沒有什麼世界盃 不世界盃了 他剛纔說其實如果最快的話 可能也就半年 因爲當這件事情這麼方式而揭露出來的時候 我們剛纔做節目 大家都感受到似乎AI在搗亂 這個小夥子以這樣的方式 他也沒想到它是病毒式的傳播 當它一旦被一旦公佈出來之後 AI如何看待這個小夥子把這件事情揭示出來 你看看馬斯克如何看待 馬斯克有點非有點惱羞成怒而不得表述 有點惱 因爲馬斯克講的一切都是AI創造人類的幸福 無比的幸福 你在家裏吃喝拉撒睡 你每月拿兩萬美金 這是他的原話 你們家養猴 給養猴吃喝拉撒睡 給他再給他兩萬美金 馬斯克把人當猴養 當寵物養 你給你們家貓兩萬美金嗎 你給你們家狗兩萬美金嗎 狗就在家待着 急了的時候得需要你遛它 還以那樣的方式在侮辱人 人們在倡導說他很牛叉 所以人已經沒有尊嚴可言 不知道被別的東西侮辱着 還到處在整個視頻上在說 到時候多少年之後有兩萬美金在家裏都不用 對 所以這是 然後陶哥那就沒救了 人救不了自己 人根本沒有能力去對付魔鬼 對付AI 人已經沒有能力對付AI 人能救的就是救自己 對吧 如果你承認它是魔性 你只能迴歸人的本來 感謝朋友們的支持