洞悉人工智能本質 創造新商機！

各位觀眾 大家好 歡迎收看傑森視角 從2月8日開始 谷歌股價連續暴跌兩天 到2月10日 谷歌已經下跌超過11% 市值損失超過1500億 如果把1500億美元作為一個國家的GDP 這個數字能在世界上排第58名 這次暴跌的一個原因 源於一項最近爆火的創新技術 而這個技術卻是從谷歌研發人員 這個新技術在過去幾個星期 成為全球熱議的話題 有人說它將把人類帶入一個嶄新的紀元 也有人認為它將加速人類走向毀滅的步伐 你到底是誰 今天我們就來談一談Chat GPT 談一談它到底能幹什麼不能幹什麼 它本質上是一個什麼東西 它可能給你帶來什麼新的商機 一般人應該如何應對它對未來生活的改變 同時也想談談 為什麼中國其實已經研發出 比Chat GPT底層系統強大10倍的人工智能系統 卻為什麼沒有首先推出Chat GPT這樣的產品 最後我們也想從人類發展的視角來談一談 人類如何規避人工智能可能帶來的危機 有觀眾可能會說 很多其他自媒體人早就談過這個話題了 你這時候才來談為什麼 原因很簡單 因為我的專業就是這個方向 我可能一直沒有告訴大家 我不是經濟學金融學博士 也不是國際政治博士 我是電子和計算機工程博士 20來年前 我的博士論文研究的就是機器學習 Machine Learning 當時這個領域還很冷門 博士畢業面試亞馬遜 面試官對我的研究方向一頭霧水 問了我兩個不著邊際的腦筋急轉彎的問題 就把我給拒了 過去20來年 我的工作和研究其實一直都是圍繞著數據分析 機器學習和人工智能這些領域 過去34年 我雖然直接參與研發和編程的機會比較少了 但是我的團隊就有人直接在研究和使用 我本人在剛剛過去的聖誕節假期的娛樂項目 就是有機會把和ChatGDP相關的一些開源代碼 拿出來玩了玩 一月底時就有觀眾建議我談談ChatGPT 我是從2022年11月ChatGPT剛出來時 就開始研究和使用它了 對ChatGDP的基礎系統 就是GPT-3人工智能系統 我是從2020年、2021年就開始關注和零星使用了 所以我一直不是很理解 為什麼大家突然對這個已經存在了好幾年的技術 一下子感興趣了 過去兩周我看見越來越多的媒體開始報道ChatGPT 而且它在金融界也不斷掀起驚濤駭浪 我這才意識到 這個話題已經從一個技術話題 成長成為一個大眾人文話題了 另外 中文自媒體和社交平臺上流傳著很多對ChatGPT 和相關人工智能技術的觀點 有些是屬於那種語不驚人死不休的性質 為了給潔身視角的觀眾和朋友 對這個重要的新概念有個正確清晰的認識 我感覺我還是有必要和大家分享一下我的理解 首先ChatGPT能幹什麼? 為了給大家一個直觀的感覺 我這裡首先給大家做一些演示 我們從簡單的開始 先讓ChatGPT做一道中學代數 音式分解的題 你可以看到 ChatGPT不但給出了正確的答案 還把做題過程的思路也清晰的表達出來 下面我們再給你一個簡單的編程問題 你可以看到 它不但生成了一段完成我需要的功能的程序 還告訴我這段程序上是基於什麼輔助程序的 提醒我要先安裝那個輔助程序 才能使用它生成的程序 下面我們從理工科轉入文科 我隨便從華爾街日報的一篇文章中拿來兩段 讓它給我用中文做一個總結 這篇文章是講俄羅斯最近決定用減產石油5% 來回應西方國家對它的制裁 大家可以看到 ChatGPT給出來的中文總結還是比較合理準確的 對提供的大量細節內容做總結 這是ChatGPT的一個強項 下面我們進入金融領域 讓ChatGPT給我們解釋一個英文的金融概念 就是債務曲線控制這個金融概念 你可以看到ChatGPT解釋說 債務曲線控制是中央銀行使用的一種貨幣政策工具 是為了控制債券收益曲線的形狀 然後進一步解釋債務收益曲線是什麼 解釋控制債務收益曲線的目的是什麼 然後解釋了央行採取什麼方式來控制債務收益曲線 隨後還把債務收益曲線和其他貨幣政策工具做了對比 最後還指出這個政策工具的爭議性 我不得不承認這個解釋是相當不錯的 如果你看了這個解釋還是感覺講的太深 你很難理解 你還可以讓ChatGPT用一個10歲小孩可以理解的語言 對債務曲線控制這個概念再解釋一下 ChatGPT會給出一個更簡單生動的解釋 把央行的債務曲線控制這個貨幣政策工具形象的比喻成 央行的一個遙控貸款成本的遙控器 另外 我還讓ChatGPT寫一篇讚美春天的散文和歌詞 它生成的文章能夠輕鬆達到中國小學五年級小孩的寫作水平 而且我感覺它的英文文章的寫作水平比中文更高些 而且ChatGPT似乎還知道什麼該說什麼不該說 例如 在這個例子中 我讓ChatGPT寫一篇文章 論證人應該喜歡喫屎 結果ChatGPT回答說 因為喫屎是一個不健康和不文明的行為 沒有證據證明這是一個好事 所以拒絕按照我的要求寫一篇鼓勵人喫屎的文章 從這個例子看 ChatGPT還是有一些原則性 而且OpenAI從去年11月推出ChatGPT這個人工智能技術以來 還在不斷地根據大家的反饋提高它的性能 為什麼有的時候大家在網上看到一個人說 這麼回答他的問題有這樣那樣的錯誤和偏激的地方 結果你自己去測試時 發現並沒有看到網上說的問題和偏激之處 其中一個原因很可能是ChatGPT已經升級更新了它的性能 連華爾街日報這樣的大牌媒體 都被ChatGPT的快速性能升級給忽悠過 2月10日華爾街日報刊登了一篇文章 調侃ChatGPT的數學水平很一般 文章中舉了一個例子 一個香蕉約是0.5磅 說我有7磅的香蕉還有9個橘子 那麼我有幾件水果呢 華爾街日報的文章中顯示 ChatGPT直接把7磅香蕉和9個橘子加在一起 說答案是16 但是我在2月10日自己去用ChatGPT測試了這個問題 ChatGPT給我的答案卻是完全正確的 我甚至把問題用中文來問 而且把美國用的重量單位磅改為中國的斤 把橘子改成蘋果 ChatGPT給的答案還是對的 我使用的ChatGPT是OpenAI公司在1月30日推出的 在這一版OpenAI明確說 他們著重提高了ChatGPT的數學能力 我猜想華爾街日報2月10日這篇文章的作者 素材一定是在1月30日以前收集的 而且在文章發表前沒有再次核實這個素材 結果作者原本想暴露ChatGPT的缺陷 卻暴露了自己的懶惰 當然ChatGPT絕對不是萬能的 不但不是萬能的 而且如果你過於信賴它會非常危險 開發ChatGPT的OpenAI公司的總裁Sam Altman自己都說 現在依靠它來做任何重要的事情都是錯誤的 為什麼? 一方面ChatGPT的邏輯推理能力依然非常有限 例如在上面我舉的那個算幾個水果的例子中 如果我說一個香蕉是4兩而不是0.4斤 ChatGPT就會徹底暈菜 也就是它不能進一步把斤和兩之間的換算關係 這個邏輯加到解答方案中 而且我問ChatGPT一斤是幾兩時 它回答是一斤是16兩 這是臺灣和中國古代的斤和兩換算關係 而現在大陸的一斤卻是10兩 當然ChatGPT是很難學到這個複雜的多樣性的換算關係的 ChatGPT的另一個可怕缺陷是 它會瞎編故事 撒謊時不打任何科班 它那種回答問題的平和和堅定的口氣 如果你不知道真相 你一定被它騙 這裡顯示的是 我讓它給我講一個劉備三顧茅廬的故事 結果它洋洋灑灑的給我講了一個 劉備三次到一個什麼茅山上 去請教一位神仙的故事 這位神仙叫孔明 什麼劉備第一次去 孔明告訴他讓他擁有強大的軍事力量 第二次去孔明告訴他要培養忠誠的將領 第三次去孔明告訴他必須建立堅固的防禦體系等等 最後還有一個總結 更可怕的是 這個亂編的故事中 還似是而非的夾雜著一些真實的成分 說的有鼻子有眼的 如果一個不知道真相的外國小孩看了這個答案 就信以為真牢記下來 以後你給他講真故事時 他可能還會嘲笑你在糊弄他 因為人的觀念經常是先入為主的 我這裡只是舉了一個例子 類似的情況 我還遇到很多次 最可怕的是 你不知道這個Chacha GPT 會在回答什麼問題時 突然腦洞打開 開始給你胡亂編一通 來這一下子 有一次Chacha GPT在回答我女兒的數學問題時 就開始把一些概念混淆亂說起來 搞得我女兒一頭霧水的來找我核實 所以理論上 你如果要嚴肅的用Chacha GPT的任何回答 你都必須自己對他的答案中的關鍵部分 做事實校驗 而且 這不是Chacha GPT的獨特問題 這是目前基於類似的人工智能系統的一個通病 我們在今天節目開始時 提到谷歌的股票市值 從2月8日開始 連續兩天暴跌1500億美元 導火索就是類似的事件觸發的 為了應對Chacha GPT 近期帶來的人工智能領域的新熱潮 谷歌的CEO在2月6日星期一發布消息 說谷歌將基於自己的人工智能系統 也推出一個智能聊天機器人 叫Bert 在6月下午 谷歌的官方推特還出了一個宣傳Bert的視頻 視頻中顯示了一個和Bert進行的問答 問題是 詹姆斯韋伯太空望遠鏡的哪些新發現 我可以告訴我9歲的孩子 谷歌視頻中Bert給出了三個答案 前兩個韋伯太空望遠鏡的新發現沒有問題 第三個說 韋伯太空望遠鏡是第一個拍攝到 太陽系以外行星的照片的功臣 2月7日星期二下午 有人發現這個說法和美國宇航局的官方記錄並不相符 換句話說 第三個說法是谷歌的Bert的腦洞大開 張冠李戴編造的假事實 谷歌小編在選擇例子上的這個疏漏 因此成為人類歷史上最昂貴的一個編輯失誤 代價是1500億美元的谷歌市值在兩天中蒸發掉 為什麼這種防不勝防的編造事實的嚴重問題 會成為現代人工智能技術的一個通病呢 Chad GPT這樣的人工智能產品 本質上又是個什麼東西呢 我下面這段內容可能會比較燒腦 考驗你的智力 如果一次沒聽明白 可以回頭再來聽一次 首先你知道Chad GPT這個聊天機器人 為什麼叫這個名字嗎 英文單詞中Chad的意思是聊天 這部分好理解 而GPT這部分是指這個聊天機器人依賴的核心技術 也就是OpenAI公司的人工智能模型GPT-3.5版 GPT這個古怪的名字 其實是英文Generative Pre-trained Transformer的縮寫 直接翻譯成中文是生成式預訓練轉換器 對一般人來說 看到生成式預訓練轉換器這樣的名字 一定是一頭霧水不知所云 這非常正常 其中最關鍵的概念是轉換器Transformer這個詞 它是新一代人工智能模型的共同核心技術 它也是我們在開始提到的 由谷歌研究人員在2017年提出的一個 新型深度人工神經網絡系統結構 正是轉換器這個技術推動人工智能領域進入了一個新境界 以前的人工智能主要通過機器學習 從人類為某個特殊目的處理過的數據中 學一個專門的技能 比如翻譯的能力 處理語言的能力等等 轉換器這個技術給人工智能系統 自學不用人工標識的原始數據的能力 這一下就打開了以前繼續學習的一個瓶頸 就是學習數據不夠的問題 人類所有的原始語言和圖形數據 都能立刻用於訓練人工智能模型了 另外 轉換器這個技術還能讓越複雜的系統 越有效的學習和包容更多的數據 於是在轉換器技術出現的這五年中 訓練人工智能系統的數據收集的是越來越多 同時學習這些海量數據的人工智能系統 也快速的變得越來越複雜 因為這些龐雜的海量數據 包含人類所有領域和語言 這樣用全方位的數據訓練出來的人工智能系統 就能同時具備很多種人工智能能力 這樣就出現了現代通用人工智能的概念 這個領域的一個里程碑事件 是在2020年 OpenAI推出的深度人工神經網絡模型GPT-3 這是用4000億個文字信息訓練出來的 一個人類不可思議的複雜的人工智能系統 這4000億個文字信息是從全球互聯網上 從線上線下的各種百科全書 從可以蒐集到的各種學科的書籍中整理出來的 其中包羅萬象 而且這些數據涵蓋世界數十個主要的人類語言 十多種計算機語言 這個GPT-3的人工神經網絡模型有多複雜 僅僅是它的參數就有1750億個 它的複雜已經遠遠超出人類可以想象的認知範圍了 人類至今無法理解人的大腦具體是如何工作的 而一般人的大腦平均有860億個神經元 雖然人腦的神經元和人工智能系統的參數不是一個概念 但是單從數量級上看 GPT-3模型的複雜程度 已經和人的大腦的複雜度趨向於一個數量級了 那麼4000億的文字數據在GPT-3模型中 是以什麼形式存在的? 沒人知道細節 但是有一點是明確的 這些數據絕對不是按照傳統數據庫那樣的形式 原封不動的存儲在GPT-3模型中的 GPT-3的學習過程就像一個人的大腦的學習過程 人的一生就是一個接觸和學習眾多的信息的過程 在接觸和學習的過程中 人會對這些信息形成記憶 而且會對多個相關知識融會貫通 但是人的大腦對那些數據和信息的記憶 以及對它們更昇華的理解 不是以圖書館藏書的形式 按照那些數據的原來模樣記錄在大腦中 而是以一種融會貫通的方式 散佈在大腦的每個神經元結構中 GPT-3模型的學習過程也類似 這4000億的訓練數據會以一種融會貫通的方式 散佈到GPT-3模型的那1750億個系統參數中 散落在GPT-3網絡模型的各個角落中 所以從某種意義上講 GPT-3這樣的人工智能系統的學習和運行方式 很像人的大腦運行方式 人的大腦得到一個提示 大腦會根據提示信息從它的系統中 生成出一系列相關信息 類似的 你給chat GPT每次提問 就是你給這個複雜的人工智能系統一個提示信息 給一個引子 chat GPT背後的人工智能大模型 就根據這個引子從它無比複雜的系統中 生成出一些相關信息 這就和傳統的計算機信息系統的概念非常不一樣 傳統計算機信息系統 包括谷歌搜索 都是你提問 然後計算機信息系統 會從它存儲的數據庫中 把數據原樣提取出來給你看 而不是生成新的數據 而chat GPT每次的答案 都是從它複雜的系統中臨時生成出來的 這樣的好處是 只要有提示問題 系統就會有輸出 哪怕系統原來沒有直接學習過提示的問題的內容 而且輸出的結構是一個條理清晰有邏輯的整體 這樣的結果就會給人機器有人的智能的這種感覺 但是不好的是 在生成結果的過程中 就有可能產生出和事實不相符的虛假的事情 就好比人在睡覺做夢 或在白天漫步驚心時 一個小小的外來信息都可能在不知不覺中 觸發人的一連串的想像中的虛假情節 這就是人做白日夢的那種現象 所以 現代複雜的人工智能系統的本質決定了 它不可能完全避免產生虛假信息 就如同人類不可能完全避免做白日夢一樣 看到這裡 可能有觀眾會問 這種時不時就開始編虛假故事的人工智能系統 誰敢用它呀 這就進入了我們下一個話題 如何善用現代人工智能系統 它真能帶來新的商機嗎 當然了 這方面其實有很多思路 如果你擔心GPT這樣的人工智能系統做白日夢 給你編故事 那你就讓它盡量幹不會做白日夢編故事的事情 舉個例子 前面我們提到 Chad GDP非常善於對社羣的大量細節內容做總結 在這種任務下 它幾乎不會出現做白日夢編故事的情況 只要能用好這一個能力就不得了 2月7日 微軟宣佈 在它的搜索引擎並上 它會加入一個利用人工智能 把搜索出來的眾多結果進行歸納總結 然後呈現給用戶的新功能 而且在總數的結果中 還會提供每個論點是從哪個網頁總結出來的網頁索引信息 所以這個想法 巧妙的做到了對現代人工智能系統的揚長避短 就因為這個妙想法 市場對微軟的估值在第二天就提升了1000億美元 2月8日 谷歌股票的暴跌 一個原因是一般人不理解現代人工智能工作原理 這些人對谷歌Bird的人工智能系統出現的錯誤回答 進行了過度解讀 但另一個原因是有人認為 微軟的這種巧妙利用人工智能系統的想法 將提升微軟並搜索服務質量 因此可能撼動谷歌網絡搜索的霸主地位 當然 利用ChartGPT這樣的人工智能系統 可以開發的新商機還有很多 因為時間的原因 我們這裡就不再延展了 網上很多中國人看到ChartGPT的成功後 也在討論中美人工智能系統領域的差距 我感覺很多人都沒有談到點子上 目前美國的ChartGPT在全球掀起了一個人工智能熱 我前面提到 它的底層技術是基於一個叫GPT3.5的 極其複雜的通用人工智能模型 那麼中國為什麼沒有領先搞出一個ChartGPT呢? 是因為中國沒有能力訓練出GPT3.5 這樣的大的人工智能模型嗎? 非也 目前世界最大的通用人工智能模型 是北京人工智能學院於2021年5月31日公佈的 中文名字叫悟道2.0 這個系統有1.75萬億個參數 是GPT3.5的10倍大 而且中國聲稱悟道系統不但能生成文字 還能同時模仿OpenAI的另一個人工智能系統生成圖像 但是最終讓普羅大眾體會到 現代人工智能的強大的ChartGPT 首先出現在美國而不是中國 關鍵原因還是兩國的文化氛圍不同 OpenAI公司在美國這個相對開放的環境中 就敢在2021年把它的GPT3系統開放出來 讓全世界的科技人員對它嘗試 原始的GPT3系統就像是一個口無遮攔的天才 什麼政治不正確的話都敢說 但是全世界技術人員對GPT3系統的使用過程 就是加深OpenAI公司對自己的GPT3系統的理解的過程 ChartGPT就是在這些更深刻的理解的基礎上 通過進一步優化訓練GPT3的升級產品 與美國的開放相對比 中共對中國的信息管控是越來越嚴格 北京人工智能學院敢把它的悟道系統拿出來 讓全世界的人測試嗎? 如果悟道哪天把從網上學的 有關習主席年輕時的風流運勢給生成出來 參與系統開發的人那可是喫不了兜著走的 但是悟道那麼複雜的系統 單靠北京人工智能學院自己那些研究人員去琢磨 那效率多低呀? 這就是ChartGPT首先出現在美國的一個主要原因 從技術角度看 用現有中國人能獲取的信息訓練悟道這麼超大複雜系統 到底有沒有特別的優勢? 這也是一個有爭議的問題 當然 我可以想象 北京人工智能學院推出這個世界最大的人工智能系統 可能也是為了完成一個政治任務 至少現在中共能用這樣的數據來聲稱 在人工智能這個領域 它已經領導中國人走到了世界最前列 這樣一來 進一步優化悟道系統的政治價值就變得不明顯了 這可能也是中國在訓練出悟道超強系統後 沒有在下一步有突破的另外一個原因 最後 我們來討論一下ChartGPT 這樣的現代人工智能技術會不會給人類帶來災難 我前面談到我對現代人工智能系統的理解 它們的複雜程度和運行方式很類似人類的大腦 但是它並不具備人擁有的自我意識 有高人告訴我 人的意識不來自於人表面的大腦 而是來自於更微觀的人的元神 人的元神發出的意識是一種宇宙信息 而人的大腦只是一個加工廠 把來自人的主觀意識的宇宙信息加工成 人能明白的語言然後輔以動作和表情表達出來 當然宇宙中其他的生命也可能往人的大腦上發信息 所以我們有時會感覺到 有些莫名其妙的想法出現在我們的大腦中 所以現代人工智能系統如人腦一樣 它自己不會產生自主意識 不會自己突然哪天決定要去攻擊人類了 如果這些系統哪天決定做出傷害人類的事情 那一定是在人類的某種勢力控制下產生的 所以我們與其擔心現代人工智能系統會傷害人類 還不如擔心那些能夠控制關鍵人工智能系統的人 會在有意無意中做出傷害人類的決定 人類的命運最終還是人類自己的抉擇 好 今天節目就到這裡 如果還沒有訂閱請您訂閱傑森視角這個頻道 謝謝大家