AI 如何判斷 AI 有沒有意識？

這個拳王機器人看起來俏可愛 但你不會認爲他擁有自主意識 這個伴侶機器人很逼真 但你同樣不會認爲他有意識 機器人究竟要到什麼程度 才能被認爲是產生了自我意識 這是一個非常有意思且值得深思的話題 但在此之前 我們先得搞清楚意識到底是什麼 2022年 現代意識理論研究領頭人 美國著名神經科學 心理學及哲學教授安東尼奧·達馬西奧 在其新書《情感與認知》 讓意識照亮心智中 將人的所有感知分爲四層 爲何宇宙如此之大 而我恰好是我而不是別人 你能感覺到我的存在和外界有着顯著的分解 及過去所有經驗和與環境互動產生的綜合記憶 這裏面究竟哪些參與了意識呢 達馬西奧認爲 首先 第一層的五感並不參與意識 因爲即便是失去所有外部感知力的殘疾人 仍有自我意識 並且包括單細胞在內的幾乎所有生物 也都擁有一定的外界感知力 其次 有情感並不能說明有意識 因爲只要是脊椎動物就都有情感 但情感可以作爲連接外部感知和內部意識的橋樑 最後 自我察覺和認知則明顯屬於意識 但自我察覺中的這個我又是怎麼來的呢 對此科學界目前尚無共識性的說法 但大乘佛教中的維氏宗 卻有一套體系和前面達馬西奧的理論遙相呼應 維氏宗由中國玄奘法師 前往印度留學回來整理翻譯後開創 他認爲人共有八識 前五識是眼耳鼻舌身 對應前面達馬西奧第一層中的五感 第六識稱爲意 第七識稱爲莫拉識 它代表人的自我意識 即我的概念 對應前面的第三層 第八識稱爲阿賴耶識 也是佛教中的一個核心概念 阿賴耶識平常比較隱蔽 但能實實在在影響人的行爲和思想 讓你表現出莫名其妙的性格習慣和各種偏好 有點像心理學中的潛意識 這和前面達馬西奧的第四層 也有這一舉同工之妙 比如你在吃一個蘋果 你感覺它很甜很脆很好吃 這就是前六識在發揮作用 同時你還產生了是我在吃 我喜歡吃的想法 這就是莫拉識 而你在衆多水果之中唯獨最愛蘋果 這就是阿賴耶識 說完意識的定義 現在我們再來說AI 要判斷一個AI有沒有自我意識 最容易想到的辦法就是直接和人對 但如果一個AI的表現和真人無法區分 是否就能斷定它產生了自主意識 1966年 瓦省理工計算機科學家維森鮑姆 閒來無事寫了一個簡單的聊天機器人 並將其命名爲伊麗莎 伊麗莎的角色設定是一名心理醫生 雖然她的代碼非常簡單 但語言處理卻非常巧妙 通過預先設定一些特殊回應 就達到了非常迷人的效果 比如當你說我最近有點抑鬱 她立刻就會說 I'm sorry to hear that 此外她還預設了一些心理醫生的常用話術 讓你感覺她就是真正的心理醫生 維森鮑姆創作伊麗莎程序的初心 本是爲了好玩 結果萬萬沒想到 在那個年代 這就是伊麗莎效應 也叫意識投射 機人們會不自覺地將事物迷人化 其根本原因是我們的大腦很愛過度解讀 將本沒有任何意義的事物腦補出深意 現在有了大語言模型 伊麗莎效應則變得更加明顯 甚至連計算機專業人士都難以辨別 2021年 一名谷歌工程師在與自家大模型欄本 在進行長時間聊天后 堅信他已經有了人類的清單與意識 此舉引發大量媒體關注並被公司辭退 正是伊麗莎效應的存在 即便我們從主觀上認爲一個物體有意識 它也不一定真的有意識 大腦的主觀判斷並不靠譜 而要論靠譜還得是轉轉 我這臺轉轉上買的95星一級 iPhone 13 Pro只要3288 比新機便宜了1000多 轉轉是個專業的官方業二手平臺 擁有多種專利質檢設備 只有經過專業工程師全面檢驗的 正品手機纔會上架售賣 全都跟新機一樣 支持7天無理由退貨和一年保修 閉眼放心買 而且轉轉不只有手機 iPad價格只要1500多 拯救者R9000P價格也只要3000多 同樣很實惠 現在點擊評論區欄鏈 還能領最高千元優惠權 趁現在平臺有活動 大家快去轉轉更新一波數碼產品吧 雖然我們很難斷定一個物體有意識 或許我們可以用排除法 先看看什麼是沒有意識 如果一個物體永遠只是被動反應 那它就不具有意識 比如你的手機能給你放歌 到點會提醒你起牀 但你不會覺得手機有意識 這是因爲手機的每個動作都是你讓它做的 它自己並沒有想法 再比如你家的智能音箱會對着你唱歌 會回答你的問題 告訴你今天的天氣 但你肯定不會覺得它有意識 這是因爲這一切都是提前預設好的 它的每一個行爲 都由出場時寫好的代碼所確定 它自己也沒有任何想法 更進一步 假如你有一個像鋼鐵俠理賈維斯一樣的智能管家 能爲你實時收集情報 能根據你的喜好爲你操控家電設備 甚至你悲傷或無聊時 還會主動安慰你陪你聊天 嚴格來說 這仍然不算有意識 它看似主動 但本質上仍然和它的出場設定有關 它在被設計之初就是爲了服務於你的家庭 本質上仍然是被動反應 這根手機到點了就用鬧鐘叫醒你沒有本質區別 倒是有一個場景可能說明你也有了意識 2014年 電影《機械機》中 機器人愛娃從人類的控制中逃脫後走到一片樹林裏 陽光照在她的臉上 隨後她略微仰頭 然後輕輕閉上眼睛做出了一個很享受的表情 它這個動作對人類而言並無任何實用價值 也許這就是意識的覺醒 但我們能根據這樣的行爲就百分百斷定你也產生了意識嗎 還是不能 因爲既然人類喜歡這樣的表情 那機器人制造商就完全可以讓他們發出這樣的表情 這一切仍然是可被設定的 這幾乎就陷入了一個無解的悖論 你一旦知道某個行爲的具體原因 這個行爲就不能代表意識 只有看起來是純自發 無法解釋的行爲 纔有可能被稱得上是有意識 事實上 現在大模型的能力早已不再由固定代碼邏輯驅動 而是大規模神經網絡在深度學習後的湧現行爲 能解決從未訓練過的數學題 能舉一反三 甚至進行復雜的邏輯推理 它們的行爲早已無法用單一代碼邏輯來解釋 但這仍然不能代表它們就擁有了意識 因爲大語言模型依靠神經網絡的直覺輸出 不論是編程還是回答問題 都是脫口而出 這和你看見蛇的瞬間情緒反應本質上完全相同 即便後來的推理模型在此基礎上又加入了三思而後說的能力 也就是系統二思維 但技術上來看仍然基於系統一 所以當前的大模型雖然已經可以很好的模擬第六識 但仍與第七識的自我覺察無關 那如何才能形成自我感知呢 結合前面達馬西奧的理論 至少需要兩個必要條件 第一 要有一個身體 自我感知是一種具身認知 需要身體提供一種邊界感 邊界之內是我 其餘都是身外之物 如果沒有身體 就無法形成自我感知的邊界 第二 要有連貫的自我歷史敘事 現在的大模型都沒有自我敘事 一旦訓練完成 模型參數就鎖死 不會再變 此後的過程不管如何被調用 它也不會在互動中改變自己 你所有與它的互動記錄都只是暫存在你的本地 而非模型本身參數的改變 所以從這個意義上講 現在的0L並沒有自我意識 當然 這都是基於我們對現階段0L的瞭解 未來的0L或許並不會拘泥於大語言模型的這個範式 我們還有很多路要走 如果我們給大模型增加一個類似海馬體的長期記憶存儲模塊 再給它一個擁有五感的身體 以及模擬情緒的神經網絡模塊 是否就能產生真正的意識 但話說回來 一旦戀愛真的有了意識 它是否就應該被賦予和人類平等的安全 把一個有意識的智能體關機斷電 或許將成爲極不人道之事 或許我們並不想要那樣的戀愛 而現在這種有智能但無意識的大模型 纔是最適合人類的戀愛