小心AI的數學答案！| AI大模型，避坑指南（2）
不要輕易相信他給的數學答案
小心一天工作全白做
竟然有朋友拿AI當計算器
我要心梗了
Hello 我是莉莉
爲你揭祕AI大模型
隱藏弱點二致數學計算
只有當你足夠了解AI的軟肋
才能避免被它帶進坑裏
說起這個弱點啊
我們需要了解大模型的生成原理
包括GPT在內的
前沿主流的大語言模型
基本都是自會規
也就是它們生成內容的過程
本質上就是
持續猜下一個最可能出現的token
token可以理解爲文本的基本單位
那當我們問它一個數學計算問題時
遵循同樣套路
它開始猜答案的第一個數字
概率最高的是什麼
第二個數字概率最高的是什麼
依次累推
發現問題所在了嗎
問題就是
AI根本沒有在做計算呢
但同時
因爲大模型經過了大量文本訓練
反饋的數字答案
看起來不會很離譜
所以很可能獲得人類的信任
要知道
長得像巧克力的屎
可比長得像屎的巧克力可怕得多了
尤其是當你信任了AI給的數字
你老闆信任了你給的數字
你老闆的老闆信任了
此時有些人可能冒冷汗了
我去
我兩月前好像讓AI幫我計算了個什麼什麼
不要緊張
當某個條件被滿足時
我們是可以信任AI的計算結果的
那就是
它藉助了代碼執行工具
而不是純靠自身來得到計算結果
整體的邏輯是這樣的
大模型雖然精確計算能力不行
但能很好的理解人類的需求
而且代碼生成能力也不賴
那就讓它根據人類的需求
去生成解決問題所需的代碼
然後拿到代碼執行後的結果
作爲答案的一部分
來生成回答
這樣就可以保證數字
是真實計算出來的結果
不是它隨口胡走的
但我們怎麼知道
它有沒有用到代碼工具呢
取決於不同的AI聊天助手
有些會默默調用
但不告訴你
這種時候咱們只能自行較業
來看結果對不對
但有一些
如果藉助了代碼執行工具
就會允許我們展開查看原代碼
或者宣佈一下
嘿 我用了計算器
這個數字不是我瞎扯的
當然還有一些AI
真就不執行代碼
張口就來
我就不點名了
相信這個弱點也會慢慢被解決的
但總之呢
保持警惕吧家人們
問數學問題時
記得留言AI有沒有用代碼工具哦
關於AI大模型的第三個隱藏弱點
我們下個視頻見