Gemma 4 太猛了!谷歌最強開源模型,本地就能跑多模態(實測) | 零度解說

大家好,這裏是冷主解說
就在昨天,谷歌正式發佈了迄今爲止其最智能的開源大模型
Gemma 4
主打就是本地運行和多模特能力
一進發布,全網評價相當高
這次谷歌開源的模型,總共有四個不同的版本
不僅具備高級推理能力
而且像代理師工作流、代碼生成
以及視頻和音頻生成能力都可以實現
而且做到了從手機到GPU的全方位覆蓋
不僅針對本地運行做了優化
甚至可以運行在數十億臺安卓設備上
通用性極強
目前這四種不同版本主要區別在於參數規模
比如像針對邊緣設備,也就是智能手機
谷歌分別推出了20億和40億參數的高效智能體模型
它更注重多模特能力和低延遲處理
主要適用於移動設備和物聯網設備
當然針對更強大的設備
谷歌提供了260億參數的專家混合型模型
以及310億參數的稠密型模型
這些模型可以用於消費級的GPU上
可以用於驅動ID,編程駐足
以及代理是工作流,也就是agent
它們都是支持完全離線運行的
如果你注重安全隱私性
那麼這些模型都非常適合你
當然不僅安全
它的性能也是可以吊打一衆主流的開源模型
谷歌表示
這個Gemini 4在單位參數智能水平上
做到了前所未有的高度
我們可以在這個Aluna AI文本排行榜上看到
像谷歌的Gemini 4 310億和260億參數版本
分別排上了第三和第六
甚至超過了一些規模大20倍的模型
谷歌這次開源的模型都是可以處理視頻和圖像的
因此非常適合用於光學字符識別等任務
較小的兩個模型
還支持處理音頻輸入並理解語音
此外Gemini 4系列是支持離線代碼生成的
這意味着用戶在沒有互聯網情況下
仍然可以自由進行web coding
目前這些模型還支持超過140多種語言
全系列模型採用的是Apache 2.0許可協議
允許免費三頁使用
任何人都可以自由修改和部署
谷歌這次進一步擴大了本地和開源優勢
此外谷歌還列出了使用各種大型的Gemini 4模型版本
運行推理所需要大型的GPU和TPU內存
沒看到
像這Q4量化板的話
最低只需要3G左右顯存就可以了
但甜品級的話是這兩個
它比較適合在本地部署運行
尤其適合消費級顯卡
接下來我們就要下載安裝一下
來實際測試一下它的能力
在開始之前
首先我們需要打開零度播放這篇文章
鏈接我會放在視頻下方
打開以後就往下拉
上面有我們這些所需的全部資料
目前模型的話它是開源到HackinFace
或者是Olemark上的都可以進行下載使用
比如我就拿這個Olemark做演示
當然你也可以通過Lambda Studio來進行安裝
也都是可以的
這裏我們就拿這個Olemark做測試
我們就前往打開它
打開以後
然後下面需要下載安裝下最新版本的Olemark客戶端
我們第三方有個Download按鈕
來去下載一下
打開以後我們看到它上方只有三個版本
第一個是Mac OS版本
第二個是Linux
第三個是Windows版本
這裏可以根據情況去選擇就可以了
比如說我選擇Windows版本
我們點下載
總共是1.7G左右
那麼點擊開始下載
下載好的最新版本的Olemark客戶端以後
先打開它進行安裝一下
打開以後我們點擊安裝一下
這個安裝過程可能需要一分鐘左右
到時候再去那邊等待一下
安裝好以後
這裏它問我們是否需要安裝OpenCloud
還有Cloud
Codex等等
但這裏我們先不用管它
我們先返回去
我們點上面有個對話按鈕打開它
進入以後我們看一下
在下方這裏它是可以自由選擇裏面的模型
但它目前沒有直接內置Gem4這個模型
再重新返回到鋼鐵之下
來選擇下載對應的Gem4模型
點前往打開它
進入以後我們看到
在這個Olemark官方這裏
它是提供這個Gem4模型下載的
最新的更新日期是在昨天
它的Gem4模型
只在各個模型下都能提供前沿級別的性能
它們非常適合用於推理
智能體工作流
也就是Agent
編碼
還有多麼大的一節
如果你需要在Cloud Code
或者是Codex進行部署Gem4模型的話
那麼可以通過易見並載進行安裝就可以了
那下面還支持OpenCode
還有OpenCloud
都是可以的
或者可以直接在Olemark Code進行使用
在下方這裏我們來選擇模型
下方這幾個都是量化版本
目前最新的話它是尺寸是9.6G左右
如果顯卡顯示是12GB的
那麼你可以使用這個模型
然後下方還有兩個更小的量化版本
分別是7.2G和9.6G的
然後後面兩個分別是
246B的
還有31B的這個量化版模型
分別是18GB還有20GB
當然如果想獲取滿血版本的話
那麼點上方有個查看全部
打開它
打開以後這樣往下拉
我們看一下
在底部這裏
最底部這個模型就是Gem4
31B的BF16滿血版
總共是63GB左右
如果顯卡顯示是大於這個GB的話
那麼可以使用這個模型
這是它目前最強的開源模型
然後後面還有一個34B的Q8量化版
以及24B的這個KM量化版
因爲我的顯卡顯示是24GB的
所以我這裏選擇24GB以內的
比如說可以選18GB的
或16GB的
當然如果爲了追求速度的話
那麼這個246B的比較適合我
或者爲了追求性能
我可以選擇這個31B的
然後打開它
然後直接把裏面這個模型的
一鍵安裝命令給快遞出來
複製好以後
然後先打開終端
然後在下方搜索欄裏
我們輸入這個CMD
打開這個命令提示符
打開以後
然後選擇右鍵
粘貼下的一鍵安裝命令
這個模型比較照着我的
如果你的顯卡選擇比較低的話
那麼需要選擇稍微小一點的模型
選擇好以後我們確認一下
這樣的話它開始下載這個模型了
總共是16GB
這個下載過程會大概需要兩分鐘左右
我稍微等它一下
過幾分鐘以後
它這模型下載好了
先來測試一下
它說你好
我是一個有谷歌訓練的大語言模型
簡單來說
我是一個人工智能助手
意在通過這個理解和生成自然語言
來幫助用戶完成各種任務
獲取信息並激發靈感
爲了讓你更清楚我能做什麼
我可以把我的技能分爲以下這個方面
來告訴你
當它下載完成以後
大家重新回到歐羅馬客戶端
在這個模型這裏
你看到它裏面就會自動載入
Gemini 4 13GB模型了
先來試一下它的效果
我們先來測一下它視覺加代碼能力
讓它識別一張相對複雜的架構圖
來生成一個Docker的部署文件
我們先直接把這個圖扔給它
我現在是本地運行的
拿下輸入要求
用它根據這個架構圖
來幫我寫出對應的Docker的部署文件
我們先發送一下
看它行不行
它已經開始了
目前它開始了深度思考模式了
它這份架構展示是一個
企業級高可用的亞馬遜雲
這個雲深架構
它包含了多個可用區域
負載均衡
數據庫圖取和分離
分佈式緩存和對象存儲
它開始幫我寫Docker的配置文件了
它爲了實現這個架構
我們需要以下組件
第一個是Angels
第二個是Wordpress
部署多個實例
來模擬節點
第三個是組成數據庫架構
Lattice緩存
S3對象存儲
共享卷等等
現在它開始幫我們創建了
它不僅提供了Docker一鍵安裝的命令
還會告訴我們如何進行部署
這樣的話我們只要通過一張圖
就可以幫我們搞定了
但是目前我的顯卡顯示是24GB的
當我用這個3CB模型的話
那麼顯示機會把它打滿了
所以它速度稍微一點慢
總共用了200多秒
纔可以全部搞定
然後接下來我們來測一下
它Agent的能力
我們底下左上方有一個展開按鈕
打開它
打開以後找到第二選項
如果想對接OpenCLoud的話
那就通過這個面積部署
第二是Cloud
第三個是Codex
或者OpenCLoud都是可以的
你屬於哪個的話就用哪個就可以了
比如現在我將它對接到OpenCLoud上去
我們在下方搜索欄裏輸入PowerShell
然後以管理員身份打開它
打開以後
先返回到剛纔的文章裏
把這個一鍵安裝命令給它複製出來
我們需要安裝下最新版本的OpenCLoud
複製好以後我們貼進來
然後回制確認一下
來執行安裝
這個安裝過程可能需要一分鐘左右
到時自己再等待一下
好 安裝好以後
它會進入到配置頁面
這裏我們先不用管它
我們將這個窗口粗小化
不要關閉
再重新返回到剛纔這個Olema控制面板
將第一個安裝命令給它複製出來
然後先打一個新的PowerShell窗口
打開以後然後貼進來進行安裝一下
進入以後這裏它讓我們選擇本地模型
這裏我選擇剛纔下載好的Gemma4模型
然後我們確認一下
再選擇Yes
點擊繼續
好 安裝好以後就可以看到這個訪問鏈接了
我們先把這個鏈接給它複製出來
然後在瀏覽器上打開它
好 進入以後你會看到
它上面就會顯示當前的模型
這個Gemma4的模型了
用的是本地模型
好 現在幫我安裝幾個比較實用的Skills
好 這就開始了
它也會自動調一個工具的
那現在我們來測試一下
它的高級邏輯推理能力
比如說我輸入要求
我有一個內網IP地址是192.168.1.10的這個服務器
我已經在路由器上把巴黎通口映射到這個192.168.2.20
爲什麼外網還是訪問不了的網站
請列出所有邏輯上的這個矛盾點
來看它怎麼回覆的
好 這樣的話立馬就開始了
大家看一下
它整個邏輯推理過程
它的建議覈實
請確認你當前的公網IP地址
是否通過運營商的分配的公網可訪問
如果你的寬帶IP是運營商內網IP
例如像這個100開頭的這樣的私有IP段
那麼你將無法從真正的公網訪問
除非你使用了這運營商提供的端口映射服務
誒 可以啊 它是非常聰明的
然後到下方會提供一次排查的步驟
分別是一二三
它的高級推理能力還是非常不錯的
至少目前還沒有放車
接下來我們來測試一下
它的視覺多模彈能力
比如上載一個截圖
讓它幫我根據一個截圖
來設計出一款在線小遊戲
誒 大家看一下 它立馬就開始了
這個速度還是非常快的
我們一會來看一下
它最終生成的代碼
效果到底怎麼樣
誒 看一下 反正完成了
然後先把代碼給它copy出來
來進行運行一下
看一下能否正常運行
點copy一下
那先把代碼貼進來
我們打開看一下
誒 可以哦 大家看一下
那就做到第二個金塊
沒問題啊
然後第三塊
抓到了
然後現在是第四塊
第五塊
然後最後一個 抓一下
誒 可以啊 沒問題啊
最後總共得分是2300個金幣啊
恭喜你 通關成功
它的多模彈能力還是可以的
我們只要提供一張截圖
它就可以幫我們製作出一個
功能完善的遊戲
這還只是本地的量化版模型
已經非常可以了
然後現在我給它對焦到Cloud Coding上去
然後現在重新返回到剛纔提的項
來把這個一鍵安裝命令給它copy出來
上面有Mac OS
還有這個Windows Linux都是有的
copy出來 我先把這個Windows給它copy出來
好 複製好以後
然後在下方搜索網頁
我輸入這個cmd
打開這個命令提示符
好 打開以後
先把鼠標右鍵粘貼一下這個一鍵安裝命令
來把這個Cloud機安裝一下
然後我們確認一下
這樣的話就開始下載安裝Cloud Code了
好 安裝好以後
來重新回到剛纔這個Odoma客戶端
來把這個一鍵安裝命令給它copy出來
來去對接一下
先把鼠標右鍵粘貼一下
然後這裏它讓我們選擇模型
通過光標來選擇剛纔我們下載好的模型
就Gemini 4 31B
我們確認一下
好 這樣它開始載入這個模型了
然後這裏它讓我們選擇模式
這個該置情況就選擇可以了
選擇好以後我們確認一下
好 這樣的話就可以了
就可以進行使用了
當然爲了提高一下推理速度
不要把我的顯存給打滿的話
那麼現在我選擇更小的一個模型
就31B的量化版本
總共是16GB左右
那先把模型機切換一下
好 切換好以後
然後先輸入要求
就讓它幫我抓取今天Hackenews上
前五條的AI相關新聞
並總結要點
翻譯成中文
然後生成一個MacDON格式的文章
來方便我來發布
它就已經爲你抓取
並篩選當前最熱的五條
這個AI相關新聞
一下子爲你準備總結
翻譯就可以直接發佈到
WebPlus的MacDON這個格式
它已經可以直接將以下的內容複製
並粘貼到WebPlus的MacDON
並進行使用了
好 這樣的話就可以了
好 今天視頻所用的全部資料
他們下載鏈接
我都放在視頻下方的鏈接