AI 額度老是不夠用？三招省 Token 的實戰方法

最近有非常多觀眾留言或私訊問我 月費20美金的方案已經完全不夠用了 但200美金又用不完 我到底要怎麼做纔能有效的省token? 說實話 我自己其實不是很在意AI上面花了多少錢 但後來我發現 當你認真去省token的時候 你真正省下來的其實不只是錢 而是幫你的AI清除一個更乾淨的工作環境 少了那些沒用的雜訊 AI的注意力會更集中 給你的產出品質也會明顯更好 所以今天這支影片 我就來跟你分享幾個新手或者技術小白 也能受用的省token小訣竅 只要稍微調整幾個日常操作的習慣 你在同樣的訂閱方案下 可用的額度就能有感提升 也能同時讓你的agent不要載入垃圾context 提高回復品質 那我們就不廢話 直接開始吧 要搞清楚額度為什麼燒得這麼快 我們得先來看看 每一次你按下送出的時候 模型背後到底收到了什麼 很多人以為自己每次只是傳了眼前這行短短的字 但實際上每次你按下送出 系統都會在背後把除了這句prompt之外的大量context 也就是所謂的上下文背景資料 一口氣打包全部塞給AI 如果我們把每次注入給AI的context拆開來看 你會發現裡面主要塞了四層東西 第一層是系統與專案規則 這包含了像是Cloud Code內建的系統提示詞 你在專案目錄底下寫的 Cloud Markdown或Agents Markdown檔案 甚至包含你當前環境的Git狀態跟作業系統資訊 第二層是工具的使用說明 在Cloud Code或Cursor這類的環境裡 系統會把你所有掛載的工具 包含內建的終端機、檔案讀寫、搜尋功能 還有你外接的所有MCP Server的名稱跟參數描述 通通打包塞進context裡 光是這份工具清單 每一次請求就可能先吃掉你幾千個token 第三層是對話的歷史記錄 包含了你在這個對話視窗裡面聊過的每一輪對話 AI過去給你的長篇分析 甚至它寫出來的每一段程式碼 每一次你傳訊息 這些內容都會再一次全部送出給AI 最後第四層是外部檔案與工具的執行記錄 像是你叫它讀過的幾百行原始碼PDF檔 或是它在終端機裡面跑指令噴出來的一大串logs 只要這些內容出現在同一個對話視窗裡 每一次你下指令、按下Enter送出的時候 因為AI的底層API本身是沒有記憶的 所以系統就必須把這四層內容完完整整的重新注入給模型 這也是為什麼對話聊到後面 你不只會覺得AI變笨 專注度下降 Token也會越燒越誇張 在第一輪對話的時候 歷史記錄是空的 消耗自然很少 但最關鍵的是 AI每一次產生的長篇分析、讀過的檔案 還有報錯的日誌 全部都會在下一輪變成歷史記錄 再一次塞回它的輸入裡 到了第十輪、第二十輪 就算你只是簡短回一句幫我改第二行 模型依然要把前面累積下來的所有內容全部重讀一遍 這個時候 你打的那句簡短指令 可能連整包資料的1%都不到 剩下的99% 全都是這顆雪球越滾越大的舊context 很多人看到這裡 直覺反應可能會是 那我以後prompt寫短一點 每次都叫AI簡短回答就好啦 或者乾脆換成便宜的小模型來跑 這些做法聽起來好像很合理 但在實戰中 效果其實非常有限 當你的對話視窗早就累積了幾萬個Token的時候 把你眼前的prompt從50個字縮短成5個字 省下來的比例根本微乎其微 而如果你換成理解力不足的小模型 它一旦寫錯程式碼 或是答非所問 逼得你還要來回重試好幾次 整趟任務累積下來 反而會燒掉你更多的額度 所以我們真正該做的 是學會精準的控制這包context 只留下AI執行任務時不可或缺的關鍵資訊 並且在對的時間點 果斷丟掉那些已經失效的廢棄資訊 這就帶到我們今天的核心重點了 在日常操作中 你到底該怎麼精準控制這包context 纔不會一直碰到Red Limit呢? 我把這套控制心法 總結成了三個核心動作 分別是丟掉用不到的 縮減留下來的 以及善用模型上的折扣機制 我們先從第一個動作開始 這也是效果最立竿見影的一招 丟掉用不到的垃圾context 它的核心概念非常簡單 只要是下一次請求根本用不到的內容 就讓它徹底離開你的對話視窗 第一個最容易養成 而且效果也最好的習慣 就是換任務就開心對話 很多人習慣在同一個視窗裡面一路聊到底 剛剛纔跟AI來回討論 改好了一個登入功能 接著又順手丟一句 欸 幫我看另一份完全不相干的報表 但這時候 模型其實還背著你上一段任務裡所有的程式碼 報錯紀錄跟工具輸出 這等於是你每問一句新問題 都在為早就結束的舊進度白白燒耳肚 所以 只要手頭上的任務告一個段落 果斷開個新視窗 讓AI乾乾淨淨的從零開始 就是最直接省token的好方法 第二個技巧 是善用編輯或是分支回溯的功能 很多時候 你剛送出一句prompt 才發現自己打錯字 或是指令下的不夠清楚 結果模型噼哩啪啦吐了一大堆沒用的內容出來 這個時候 千萬不要在底下接著回 不對 我剛打錯了 重新來一次 因為你一旦這樣回 那整段錯誤的長篇大論 就會永遠卡在你的歷史紀錄裡 之後的每一次對話都得被動跟著送出去 更好的做法 是直接回頭去編輯你剛剛那句打錯的指令 或者是用類似rewind的功能 回到你送出錯誤prompt之前的地方 把那段失敗的產出徹底抹掉 第三個做法 是精簡你掛載的工具與mcpserver 不管你用的是codex還是clocode 很多新手覺得這個也好用那個也好用 就一口氣安裝了一大堆mcp 一大堆plugin 但大家常忽略的是 每一個mcp工具背後的說明文件與參數定義 在每一次送出對話時 都會被完整塞進你的context裡 如果你當下只是要寫個小功能或改文章 就把那些根本用不到的網頁搜尋 資料庫或其他mcpserver果斷關掉 省下來的context會非常驚人 在丟掉所有用不到的雜訊之後 我們進入第二個動作 縮減留下來的context 如果有些背景資料 你確定接下來的步驟一定會用到 不能直接丟掉 這時候你該思考的就是 我能不能只萃取出真正關鍵的部分 把它的體積縮到最小 第一個最實用的做法 是先搜尋再餵給模型 很多人在處理大專案或長文件的時候 習慣把整份上百頁的pdf 或是整包幾千行的程式碼 全部丟進對話框 讓模型自己進去撈 但其實 如果你的問題本來就有明確的關鍵字 函式名稱或是錯誤代碼 更好的做法是 先用搜尋工具找出最相關的那幾行或那幾段 只把真正相關的內容餵給AI 光是多做這個動作 每次請求消耗的token 就能直接從好幾萬瞬間降到幾百 第二個做法 是給結論 把中間的討論過程清掉 在多輪的對話裡 你可能跟AI來回討論了半天 推翻了兩三個方案 最後才終於敲定架構 但當你要進入下一步的時候 模型其實只需要知道 最後確認的規格和要遵守的限制就好了 它根本不需要知道 前面那些被淘汰的廢案到底是怎麼來的 把中間冗長的討論過程清掉 只把最終有效的結論整理成一份markdown檔案 接著在全新開啟的對話裡 把這份檔案餵給AI 這樣就能一口氣省下大半的token 另外在新的session中 AI不需要一直去載入你們之前的討論內容 它只要專注在你提供給它的 當前最重要的結論就好了 有些工具會提供自動壓縮 摘要 compact之類的功能 這當然有幫助 但你不要把它當成萬靈丹 因為摘要本質上是一種有損壓縮 它會幫你保留大方向 但也可能漏掉一些細節 所以真正重要的規格 限制 決策 最好還是你主動整理成一份乾淨的markdown 而不是完全交給系統自動壓縮 第三個做法是縮小輸入的格式與輸出的範圍 在輸入的時候只要能用純文字或程式碼傳遞的資訊 就盡量不要丟一張幾MB的肥大截圖進去 而在下指令的時候 如果你只是要改某個函式 或是某個小段落 一定要明確的要求它 只輸出修改後的段落 不要讓模型每次都太熱心 把整篇幾百行的程式碼或整篇文章重頭重寫一遍 因為輸出的token往往比輸入還要更貴 也更吃你的額度 這件事可能很多人不知道 用白話來說就是AI聽你說話比較便宜 但你聽AI說話比較貴 當你把能丟的都丟了 能縮小的也都縮小了 剩下那些非留不可的關鍵資訊 我們才來做第三個動作 把資訊拿去打折 那要怎麼打折 現在不管是cloud還是OpenAI這些組合模型 背後其實都有一個機制叫做prompt caching 也就是提示詞快取 簡單說就是這些AI模型商 把你在對話中重複用到的提示詞 暫存在他們的伺服器上 讓後續請求更快成本也更低 那價格到底差多少我們直接看數字 以Cloud Opus 5來說 一般輸入100萬個token要5塊美金 但只要命中快取 後續讀取的價格直接打一折 降到只要0.5美金 整整便宜了10倍 如果你是在做大型專案或寫程式 長期累積下來 省下的費用真的非常驚人 那我們平常在用的時候 到底該怎麼做 才能最容易吃到這個快取優惠 第一個要知道的是快取的壽命 prompt caching通常是一小時 意思是隻要你在一小時內有繼續對話 快取都會一直保持有效 但反過來說 同一個session你放著超過一小時沒跟他講話 快取就過期了 所以我會建議要省token的話 盡量不要讓同一個session空著超過一小時 第二個技巧是避免做會破壞快取的動作 最常見的就是在同一個任務裡中途換模型 每個模型有自己的快取 一換就等於整段對話重頭重算一次 同樣的道理 中途調整模型的思考強度 或是中途打開加速模式 前面累積的快取也會全部失效 你就得重新付全額 把資料再寫進去一次 只要搞懂今天這套邏輯 你就不會再被動看著耳朵被燒光 你能主動去控制每一包context的去留 先把用不到的丟乾淨 留下來的收到最小 非留不可的再交給快取去打折 如果你覺得前面講的細節太多 平常記不住 其實每一次你在對話框打好字 準備按enter送出prompt之前 你只要問自己兩個問題就好 第一個問題是 AI要回答我現在這句指令 真的非得看前面的上下文跟舊資料不可嗎? 如果答案是不需要 例如你只是要問個不相干的新問題 那就果斷開新對話 或者善用類似comment by the way這類功能 但如果它確實需要背景資訊 那就問第二個問題 我們中間的這段討論過程 AI真的需要全部知道 纔可以做出好的判斷嗎? 如果不需要 那就不要在同一個視窗繼續硬聊 只要把剛剛確認好的結論整理成mockdown 開一個全新的對話丟給它 繼續你的下一步就好 其實用AI的時候 token燒得多本身並不是一件壞事 真正浪費的 是讓那些早就沒用的context 在每一輪的請求裡面 白白吃掉你的額度 把不需要的雜訊清乾淨 你才能把最珍貴的額度 留給真正需要AI去深度思考的地方 我本人其實不是很在意AI上面的開銷 但我發現在省token的同時 其實也是在清理AI時代下的技術債 也就是那一行又一行寫給agent的文字 有些時候一整份文件可能用一句話就可以解決了 對我來說 省下來的token帶給我的不只是真金白銀 而是agent 乾淨的context 更集中的注意力 以及後續更好的產出 另外我也做了一支prompt 放在這一集的Patreon文章裡 你把它貼近聊到一半的對話 它會幫你把還有效的決定跟還沒解掉的問題 整理成一份交接文件 讓你可以在下一個session裡面直接使用 需要的朋友可以在影片下方資訊欄找到連結 那以上就是今天的內容 希望對你有所幫助 喜歡的話記得幫我按讚、訂閱加分享 這是我持續創作最大的動力 我們下次見