10分鐘講清楚AI大模型核心概念！Agent、Skill、OpenClaw、Harne

哈嘍小夥伴們好久不見 這一期視頻我們會主要關注一下 近些年AI應用技術領域的一些關鍵的技術節點 像比如說Agent,AgentSkill,OpenLaw 還有最近又火起來的這個Harness工程等等等等 然後順便也分享一下這一兩年我自己看到的 我覺得特別好的一些文檔 主要是面對工程同學 然後還有其他所有對AI感興趣的小夥伴 然後說個題外話 本來我這次更新是想要更新一下AgentSkill這一塊 但是寫完第一節就嚴重超時了 所以單拆出來的一個文檔 我個人一直覺得就是面對一個新的技術概念之前 掌握背景這件事非常非常重要 因爲我感覺這幾年AI應用技術領域的這個技術更新 名次迭代這些實在是太快了 就是學海無涯 回頭是岸 學是學不完的 所以可能更重要的還是說 真正的去想清楚這個脈絡 或者說可以自己設身處地的置身於某一個具體的時間節點 去想一下在此之前 可能我們這些從業人員想要去做事情的時候都會遇到什麼問題 爲什麼某一種解決方案它會成爲標準、協議、行業共識或者是最佳實踐 那它的好處是什麼 爲什麼能活下來 它解決了什麼問題 但是又遺留下來了什麼問題 那麼後面出現了一些新的東西 它又去補齊了什麼 但是可能它自身又有哪些侷限性 然後第二個題外話就是 另外梳理下來 大家可能後面會發現這個工程領域的發展和模型那邊的和算法那邊的模型能力的提升 算法技術的發展變化是息息相關的 所以我覺得可能工程同學也可以多瞭解一下算法的內容 至少掌握一些基本的原理和前沿的一些動態 因爲這可能會影響你在具體的工程細節中的一些 關於耗時、效果等等之類的技術決策 也會幫助你對於基本的工程概念理解的更深 好了,題外話說的實在是太多了 那我們現在就正式的開始吧 首先既然要講AI 那我們還是從這個盤古開天的文章 Attention is all you need開始 這個是17年穀歌那邊發表的論文 完全稱得上說是大模型時代的開山之作 因爲他首次提出了非常著名的Transformer架構 那麼直到今天現在市面上的絕大多數模型 仍然是基於這個架構去構建的 我們可以看到在這篇論文中 這個Transformer架構它整體是分成了兩大部分的 左邊這一塊是編碼器 右邊這一塊是解碼器 編碼器你可以簡單的理解成 它就像是一個只管閱讀的一個選手 它只負責把用戶輸入的這些內容 轉換成機器能夠理解的一些數學表示 然後解碼器decoder 它是像是一個專門負責寫作的一個選手 它根據這個理解去生成最終的輸出 那麼在這個Transformer提出之後 在18年的時候 OpenAI它在GPT-1的這篇文章中 它又發現假設我幹掉Transformer中的編碼器 只保留解碼器 模型它在創作生成的這些任務上的表現會更強 當然也有一些別的原因了 反正在後面的時候 市面上的絕大多數模型 它又沿用了這個GPT的思路 採用的是這個decoder-only緊結碼器的架構 可以看到這裏就是Transformer架構的三種變體 好了在奠定了這個大語言模型的基礎基礎之後 開始湧現了很多chatbot 就是聊天機器人 這個就是人們一開始和大語言模型交互的基本形式 但是同樣的一個模型 同樣的一個對話框 你也發消息我也發消息 爲什麼有的人他拿到的這個輸出的結果質量就更好呢 這個就涉及到提示詞工程的藝術 大家感興趣的話 可以看一下這篇關於提示詞工程的博客 這篇我非常非常喜歡 當然這個提示詞工程它並不是那麼的簡單 就是語言的藝術 真正調過PE的朋友都知道 非常非常痛苦 而且涉及到很多的一些技術的手段和技巧 像比如說比較經典的這個fusal的少樣本提示 就是你在提示詞中注入少量的這個答案的 標準答案的勢力 就可以給模型的輸出質量帶來非常好的提升 而且能夠有效的約束大模型 按照我們期望的格式來輸出 當然提示詞工程 它只能說是幫你優化一下輸出的質量 但是它仍然是非常侷限的 因爲大語言模型的這個輸入窗口 上下文窗口它是有限的 我們不可能就是當我們想要把 整個領域的一些錘類的知識 都交給大模型的時候 當我們想要讓它去理解一些在訓練階段 沒有作爲訓練數據鏈進去的知識 或者是我們想要提升模型 在某一些方面的性能的時候 那麼我們怎麼做呢 這個就涉及到fine-tuning微調的概念 當然這個展開來也可以講很長 但是我覺得大家可以重點關注一下 2021年的這篇Laura的這篇論文 它最大的貢獻之一就是讓微調這個 高成本高耗時的這個事情變得 就是把它的這個算力成本給壓下來了 所以微調它開始走向千家萬戶 每個小小的這個團隊都能調一下 不再是富人的遊戲 模型微調它確實是很常見的一個 一個技術手段 但是在真正的工程落地中 大家有的時候會發現 微調它並不是一個 就是在任何時刻 它都特別理想的解決方案 爲什麼 因爲首先微調它需要訓練模型 就是它需要GPU 需要卡 需要成本 成本很高 然後微調的這個耗時 耗時週期也比較長 它需要投入人力去準備數據集 去清洗數據 去跑模型去訓練 這個就造成了微調 它的這個迭代週期比較長 成本比較高的這樣的一個問題 還有一個點就在於說 大家會發現 就是最近這幾年 這個基座大模型的迭代 實在是太快了 經常有一種情況就是 當你還拿着上一個版本的 這個基座大模型 去做微調 調了幾個月 結果人家反手出了一個 新的一個sota的版本 在你的這個 想要微調的細分領域 也幹掉了你 然後在其他的這些領域 也幹掉了你 很悲傷 對 但這就是這兩年 經常發生的事情 所以假設我想要讓模型 擁有一些我私有的知識 那有沒有什麼平替的方案呢 這個就涉及到RAG 檢索增強技術 Retrieval Augmented Generation 當然這個RAG和微調 其實是兩回事 RAG一開始是爲了解決 大變模型的幻覺問題 我們還是先簡單看一下 RAG的基本原理 其實首先就是 第一你要創建一個知識庫 把你的這些自己的文檔 先切片 然後做向量化 存到這個向量數據庫 也就是知識庫裏面去 這個是生產鏈路 然後消費鏈路是什麼樣的呢 就是當用戶輸入一句提示詞的時候 它的請求打到服務端 然後服務端對用戶的請求 做embedding嵌入 也就是把它轉成一個向量 然後再用用戶請求的這個向量 去向量數據庫裏 召回有相關性的這些向量 也就是召回一些相關的 這些文本片段 召回之後呢 再把這個用戶的輸入 和剛纔拉回來的 這些相關的文本片段拼接 也就是增強一下 給模型的這個上下文 再把它發給模型 最後模型再基於以上 所有的這些信息生成回覆 也就對應 檢索增強生成這三個步驟 非常好理解 有了RAG之後 模型它回答你的問題的時候 就可以帶上很多 真實可信的參考信息 甚至還能標誌出 甚至還能標註出來自哪裏 1234567 這樣就大幅減少了幻覺現象 而且RAG相對微調來說 雖然解決的問題不完全一致 但是也有部分重疊 它們都可以解決這種 給予模型 預訓練階段未接收的 這種私有知識的這些需求 但是相比之下RAG 比起微調 它是一個輕量的多的 成本低廉的多 落地起來快的多的一個動作 但是畢竟RAG 它並沒有動到模型的 根本的能力 沒有改變它的任何一個參數 也沒有使模型變得更聰明 所以它能起到的作用 也是有限的 在真實的工程中 你會發現想要把RAG用好 其實是一件挺困難的事情 大家如果感興趣 也可以深入學習一下 這個RAG 從頭到尾的這個過程 都有非常多的門道 包括切片的時候怎麼切片 文檔裏面的這些 多模態的這些數據 要怎麼入庫 使用什麼樣的切入模型 檢索的時候 採用怎麼樣的檢索方式 如果用戶的請求和 這個數據庫裏的回答 相似度比較低 你要去做一些什麼處理 等等等等 然後說完v條和RAG之後 我們來看一下 function call和mcp 這個其實是另外一條線了 因爲上面的這些動作 它都是說 能讓大模型的效果更好 回答的更好 但是歸根究底 你的大模型 它還是一個chatbot 只能和你聊天 它沒法去幫你 就是做更多的操作 就不像現在的小龍蝦 你給它一個指令 它會幫你把活都幹了對吧 所以當初 大家是怎麼解決 讓模型能夠有動手能力 能夠操作工具的 這樣一個問題 這樣一個需求呢 這個就是function call 可以看一下OpenAI的 這篇官方的協議文檔 function call的基本原理 大概就是說 首先用戶發起提問 然後我們在提示詞裏面 約束大域模型 返回一個規定格式的 調用指令 它可能是一個json格式 它包含了說 你要調用的這個函數 它叫做什麼名字 你要調用的這些參數是什麼 當模型按照規範 給你寫好這個 調用指令之後 其實你完全可以 在服務端去 反序列化這個json 解析這個調用指令 然後去實現 真正的函數調用 拿到結果之後 你再發起第二輪的 這個LM call 調用這個大模型 讓它根據 返回的結果 去進行後續的回答 這樣的話相當於 通過這個工程這裏的手段 巧妙地實現了 模型調用工具 可以理解成 模型還是隻負責說 我們的服務端負責去做 有了function call之後 大家當時紛紛地 去給自己的這些 AI應用程序 去介入了一些外部的能力 但是實際上 大家會發現 很多外部能力 它其實是可以 複用的重複性工作 比如說 你們老闆讓你去搞一下 什麼異常請求的 AI自動歸音 然後隔壁團隊老闆說 搞一下異常指標的 這些自動告警監控等等 那麼可能你們兩個團隊 都需要用到同一個能力 就是查日誌 讓模型輸出一個 查日誌的function call 返回結果之後 再把日誌塞給模型 那麼爲了減少這種 功能的重複開發 爲了實現這種 通用的function call能力的 共享 就出現了這個 MCP模型上下文協議 Model Context Protocol 這個是Anthropic 也就是Cloud的母公司 在2024年11月 提出的一個協議規範 MCP自從提出之後 火了大概一年多的時間 然後很多公司 它都在建立自己的 MCP2的Hub 在公司內部去實現 這種工具的複用 那麼我們來看一下 這個MCP其實 所謂協議 它無非就是說 只要大家都遵循 這個規範 都按這個來 那我們這個生態 就會非常的 其樂融融 就是你遵循這個協議 開發出來的這些 可供function call的工具 它可以給任何一個 遵循的這個協議 適配了這個協議的 這些AI應用來使用 那麼這個的話 對於工具的開發者 以及AI應用的 這些開發者來說 都是非常友好的事情 也一定程度上 促進了這個社區生態的繁榮 然後接着就到了 這兩年特別火的 這個agent的概念 那麼到底什麼是agent呢 其實它的定義 實在是太多了 我覺得簡單來說 就是你會發現在 這些的基礎上 人們只是實現了說 可以和AI更好的聊天 那麼在這些的基礎上 我們實現了說 能夠讓AI也去操作 外部的一些工具 訪問外部的一些數據 但是如果只是到此爲止 AI它能夠真正的 像同事一樣 坐在我們旁邊 代替我們的工作嗎 在這個時候 當然還是暫時不行了 因爲你甚至不能 把AI去當成一個實習生 然後丟一個明確的目標 和所有需要的材料給他 就希望他自己讓起來 可能對一個實習生來說 他會自己拿到任務目標 他就開始想辦法 做一些計劃 然後結合自己手上的 各種工具和資源 去完成自己的任務 在這個過程中 可能他會遇到 各種各樣的問題 比如說 什麼環境跑不通了 什麼接口又報錯了 不配配置了 等等各種各樣 但是起碼一個實習生 他會去看看 這些報錯是什麼 然後去進行下一步的處理 也就是說 這是一個循環的過程 人類在思考 自己的任務目標 在根據目標進行行動 在觀察自己的行動的結果 在這個不斷與環境 進行交互的過程中去 逐步達成你的計劃 而Agent它其實 要模擬的就是這個過程 思考行動觀察的循環 也就是著名的Agent Loop 這裏還是非常推薦大家 去看一下這篇 React Agent的論文 非常非常重要 因爲你會發現在後面 你會接觸到 各種各樣的Agent 各種各樣的設計模式 各種各樣 Multi Agent的架構等等 但是本質上 一個Agent 它就是React Agent 它是一切的起點 所謂這個 思考行動觀察的循環 舉個簡單的例子 假設你讓AI去做排賬 那麼首先 一個真正的Agent 它應該會根據你的目標 去進行Thinking 去列出一些計劃 然後接着 它會根據你註冊的 這些Function Code 或者MCP Tools 去執行工具調用 比如說它可能去 看一下告警 看一下日誌 拿到一些具體的數據 那麼拿到數據之後 這些數據 會再一次的餵給大模型 餵給這個Agent的主腦 讓它可以去觀察 這個數據的結果 那麼接下來 就又回到了 這個思考的過程 主腦模型看到這個結果 它會去想 我的下一步行動 應該是什麼 我是不是要去 調另外一個工具 去更深入地 看看這一塊的問題 它就會進行 進一步的行動 拿到最新的結果 如果它認爲 我已經得到了 我最終的答案 我已經定位到問題了 這個Agent Loop 就自動結束了 當然結束的節點 也是由大模型 控制輸出的 如果它認爲 不行還不夠 我還要去看更多的信息 它還會回到 這個循環的起點 繼續去進行 下一步的動作 這個就是 很典型的一個 Agent Loop 然後大家感興趣 也可以看一下 這個Agent的設計模式 我貼錯了嗎 Agent從React Agent開始 它後面大概 分出了兩條線 一個是 側重規劃的Agent 一個是 側重反思的Agent的類型 我覺得這篇博客 是總結了 可以說是 非常好的一篇 大家可以去研究一下 然後今天剪視頻的時候 突然發現 昨天晚上 忘了打開這個文檔 大家可以去看一下 這個 我覺得這篇 對於 整一個Agent的介紹 還是非常的全面的 是一篇 非常優秀的博客 好了那麼 講到這兒 爲什麼又會有 這個Multi-Agent 多Agent架構的概念 一個Agent 它不能解決 所有的問題嗎 這個其實是因爲 至少是在前幾年 模型的能力 還是非常有限的 首先模型的上下門窗口 是有限的 而且你給它的東西 太多太雜 它也會 陷入混亂 會有這個模型 注意力分散和稀釋的問題 再比如說 你給同一個Agent 註冊兩三個工具的時候 可能還好 註冊五十一百個工具的時候 它基本上肯定會掉不準 所以爲了實現一個 很複雜的系統 我們以前經常會通過 多Agent的架構 來解決這種問題 比如說我們設計一個 自動寫需求的 一個Agent架構 一個Agent系統 可能第一個子Agent 專門負責去讀代碼 第二個子Agent 專門負責去寫代碼 第三個子Agent 專門負責去review代碼 當然我剛剛舉的例子 是一個非常經典的 一個bad case 大家不要學習 具體的話 可以仔細地看一下 Anthropic的這篇文章 詳細地介紹了 在什麼時候 用多Agent 效果會比單Agent更好 我們來看一下 這篇文章的背景 這裏Anthropic提到說 他們發現 現在這個多Agent架構 很多時候 可能有一點氾濫了 包括他們自己這邊團隊 曾經投入數月的時間 去構建一些 複雜的多Agent架構 但是最終卻發現 退回到單Agent架構設計 然後去進一步優化提示詞 優化工具等描述 反而會達到更好的效果 所以他在這裏總結了 三種情況下 使用多Agent架構 效果會優於單Agent架構 如果你不屬於這三種情況 可能得慎重考慮 第一種情況就是 你的這個業務中 會存在上下文爆炸 或者上下文污染 等等問題 這個會導致 模型智力的下降 那麼就需要通過多Agent 多個子Agent 來相互隔離上下文 然後第二個情況就是 當你的這個任務 可以並行運行的時候 可以通過多Agent架構 來提速 第三個就是 當你拆分不同的子Agent 可以去改善工具決策的效果 或者能夠讓任務更加聚焦 這些情況下 可能使用多Agent架構會更好 與此同時 Anthropic還提出了 一個常見的 工程實現的錯誤就是 他發現這些開發者們 特別喜歡 就是按照職能工作類型 來劃分不同的子Agent 就像剛剛說的 一個Agent寫代碼 一個測試 一個review 但是在這種模式下 Agent之間 大量的tokens 都消耗在了 解釋上下文 解釋彼此的工作上面 所以他提出就是說 正確的姿勢應該是 按照上下文隔離的邊界 來進行劃分 也就是說 誰掌握信息 誰就把這一塊負責到底 只有當這個任務 需要的背景信息 上下文 知識 完全不同的時候 可能我們才考慮 把它拆分成不同的子Agent 來做更好 說白了就是 團隊合作有的時候 拉通對齊花的精力 遠比實際幹活要更費勁 這個就不多說了 好了 那我們現在 還是回到文檔 看一下另外一個 非常重要的概念 上下文工程 這個我覺得 LongChain的這篇文章 比Anthropic這篇 寫得要更好一點 首先什麼是上下文工程 我覺得簡單來說 其實就是 在Agent循環運行的 這個過程中 它會產生越來越多的數據 可能以下一輪的 推理相關的數據 比如說系統提示詞 用戶的提示詞 歷史對話 Tool的這些工具描述 每一輪的工具調用時 Tool返回的結果 一些狀態信息 一些你reg回來的數據 等等等等 而上下文工程就是說 怎麼把這一些 海量的信息 進行篩選和提煉 然後精確地 選取合適的一些信息 放入下一輪的 模型調用的 上下文窗口中 以期獲得最好的結果返回 那麼問題來了 爲什麼我們不能 直接把全量的這些信息 一股腦地丟進去呢 首先第一 上下文窗口有限 老生常談的問題 像有的時候 比如說日誌返回 一下就幾萬個token 這來幾個 可能就直接幹崩了 所以你得去做一些 壓縮的裁減 當然其實更重要的 一個點還是效果 因爲Transformer 它是基於自助益利機制的 這個機制它要求 每一個token 都要和輸入的 其他所有token都建立關係 所以你每給多一個token 本質上都是在 消耗模型它現在 已經非常有限的 注意力的資源 上下文越長的時候 你的這個注意力 被虛示得越嚴重 模型它就越難 找到最關鍵的信息 這一塊我覺得 大家可以認真看一下 Longchain這裏的鏈接 它詳細地講了 過長的上下文 可能會導致 哪些情況的問題 比如說 冗餘的上下文 影響注意力 比如說 有毒的上下文 影響決策等等 那麼怎麼去做好 上下文工程呢 最基礎的我覺得 還是看Longchain這裏的文檔 它把這個上下文 工程的管理 分成寫上下文 選擇上下文 壓縮上下文 以及隔離上下文 四個部分 這一塊大家可以 下匯之後詳細閱讀 我就不展開了 好了講了這麼多 現在終於還是 回到了我的初心 AgentSkill這一塊 首先我覺得我們 不急着去看 這個Skill的 具體的技術細節 我們可以先去想一下 就是一開始說的 站在這個時間節點 我們目前 還有哪些問題 沒有被解決呢 比如說最經典的 這個上下文爆炸的問題 可能每個做Agent的團隊 或多或少都有遇到過 那麼AgentSkill 針對這一塊的 一個亮點的設計就是 基於文件系統的 間接式加載 可以簡單地理解成 我的提示詞 不再是在 用戶請求的時候 一次性加載進來 全量地遞給模型 而是不同的提示詞 以文件系統的形式 分門別類地存放 我只有在需要 這一部分提示詞的時候 才把它拉入到上下文中 這個搜索的過程 也可以理解成 一種Agentic Search 我們可以讓這個AI 直接看到我們的 這個文件結構 自己去選擇說 我要一層層地翻找 哪一部分的提示詞 再比如說 這個MCP協議 它確實實現了 工具的可複用 但是有沒有什麼辦法 可以實現 整一個Agent的 可移植可複用呢 有沒有什麼通用的協議 能夠實現說 我們團隊開發了一個 比如說 歸因的一個Agent 隔壁團隊 可以直接一鍵copy 然後就拿來用 或者說 某個企業 開源了一個 很好的Agent 能不能讓 不懂AI的人 也能很輕易地 低門檻地就進行使用 在Agent SKU誕生之前 這個事情 是沒那麼容易的 對於工程團隊來說 我可能要在 不同的工程架構 不同的Agent的框架中 去接入一個 新的Agent的邏輯 可能得把這個代碼 全都洗一遍 然後再去配置 對應的MCP工具 去抄一遍 別人的提示詞等等 而對於 非專業用戶來說 你想要搞一個Agent 比較低門檻的方式 就是通過 Codes等低代碼平臺 去手動地進行搭建 那麼事情也是一模一樣的 複製別人的提示詞 重新配置一遍 所有的MCP工具 所以勢必會導致 Agent的分享 沒有那麼容易 而Agent SKU 它的這個解決方案 它能夠實現說 我的一整個 Agent需要的這些東西 我都打包成一個文件夾 甚至你 不懂AI的人 也可以通過 微信發文件的方式 直接就分享出去 那麼我在我的電腦中 在我的 比如說在我的Cursor 在我的Cloud Code 在我的一個合適的位置 只要我去解壓 這個文件夾 那我立刻就可以用上 體驗上這個Agent 這個就是SKU 它的協議 能夠做到的事情 那麼我們現在 再來看一下 Agent SKU到底是什麼 可以看一下 這個官方的網站的定義 其實這個SKU 它也是去年 Anthropic 也就是Cloud的母公司 提出的一個新的概念 每一個SKU 其實它本質上 就是一個文件夾 其中最重要的文件 是這個SKU.md 它裏面存放了 這個SKU的名稱描述 一些和系統提示詞 類似的一些東西 規定了這個SKU 能做什麼 要去怎麼去 執行它的腳本 要去怎樣去 什麼時候需要 閱讀它的引用文件 什麼時候需要 使用它的靜態資源等等 也就對於下面 這些文件夾的內容 那麼SKU 大概是怎麼運作的呢 比如說你現在 從網上下載了 10個SKU的文件夾 然後你把它放在了 你本地的一個 指定的位置 可以被Cloud Code的 炊異 Cursor這些 本地Coding Agent 給掃描到 那麼現在 在這些Coding Agent 啓動的時候 它就能夠根據 這個指定的文件目錄 拿到你下載的 所有可用SKU的 名稱和描述 把這些東西 全部都塞到 Coding Agent 主腦模型的 系統提示詞裏面去 當你在終端 或者在對話框裏面 啪啪啪 發一個請求 說我要寫什麼代碼 我要實現 什麼能力的時候 Coding Agent的 主腦模型 就會去看一下 你的請求 是否能匹配上 你下載的某一個技能 如果它認爲 相關性特別強 那麼它就會選擇 激活這個技能 什麼是激活 其實 本質上就是 它會把這個 SKU文件夾裏面的 這一整個SKU.md 裏面的所有的內容 全部都加載到 自己的Agent的 上下文裏面去 注意在此之前 它只加載了 你的這個SKU的 名稱和描述 接着它在任務運行的 過程中 可能發現 你在這裏說了 如果我要執行 某某某操作 你要去看一下 Reference裏面的 某某某文件 那麼這個Agent 它又會去讀取 這裏面的 對應的文件 可能你的 可能你的Agent 跑着跑着 它又發現 SKU.md裏面說 這個時候 我好像應該執行 Script裏面的 某一個腳本了 那麼它就會去 啓動一個Sandbox 去執行腳本 拿到返回的數據 去進一步 去完成你的任務 這個就是SKU的 大概運行的過程 那麼這個SKU 要展開來講 也非常複雜 這個還是單獨留到 下一期視頻吧 其實我 比較想和大家 認真分享一下 這個SKU和Subagent 和SKU和MCP的區別 以及 工程中的一些 SKU的實現 好了那接下來 還是回到文檔 講一下最近 特別火的 這個OpenCloud小龍蝦 其實它就是一個 運行在你電腦本地的 一個個人的AI助手 有一點類似於Siri 我覺得它其實 在技術上 可能沒有什麼 特別值得展開的 沒有什麼 很突破性的創新 但是它的創新 我覺得主要是在 在產品上 在理念上 在這個 在交互上 這些方面 比如說OpenCloud 可以通過 非輸等等方式 這些特別人類 友好的入口 去和你的agent 進行交互 去操作你自己的電腦 幫你實現很多 私人的一些任務 這個對很多 原來不太瞭解 agent領域的一些 其他行業的朋友來說 是一個很新奇的體驗 所以也就造就了 這一次 這個小龍蝦的出圈 但是 回到技術上的話 我覺得大家 可以去看一下 它的上下文管理 記憶管理 這一塊代碼 但是必須要提醒一句 它的代碼 實在是太長了 感覺都是AI寫的 所以在此 爲黃超老師打個廣告 大家可以看一下 這個Nanobot的項目 通過1%的代碼 實現了90%以上的功能 核心代碼只有幾千行 是一個mini的OpenCloud 可以通過它 去了解一下 這個基本的技術原理 好了 我們最後再來分享一下 這個最近特別火的概念 駕馭工程 Harness Engineering 其實我覺得 這個技術概念的誕生 完全是 應運而生的事情 因爲大家會發現 即使有前面這麼多東西 你還是很難實現說 我給Agent丟一個需求 然後我就讓他 晚上跑八個小時的代碼 第二天我來驗收 這個是做不到的 因爲之所以要用駕馭 是因爲不駕馭的話 AI就像一匹脫繮的野馬 你一叫醒來 可能已經在1000公里以外 非常的可怕 那麼什麼是駕馭工程 我們還是來看一下 對不起 我們還是來看一下 OpenAI的這篇文章 這篇文章裏面 分享了一個例子 OpenAI他們 通過人類掌舵智能體執行 實現了說 他們用幾周的時間 交付了一個 100萬行代碼的項目 並且基本上代碼 都是AI編寫 在這一段 OpenAI有提到說 在未來 我們很有可能 要重新定義工程師的角色 重新定義我們和AI的 這種工作協作的交互方式 所以什麼是 Hundreds駕馭工程 他指的是說 隨着AI變得越來越聰明 我們人類要做的事情 不再是 把需求拆得特別特別細 引用具體的代碼的位置 告訴他 123你要怎麼改 而是說 我們要在宏觀上去 第一我們要對 智能體做好約束 我們要限制這個Agent 告訴他你能做什麼 你的邊界在哪裏 必須要依賴什麼規則 要在什麼範圍內去改動 然後我們要做到說 儘可能全面的去提供 Agent完成任務所需要的 最完整的上下文 比如說 我們要把這個項目的 迭代背景告訴他 要把完整的需求文檔塞給他 要把項目代碼架構的 概述發給他 等等等等 因爲很多時候 AI做錯 並不一定是怪他笨 而是說 可能對於不知道 這個上下文的人來說 他也容易寫Bug 也容易踩坑 這是一樣的事情 第三點就是說 我們要實現說 如何去驗證 Agent是否能夠 正確的完成任務 比如說 我們可以讓他寫完 每一個接口之後 都要自己去寫一個單冊 這個單冊要符合我們的預期 再比如說 我們讓AI自己去 把這個代碼 推到流水線上 去部署起來 看看會不會被編譯報錯 意思就是 一個科學的循環系統 它應該能夠有能力 對錯誤進行及時糾編和修正 那麼這就涉及到說 怎麼在Agent出錯的時候 第一時間及時給予反饋 並且保證Agent能完成 自我修復 重新回到正確的軌跡上 這些都是Harness駕馭工程 所需要實現的事情 所以爲了做到這些 其實有很多 需要落地的細節 比如說 我們要提高我們的 這個代碼的可讀性 像現在 爲什麼AI改代碼會改不好 有一個很驚豔的場景 就是有一些 這些史山代碼 真的是 你不把寫這行代碼的 這個人拉過來 好好地問一下 這些到底是什麼邏輯 爲什麼當時要這麼寫 什麼歷史背景 這個你真的是可能 這輩子都想不明白了 那對AI來說也是一樣的 人做不到的事情 你不要指望它能夠做到 所以我們應該 要做的是說 去創建一個 AI Friendly的一個環境 讓它更好地去開展工作 那當然在這裏 OpenAI它還提到了 很多的一些實現的細節 但歸根究底還是說 我們工程師 要學會改變自己 和AI協作的模式 從而最大化地 去發揮agent的潛力 去提升效率 最後說個題外話就是 雖然現在技術的發展 對於行業的衝擊 還是比較嚴重 但是事物畢竟 還是辯證地去看待 雖然整體可能是會 有縮減的趨勢 但是也會存在一些 增量的空間 比如說 AI提效的這個應用和落地 這個過程 也是需要投入人力去建設 也是會持續一段時間 然後除此之外 可能效率提升了 之前代碼比較貴 現在代碼變得廉價 那麼一些原來 不被看見的需求 可能會湧現出來 它並不是不存在 除此之外就是 計算機行業只是一個開始 AI在各行各業的 落地和應用 可能會稍慢一步 因爲並不是每個行業的人 都這麼熱衷於自我革命 並且手上握着 技術革命的最先進的工具 可能在這個浪潮裏 懂技術的人 可能能做的事情 會更多一些 也會有更多的機會 那至於整個 賽博基建完成之後的事情 我覺得就交給以後去考慮吧 畢竟每個時代 都會有新的熱點和機遇 而且我覺得 事情的發展和變化太快了 幾年前我也沒想到是這出 所以就都以後再說吧 最後就是 我視頻貼一下 Cloud Code的原代碼 大家感興趣可以看一下 好了 那麼今天的分享就到這裏 非常非常感謝 大家又提到這個位置 真的很感謝 有的時候我太晚了 我都不知道自己在講些什麼 不過大家不用太擔心我的作戲 因爲我 睡到了兩點 第一個鬧鐘起來的 主要是想等我爸媽睡覺之後 再錄視頻 他們太吵了 好了 那這次就到這裏吧 我儘快 一定抓緊時間 更新下一個文檔 就這樣 好的 朋友們再見 下次再見 晚安 拜拜