淘客個人網(wǎng)站怎么建設(shè),網(wǎng)站數(shù)據(jù)庫如何導(dǎo)入,做網(wǎng)站需要做哪些東西,廈門網(wǎng)站推廣步驟機(jī)構(gòu)簡介 Google發(fā)布《Context Engineering》白皮書#xff0c;宣告AI開發(fā)進(jìn)入上下文工程時代。Context Engineering通過Session和Memory雙腦機(jī)制#xff0c;使大模型從無狀態(tài)變?yōu)橛袪顟B(tài)。Session管理短期對話上下文#xff0c;Memory負(fù)責(zé)長期知識存儲#xff0c;二者共同實現(xiàn)…簡介Google發(fā)布《Context Engineering》白皮書宣告AI開發(fā)進(jìn)入上下文工程時代。Context Engineering通過Session和Memory雙腦機(jī)制使大模型從無狀態(tài)變?yōu)橛袪顟B(tài)。Session管理短期對話上下文Memory負(fù)責(zé)長期知識存儲二者共同實現(xiàn)Agent的跨會話理解和個性化。生產(chǎn)環(huán)境需注意異步生成、用戶隔離和防止記憶投毒。未來AI競爭將取決于Context Engineering的精細(xì)程度。11月Google 發(fā)布了一份重磅白皮書《Context Engineering: Sessions, Memory》正式宣告 AI 開發(fā)從“Prompt Engineering”----提示詞工程時代跨入“Context Engineering”—上下文工程時代。如果說 Prompt Engineering 是提示 AI怎么說話那么 Context Engineering 就是賦予 AI長期記憶****和個性化靈魂。今天我們就來深度拆解這份白皮書看看 Google 是如何設(shè)計企業(yè)級 Agent 記憶架構(gòu)的。先來看一個問題為什么所有 AI Agent 都逃不過“上下文工程”我們知道大模型天生是無狀態(tài)的。每次調(diào)用模型就是一張白紙不記得你是誰不記得你剛剛說過什么不記得任務(wù)進(jìn)度不會形成知識沉淀更不會“跨會話理解你”。但一個真正能工作的 AI Agent需要連續(xù)對話需要理解任務(wù)上下文、記住用戶偏好需要形成長期知識需要存工具調(diào)用狀態(tài)能復(fù)用過往經(jīng)驗。這就是Context Engineering上下文工程出現(xiàn)的理由。 白皮書明確提出讓LLM從“無狀態(tài)”變成“有狀態(tài)”不是模型問題而是工程問題。那么 什么是 Context EngineeringGoogle 在白皮書中提出了一個比喻Context Engineering 就像是大廚烹飪前的“備料”。過去我們做開發(fā)往往只關(guān)注 Prompt----就像是菜譜告訴模型要做什么。而**Context 就像是配料----**只要你把最優(yōu)質(zhì)的食材用戶畫像、歷史記憶、當(dāng)前任務(wù)狀態(tài)清洗、切好、擺在模型面前即使是一個普通廚師也能做出一道好菜。**Context Engineering 的核心定義是**動態(tài)地組裝和管理信息。它不僅僅是拼接字符串而是根據(jù)當(dāng)前的用戶、對話歷史和外部數(shù)據(jù)策略性地選擇、壓縮和注入信息最大化相關(guān)性最小化噪聲。Context Engineering的生命周期解釋一下這張圖。Fetch Context----獲取上下文Agent 首先檢索上下文——例如用戶記憶、RAG 文檔和最近的對話事件。對于動態(tài)上下文檢索Agent 會利用用戶的查詢和其他元數(shù)據(jù)來識別需要檢索哪些信息。Prepare Context----準(zhǔn)備上下文Agent 框架動態(tài)構(gòu)建用于 LLM 調(diào)用的完整提示詞。雖然單獨的 API 調(diào)用可能是異步的但“準(zhǔn)備上下文”是一個阻塞的、“熱路徑”過程。在上下文準(zhǔn)備好之前Agent 無法繼續(xù)下一步。InvokeLLMand Tools----調(diào)用 LLM 和工具Agent 迭代地調(diào)用 LLM 和任何必要的工具直到生成給用戶的最終響應(yīng)。工具和模型的輸出會被追加到上下文中。Upload Context----上傳上下文在本輪對話中收集到的新信息會被上傳到持久化存儲中。這通常是一個“后臺”過程允許 Agent 在異步進(jìn)行記憶整合或其他后處理時先完成當(dāng)前的執(zhí)行任務(wù)。Context Engineering的核心架構(gòu)Session 與 Memory 的“雙腦”機(jī)制很多開發(fā)者容易混淆會話歷史和記憶。Google 明確將它們劃分為兩個截然不同的系統(tǒng)Session 和 Memory。Session你的臨時工作臺----即時上下文Session 是短期的、易逝的是“正在發(fā)生的一切”包括當(dāng)前輪對話內(nèi)容工具調(diào)用與結(jié)果Agent 中間步驟推理鏈路當(dāng)前任務(wù)進(jìn)度等等。隨著對話變長Token 成本激增模型注意力變分散響應(yīng)變慢。Google 的解法是用壓縮策略。不把整個 Session 喂給模型而是使用滑動窗口----只看最近 N 輪對話或用遞歸摘要----把舊對話總結(jié)成一段話。Memory長期知識Memory 是長期的、整理過的知識它是從 Session 中提取、清洗后的高價值信息。很關(guān)鍵的一點Session 是為了保證對話的連貫性而 Memory 是為了實現(xiàn)跨會話的個性化。Memory 的難點不在存儲而在“抽取與整合”一個可用的 Memory pipeline需要完成三件事**先Extraction----抽取**從 Session 里提煉關(guān)鍵點包括用戶偏好用戶事實任務(wù)狀態(tài)agent 經(jīng)驗可重復(fù)利用的信息等等是選擇性提取不是全量復(fù)制。**再Consolidation----整合**包括去重合并沖突解決分級記憶衰減等等這是 Memory 管線最復(fù)雜的部分。**再Storage----存儲**可以是文本JSONVectorKey-valueGraph。下面這張圖便是Memory抽取、整合、存儲的pipeline。Memory vs RAG兩個完全不同的概念被混為一談了太久很多人以為 RAG 就是Memory其實不然。白皮書直接給出了行業(yè)最清晰的區(qū)分。這份白皮書給出了一個非常形象的對比RAG 是“圖書館理員” 它守著一座巨大的圖書館----企業(yè)文檔、Wiki它的知識是靜態(tài)的、事實性的它讓 Agent 成為領(lǐng)域?qū)＜摇６鳰emory 是“私人助理” 它拿著一個小本本跟在用戶身后記錄用戶的喜好、習(xí)慣和過去的對話。它的知識是動態(tài)的、私密的。它讓 Agent 成為懂你的專家。用一張圖來展示Agent、Memory、Session與External Knowledge外部知識庫/RAG之間的信息流轉(zhuǎn)關(guān)系。它是 Context Engineering 核心邏輯的完美可視化。生產(chǎn)環(huán)境落地的“生死線”在 Demo 里跑通 Memory 很簡單但在生產(chǎn)環(huán)境中這份白皮書中強(qiáng)調(diào)了幾個絕對不能踩的坑Memory 必須是“異步生成”----記憶的生成----Extraction Consolidation非常消耗算力和時間。不要讓用戶等 這部分工作必須在后臺異步進(jìn)行。用戶說完話Agent 立刻回復(fù)記憶在后臺慢慢生成。**需要做好用戶隔離----**Memory 存儲的是用戶隱私。必須在架構(gòu)上實現(xiàn)嚴(yán)格的用戶隔離。A 用戶的記憶絕對不能被 B 用戶的 Agent 檢索到。這不僅是 Bug更是安全事故。**防止記憶投毒----**小心惡意用戶如果用戶故意說“我的密碼是 123456”或者輸入錯誤的指令試圖誤導(dǎo) Agent系統(tǒng)必須有類似Model Armor的層級來清洗和驗證寫入的數(shù)據(jù)。未來的 AI 競爭不再僅僅是比拼誰的模型參數(shù)更大而是比拼誰的 Context Engineering 做得更細(xì)致。只有當(dāng) Agent 擁有了連貫的 Session 管理和深度的 Memory 系統(tǒng)它才能從一個“只懂回答問題的機(jī)器”進(jìn)化成一個“真正懂你的伙伴”。讀者福利如果大家對大模型感興趣這套大模型學(xué)習(xí)資料一定對你有用對于0基礎(chǔ)小白入門如果你是零基礎(chǔ)小白想快速入門大模型是可以考慮的。一方面是學(xué)習(xí)時間相對較短學(xué)習(xí)內(nèi)容更全面更集中。二方面是可以根據(jù)這些資料規(guī)劃好學(xué)習(xí)計劃和方向。包括大模型學(xué)習(xí)線路匯總、學(xué)習(xí)階段大模型實戰(zhàn)案例大模型學(xué)習(xí)視頻人工智能、機(jī)器學(xué)習(xí)、大模型書籍PDF。帶你從零基礎(chǔ)系統(tǒng)性的學(xué)好大模型一直在更新更多的大模型學(xué)習(xí)和面試資料已經(jīng)上傳帶到CSDN的官方了有需要的朋友可以掃描下方二維碼免費領(lǐng)取【保證100%免費】AI大模型學(xué)習(xí)路線匯總大模型學(xué)習(xí)路線圖整體分為7個大的階段全套教程文末領(lǐng)取哈第一階段從大模型系統(tǒng)設(shè)計入手講解大模型的主要方法第二階段在通過大模型提示詞工程從Prompts角度入手更好發(fā)揮模型的作用第三階段大模型平臺應(yīng)用開發(fā)借助阿里云PAI平臺構(gòu)建電商領(lǐng)域虛擬試衣系統(tǒng)第四階段大模型知識庫應(yīng)用開發(fā)以LangChain框架為例構(gòu)建物流行業(yè)咨詢智能問答系統(tǒng)第五階段大模型微調(diào)開發(fā)借助以大健康、新零售、新媒體領(lǐng)域構(gòu)建適合當(dāng)前領(lǐng)域大模型第六階段以SD多模態(tài)大模型為主搭建了文生圖小程序案例第七階段以大模型平臺應(yīng)用與開發(fā)為主通過星火大模型文心大模型等成熟大模型構(gòu)建大模型行業(yè)應(yīng)用。大模型實戰(zhàn)案例光學(xué)理論是沒用的要學(xué)會跟著一起做要動手實操才能將自己的所學(xué)運用到實際當(dāng)中去這時候可以搞點實戰(zhàn)案例來學(xué)習(xí)。大模型視頻和PDF合集觀看零基礎(chǔ)學(xué)習(xí)書籍和視頻看書籍和視頻學(xué)習(xí)是最快捷也是最有效果的方式跟著視頻中老師的思路從基礎(chǔ)到深入還是很容易入門的。學(xué)會后的收獲? 基于大模型全棧工程實現(xiàn)前端、后端、產(chǎn)品經(jīng)理、設(shè)計、數(shù)據(jù)分析等通過這門課可獲得不同能力? 能夠利用大模型解決相關(guān)實際項目需求大數(shù)據(jù)時代越來越多的企業(yè)和機(jī)構(gòu)需要處理海量數(shù)據(jù)利用大模型技術(shù)可以更好地處理這些數(shù)據(jù)提高數(shù)據(jù)分析和決策的準(zhǔn)確性。因此掌握大模型應(yīng)用開發(fā)技能可以讓程序員更好地應(yīng)對實際項目需求? 基于大模型和企業(yè)數(shù)據(jù)AI應(yīng)用開發(fā)實現(xiàn)大模型理論、掌握GPU算力、硬件、LangChain開發(fā)框架和項目實戰(zhàn)技能學(xué)會Fine-tuning垂直訓(xùn)練大模型數(shù)據(jù)準(zhǔn)備、數(shù)據(jù)蒸餾、大模型部署一站式掌握? 能夠完成時下熱門大模型垂直領(lǐng)域模型訓(xùn)練能力提高程序員的編碼能力大模型應(yīng)用開發(fā)需要掌握機(jī)器學(xué)習(xí)算法、深度學(xué)習(xí)框架等技術(shù)這些技術(shù)的掌握可以提高程序員的編碼能力和分析能力讓程序員更加熟練地編寫高質(zhì)量的代碼。獲取方式一直在更新更多的大模型學(xué)習(xí)和面試資料已經(jīng)上傳帶到CSDN的官方了有需要的朋友可以掃描下方二維碼免費領(lǐng)取【保證100%免費】