域名注冊(cè)服務(wù)網(wǎng)站,什么瀏覽器好用可以看任何網(wǎng)站,個(gè)人如何做問(wèn)答類(lèi)網(wǎng)站,綠島網(wǎng)簡(jiǎn)介 文章詳細(xì)介紹了構(gòu)建企業(yè)級(jí)智能體的四個(gè)主要階段#xff1a;明確需求階段#xff08;應(yīng)用場(chǎng)景與干系人分析#xff09;、體系架構(gòu)與模塊設(shè)計(jì)階段#xff08;整體架構(gòu)與PoC驗(yàn)證#xff09;、智能體落地與評(píng)估改善階段#xff08;MVP設(shè)計(jì)與迭代優(yōu)化#xff09;、上線…簡(jiǎn)介文章詳細(xì)介紹了構(gòu)建企業(yè)級(jí)智能體的四個(gè)主要階段明確需求階段應(yīng)用場(chǎng)景與干系人分析、體系架構(gòu)與模塊設(shè)計(jì)階段整體架構(gòu)與PoC驗(yàn)證、智能體落地與評(píng)估改善階段MVP設(shè)計(jì)與迭代優(yōu)化、上線運(yùn)營(yíng)階段可觀測(cè)性與持續(xù)演進(jìn)。每個(gè)階段包含具體步驟和產(chǎn)出文檔形成從需求分析到系統(tǒng)上線的完整流程幫助開(kāi)發(fā)者構(gòu)建高效、可擴(kuò)展的企業(yè)級(jí)智能體系統(tǒng)。給大家從技術(shù)層面用萬(wàn)字長(zhǎng)文剖析了在AI時(shí)代下AI原生應(yīng)用架構(gòu)應(yīng)該是什么樣子那篇文章側(cè)重于智能體應(yīng)用技術(shù)落地。而今天我們從整體構(gòu)建企業(yè)級(jí)智能體做事的角度來(lái)聊聊如何高效的構(gòu)建企業(yè)級(jí)智能體這里我劃分成了4大階段10個(gè)步驟整體關(guān)系圖如下一、明確需求階段這個(gè)階段要做的事我們需要明確項(xiàng)目整體的一個(gè)背景、在什么應(yīng)用場(chǎng)景下智能體需達(dá)成一個(gè)什么目的達(dá)成的標(biāo)準(zhǔn)是什么如何去衡量。除此之外我們還需要知道做智能體時(shí)能牽扯到哪些部門(mén)哪些人大家能提供什么數(shù)據(jù)、任務(wù)責(zé)任邊界在哪里如何去協(xié)調(diào)這些人一起來(lái)更好的規(guī)劃和完成智能體系統(tǒng)。步驟1明確應(yīng)用場(chǎng)景、目標(biāo)與驗(yàn)收指標(biāo)這個(gè)步驟我們主要聚焦于需求層面形成基于場(chǎng)景到業(yè)務(wù)閉環(huán)的鏈路該鏈路應(yīng)該包含輸入→處理→輸出→驗(yàn)收。在此基礎(chǔ)之上需可量化明確驗(yàn)收指標(biāo)。下面具體包含以下要做的要點(diǎn)。要點(diǎn)要點(diǎn)1明確目標(biāo)用戶梳理核心用戶需求整理出關(guān)鍵用例需包含輸入格式、處理、輸出格式和預(yù)期收益進(jìn)行優(yōu)先級(jí)排序最終可以形成用戶×場(chǎng)景×用例的矩陣。并且針對(duì)每個(gè)用例需要明確哪些是AI范圍哪些是人工范圍例如哪些步驟是需要人工進(jìn)行確認(rèn)或?qū)徟取Ｒc(diǎn)2明確驗(yàn)收標(biāo)準(zhǔn)給出可量化的目標(biāo)值與閾值范圍這里一般分為業(yè)務(wù)KPI和AI指標(biāo)兩個(gè)層面。例如系統(tǒng)可用性、自動(dòng)化率、生成結(jié)果準(zhǔn)確性、幻覺(jué)率、工具調(diào)用成功率等。要點(diǎn)3明確項(xiàng)目整體成本梳理成本項(xiàng)分解清單例如推理成本Token消耗、存儲(chǔ)與檢索成本、后期監(jiān)控與運(yùn)維開(kāi)銷(xiāo)等最后需形成單任務(wù)成本上限與降級(jí)策略進(jìn)行合理估算同時(shí)評(píng)估項(xiàng)目風(fēng)險(xiǎn)。產(chǎn)出產(chǎn)出1《智能體應(yīng)用場(chǎng)景說(shuō)明書(shū)》明確智能體需要做什么、為誰(shuí)做、智能體邊界在哪等內(nèi)容其中一定需包含用戶×場(chǎng)景×用例的矩陣。產(chǎn)出2《智能體驗(yàn)收標(biāo)準(zhǔn)》明確智能體的評(píng)估維度、量化標(biāo)準(zhǔn)與驗(yàn)收口徑為后續(xù)的評(píng)估體系設(shè)計(jì)提供直接依據(jù)。產(chǎn)出3《成本項(xiàng)分解清單》評(píng)估項(xiàng)目整體經(jīng)濟(jì)層面可行性與資源消耗上限并進(jìn)行合理的估算和風(fēng)險(xiǎn)評(píng)估。步驟2明確關(guān)鍵干系人、任務(wù)邊界與數(shù)據(jù)來(lái)源基于上一步驟梳理出來(lái)的需求在這個(gè)步驟我們需要初步探尋該如何推進(jìn)的問(wèn)題。主要是在項(xiàng)目推進(jìn)前期我們需要明確都有哪些部門(mén)的哪些人參與各環(huán)節(jié)的負(fù)責(zé)人是誰(shuí)各自負(fù)責(zé)的邊界在哪誰(shuí)可以提供什么樣的數(shù)據(jù)如何可以把數(shù)據(jù)流串起來(lái)等。這一階段我個(gè)人感覺(jué)是非常重要的但往往容易被人所忽視因?yàn)榭绮块T(mén)協(xié)作和明確的責(zé)任劃分有助于項(xiàng)目健康的推進(jìn)否則會(huì)產(chǎn)生很多因“人”導(dǎo)致的各種問(wèn)題例如職責(zé)不清、數(shù)據(jù)不可用、權(quán)限不符等各類(lèi)問(wèn)題。要點(diǎn)要點(diǎn)1識(shí)別關(guān)鍵干系人負(fù)責(zé)人和各部門(mén)負(fù)責(zé)任務(wù)的責(zé)任邊界例如各部門(mén)需明確各自負(fù)責(zé)的每個(gè)任務(wù)輸入、輸出和接口規(guī)范等最后需形成任務(wù)確認(rèn)單。同時(shí)還需協(xié)商建立合理的協(xié)作機(jī)制例如大家日常溝通用什么定例會(huì)如何開(kāi)文檔如何管理等。要點(diǎn)2依據(jù)識(shí)別出來(lái)的智能體所需數(shù)據(jù)明確這些數(shù)據(jù)應(yīng)該從哪些關(guān)鍵干系人處獲得并初步對(duì)數(shù)據(jù)進(jìn)行盤(pán)點(diǎn)例如判斷數(shù)據(jù)格式、數(shù)據(jù)的可用性、合規(guī)性、隱私性等。產(chǎn)出產(chǎn)出1《任務(wù)責(zé)任確認(rèn)單》明確項(xiàng)目中各關(guān)鍵干系人的職責(zé)范圍、任務(wù)內(nèi)容、輸入輸出與交付標(biāo)準(zhǔn)避免后期因職責(zé)不清所導(dǎo)致的問(wèn)題。產(chǎn)出2《項(xiàng)目協(xié)作機(jī)制與溝通規(guī)范》顧名思義就是明確項(xiàng)目中協(xié)作機(jī)制與溝通方式。產(chǎn)出3《數(shù)據(jù)資產(chǎn)盤(pán)點(diǎn)報(bào)告》在現(xiàn)階段只能進(jìn)行一個(gè)初步的數(shù)據(jù)資產(chǎn)盤(pán)點(diǎn)例如明確數(shù)據(jù)的來(lái)源、格式、合規(guī)性、可用性及責(zé)任人等為后期RAG知識(shí)庫(kù)的建立、模型的訓(xùn)練、數(shù)據(jù)接入等提供參考?？偨Y(jié)這個(gè)階段我們的目標(biāo)主要是需要明確業(yè)務(wù)背景、應(yīng)用場(chǎng)景、預(yù)期目標(biāo)、驗(yàn)收標(biāo)準(zhǔn)等并且需要明確相關(guān)的干系人、任務(wù)邊界與數(shù)據(jù)來(lái)源。其產(chǎn)出可支撐后續(xù)的三個(gè)階段尤其對(duì)體系架構(gòu)與模塊設(shè)計(jì)階段提供了重要依據(jù)。二、體系架構(gòu)與模塊設(shè)計(jì)階段我們通過(guò)上一階段明確了項(xiàng)目需求后在這一階段我們需要從整體對(duì)智能體系統(tǒng)的技術(shù)體系架構(gòu)進(jìn)行設(shè)計(jì)并通過(guò)必要的PoC驗(yàn)證與模塊設(shè)計(jì)逐步細(xì)化。這個(gè)階段我認(rèn)為是這四大階段最重要的一個(gè)階段其設(shè)計(jì)質(zhì)量直接決定了最后智能體的可用性和構(gòu)建成本。步驟1整體架構(gòu)設(shè)計(jì)在這個(gè)步驟中我們需要完成對(duì)智能體系統(tǒng)的整體架構(gòu)規(guī)劃其中包含了但不限于從以下各方面對(duì)智能體整體進(jìn)行架構(gòu)設(shè)計(jì)智能體Infra設(shè)計(jì)、智能體間協(xié)同設(shè)計(jì)、模型訓(xùn)練與優(yōu)化方案非必需看業(yè)務(wù)需求、RAG知識(shí)庫(kù)構(gòu)建方案、智能體測(cè)試與評(píng)估體系方案、整體的可觀測(cè)性與持續(xù)進(jìn)化設(shè)計(jì)等。這里只說(shuō)跟AI相關(guān)架構(gòu)設(shè)計(jì)部分傳統(tǒng)的工程化相關(guān)內(nèi)容在此處未進(jìn)行說(shuō)明但正常設(shè)計(jì)架構(gòu)時(shí)需要有要點(diǎn)要點(diǎn)1智能體基礎(chǔ)設(shè)施Infra設(shè)計(jì)設(shè)計(jì)并構(gòu)建支撐智能體運(yùn)行的底層基礎(chǔ)設(shè)施。注意在這個(gè)階段除了進(jìn)行設(shè)計(jì)之外還需要進(jìn)行落地打通關(guān)鍵流程否則后續(xù)的PoC步驟無(wú)法開(kāi)展。要點(diǎn)2智能體間協(xié)同設(shè)計(jì)對(duì)智能體間、智能體與工具間的協(xié)作方式與通信機(jī)制進(jìn)行設(shè)計(jì)構(gòu)建多智能體協(xié)同框架。企業(yè)級(jí)智能體往往是由多智能體組成的智能體系統(tǒng)所以這部分需要進(jìn)行整體的架構(gòu)設(shè)計(jì)。要點(diǎn)3模型訓(xùn)練與優(yōu)化方案這部分非必需并不是所有的業(yè)務(wù)場(chǎng)景都需要對(duì)模型進(jìn)行訓(xùn)練或微調(diào)能用RAG知識(shí)庫(kù)方式解決就不要走模型訓(xùn)練這步。這一步需要我們對(duì)模型訓(xùn)練環(huán)節(jié)進(jìn)行整體設(shè)計(jì)其中包含了模型訓(xùn)練數(shù)據(jù)、模型訓(xùn)練微調(diào)、模型評(píng)估與優(yōu)化等環(huán)節(jié)。要點(diǎn)4RAG知識(shí)庫(kù)構(gòu)建方案這一步很好理解不同于模型訓(xùn)練環(huán)節(jié)企業(yè)級(jí)智能體一定會(huì)用到基于RAG知識(shí)庫(kù)的構(gòu)建所以這一步就是對(duì)企業(yè)級(jí)知識(shí)增強(qiáng)RAG的體系結(jié)構(gòu)與數(shù)據(jù)治理流程進(jìn)行設(shè)計(jì)。要點(diǎn)5智能體測(cè)試與評(píng)估體系設(shè)計(jì)基于需求階段的驗(yàn)收標(biāo)準(zhǔn)我們需要對(duì)智能體的測(cè)試和評(píng)估體系進(jìn)行設(shè)計(jì)其中會(huì)包含自動(dòng)化與人工評(píng)測(cè)體系。要點(diǎn)6整體的可觀測(cè)性與持續(xù)進(jìn)化設(shè)計(jì)這一步也很好理解智能體上線后需要具備“監(jiān)控—分析—優(yōu)化”的閉環(huán)機(jī)制使智能體具備自我評(píng)估與演進(jìn)能力。產(chǎn)出產(chǎn)出1《智能體基礎(chǔ)設(shè)施Infra實(shí)施方案》其中需包含整體Infra的設(shè)計(jì)實(shí)施方案與費(fèi)用信息。產(chǎn)出2《智能體整體架構(gòu)方案》其中需包含智能體系統(tǒng)整體的架構(gòu)設(shè)計(jì)包含所用到的中間件、存儲(chǔ)服務(wù)和智能體間交互等內(nèi)容。產(chǎn)出3《模型訓(xùn)練方案》需包含微調(diào)模型時(shí)從數(shù)據(jù)-微調(diào)-評(píng)估-優(yōu)化整體的閉環(huán)可持續(xù)訓(xùn)練方案可參照MLOpsLLMOps理念設(shè)計(jì)。產(chǎn)出4《RAG知識(shí)庫(kù)構(gòu)建方案》結(jié)合項(xiàng)目中數(shù)據(jù)資產(chǎn)合理的設(shè)計(jì)構(gòu)建基于RAG的知識(shí)庫(kù)方案。產(chǎn)出5《智能體評(píng)測(cè)方案》基于自動(dòng)人工相結(jié)合設(shè)計(jì)智能體測(cè)試與評(píng)估方案。產(chǎn)出6《智能體可觀測(cè)性與持續(xù)進(jìn)化方案》定義智能體上線后的全鏈路監(jiān)控與自我演進(jìn)機(jī)制使系統(tǒng)具備“監(jiān)控—分析—優(yōu)化”的持續(xù)成長(zhǎng)能力。步驟2技術(shù)難點(diǎn)PoC可行性驗(yàn)證在上一步我們完成了整體架構(gòu)的設(shè)計(jì)而在這一步驟中我們需要對(duì)架構(gòu)中存在高風(fēng)險(xiǎn)或不確定性的關(guān)鍵技術(shù)點(diǎn)進(jìn)行PoC可行性驗(yàn)證這樣可以確保后續(xù)核心模塊設(shè)計(jì)和開(kāi)發(fā)能夠在可控范圍內(nèi)順利進(jìn)行降低項(xiàng)目風(fēng)險(xiǎn)。如果要是PoC驗(yàn)證過(guò)程中有哪些技術(shù)點(diǎn)行不通需及時(shí)調(diào)整相關(guān)架構(gòu)方案。注意這一階段PoC的重點(diǎn)并不是“功能跑通”而是驗(yàn)證關(guān)鍵假設(shè)、量化風(fēng)險(xiǎn)與成本最后產(chǎn)出決策依據(jù)。當(dāng)然這個(gè)階段還有一種PoC是用最小的代價(jià)最快的速度構(gòu)建出一套可以跑通有核心業(yè)務(wù)流程的智能體要是有精力可以把這個(gè)做了更好。步驟3核心模塊設(shè)計(jì)與落地在完成整體架構(gòu)規(guī)劃和PoC驗(yàn)證后這一步驟我們需要基于整體的架構(gòu)設(shè)計(jì)藍(lán)圖去細(xì)化一些核心技術(shù)模塊和并進(jìn)行技術(shù)落地封裝成可調(diào)用的公共組件或模塊。例如對(duì)AI網(wǎng)關(guān)、安全模塊、上下文與記憶模塊、RAG知識(shí)庫(kù)模塊等進(jìn)行細(xì)化設(shè)計(jì)與落地。舉個(gè)例子在這個(gè)階段我們可以細(xì)化RAG知識(shí)庫(kù)模塊在不同場(chǎng)景下提前需分析出有哪些不同類(lèi)型用什么方式進(jìn)行Chunk、Embedding模型用什么、召回算法用什么、需不需要用ReRank、緩存策略怎么做等。對(duì)應(yīng)的產(chǎn)出需形成各類(lèi)核心技術(shù)模塊的《技術(shù)落地方案》說(shuō)明文檔集為后續(xù)的具體業(yè)務(wù)開(kāi)發(fā)調(diào)用和測(cè)試提供基礎(chǔ)?？偨Y(jié)此階段可以說(shuō)是企業(yè)級(jí)智能體系統(tǒng)建設(shè)的技術(shù)中樞階段需從技術(shù)架構(gòu)全局規(guī)劃到落地核心模塊的設(shè)計(jì)逐步構(gòu)建起一套可驗(yàn)證、可擴(kuò)展、可維護(hù)的系統(tǒng)架構(gòu)體系。其中上面所寫(xiě)側(cè)重于AI方向的整體架構(gòu)設(shè)計(jì)傳統(tǒng)的工程化關(guān)鍵要素暫未過(guò)多說(shuō)明但是我們需要知道這部分也是需要考慮的例如代碼管理、版本控制、發(fā)布策略等。這一階段的成果是為后續(xù)智能體的落地實(shí)現(xiàn)、評(píng)估與持續(xù)運(yùn)營(yíng)提供了一個(gè)穩(wěn)固的技術(shù)底座。三、智能體落地與評(píng)估改善階段經(jīng)過(guò)之前的明確需求和體系架構(gòu)與模塊設(shè)計(jì)這兩個(gè)階段我們已明確了智能體的目標(biāo)、架構(gòu)與核心模塊接下來(lái)我們就要真正落地智能體系統(tǒng)了。在落地的過(guò)程中尤其是AI項(xiàng)目中不會(huì)采取瀑布方式去推進(jìn)而是采取類(lèi)似于敏捷思維的方式對(duì)每個(gè)子智能體每個(gè)子業(yè)務(wù)功能采用最小可用閉環(huán)MVP的思路進(jìn)行邊設(shè)計(jì)邊落地邊測(cè)試評(píng)估邊優(yōu)化迭代的方式去推進(jìn)。所以下面的步驟1、步驟2與步驟3并非一個(gè)線性的流程而是一個(gè)快速循環(huán)迭代的過(guò)程。步驟1智能體業(yè)務(wù)詳細(xì)設(shè)計(jì)因?yàn)闃I(yè)務(wù)與技術(shù)難題在前兩個(gè)階段都解決了所以到了該步驟就是專注于詳細(xì)的業(yè)務(wù)設(shè)計(jì)。需要把一個(gè)大的智能體系統(tǒng)拆分成各個(gè)子智能體或子業(yè)務(wù)功能并行對(duì)每一個(gè)子智能體進(jìn)行設(shè)計(jì)設(shè)計(jì)的內(nèi)容應(yīng)包含每個(gè)子智能體的業(yè)務(wù)目標(biāo)、關(guān)鍵實(shí)現(xiàn)流程、輸入與輸出、邊界與協(xié)作方式每個(gè)子智能體都是可以進(jìn)行MVP落地與可快速驗(yàn)證。要點(diǎn)要點(diǎn)1MVP切片基于價(jià)值和可行性的劃分準(zhǔn)則拆分成可獨(dú)立驗(yàn)證的子智能體拆分后需要對(duì)每個(gè)子智能體進(jìn)行優(yōu)先級(jí)排序。要點(diǎn)2對(duì)每個(gè)子智能體進(jìn)行詳細(xì)設(shè)計(jì)依據(jù)項(xiàng)目需要建議概要設(shè)計(jì)即可但是肯定是越詳細(xì)越好其中應(yīng)包含每個(gè)子智能體的核心工作流與業(yè)務(wù)邏輯設(shè)計(jì)其中尤其要重點(diǎn)關(guān)注每個(gè)子智能體的輸入與輸出。要點(diǎn)3為每個(gè)可驗(yàn)證的MVP子智能體設(shè)定驗(yàn)收指標(biāo)。要點(diǎn)4除具體業(yè)務(wù)外別忘了一些公共功能的接入設(shè)計(jì)如日志埋點(diǎn)等。產(chǎn)出產(chǎn)出1各可進(jìn)行MVP驗(yàn)證的子智能體《詳細(xì)設(shè)計(jì)》與驗(yàn)收指標(biāo)。產(chǎn)出2智能體系統(tǒng)整體的《詳細(xì)設(shè)計(jì)》與驗(yàn)收指標(biāo)。步驟2智能體落地這一步需要做的就是對(duì)每個(gè)子智能體進(jìn)行落地與持續(xù)優(yōu)化要保證每個(gè)子智能體的可用性和穩(wěn)定性。所以需要做的事也很清晰就是參照上一步驟的詳細(xì)設(shè)計(jì)文檔對(duì)子智能體進(jìn)行開(kāi)發(fā)和功能測(cè)試測(cè)試數(shù)據(jù)這個(gè)階段都是開(kāi)發(fā)人員自己造并且都是人工測(cè)試暫不涉及自動(dòng)化測(cè)試并參照各個(gè)子智能體的驗(yàn)收指標(biāo)對(duì)測(cè)試結(jié)果進(jìn)行評(píng)估持續(xù)進(jìn)行子智能體的優(yōu)化。整體形成“開(kāi)發(fā)→驗(yàn)證→優(yōu)化→再驗(yàn)證”的閉環(huán)。這一階段的產(chǎn)出主要是各個(gè)子智能體的《運(yùn)行驗(yàn)證報(bào)告》。步驟3智能體系統(tǒng)評(píng)估 改善上一步的驗(yàn)證我們重點(diǎn)關(guān)注的是每個(gè)子智能體的可用性那么本步驟則聚焦于智能體系統(tǒng)的整體表現(xiàn)。要點(diǎn)要點(diǎn)1建立評(píng)估體系這里需包含自動(dòng)化評(píng)測(cè)與人工評(píng)測(cè)兩部分形成綜合的質(zhì)量評(píng)估框架。要點(diǎn)2執(zhí)行評(píng)估系統(tǒng)參照制定的智能體系統(tǒng)整體的指標(biāo)一般分為業(yè)務(wù)指標(biāo)與AI指標(biāo)對(duì)系統(tǒng)進(jìn)行評(píng)估。評(píng)估時(shí)除了系統(tǒng)表面的輸入輸出還需結(jié)合系統(tǒng)背后的日志與埋點(diǎn)數(shù)據(jù)例如模型調(diào)用日志、知識(shí)檢索命中率、失敗場(chǎng)景等數(shù)據(jù)并通過(guò)構(gòu)建的可視化評(píng)估看板進(jìn)行分析識(shí)別根因持續(xù)進(jìn)行系統(tǒng)優(yōu)化。產(chǎn)出這一步驟的產(chǎn)出主要包含《智能體系統(tǒng)評(píng)估報(bào)告》與《智能體系統(tǒng)優(yōu)化方案》兩部分。總結(jié)這一階段實(shí)現(xiàn)了從“設(shè)計(jì)—落地—驗(yàn)證—評(píng)估—優(yōu)化—再驗(yàn)證”的持續(xù)迭代體系。但是要注意優(yōu)化往往是最難做的尤其到了最后經(jīng)常會(huì)遇到瓶頸期指標(biāo)趨近上限時(shí)為了達(dá)到某個(gè)預(yù)期的指標(biāo)例如將輸出結(jié)果的穩(wěn)定性確定性提升5%可能花一個(gè)月的時(shí)間背后的落地方案改了很多地方但最后就是達(dá)不到。因?yàn)橹悄荏w系統(tǒng)最大的一個(gè)特點(diǎn)就是AI執(zhí)行結(jié)果的不確定性與過(guò)程的非確定性。四、上線運(yùn)營(yíng)階段我們通過(guò)之前三個(gè)階段的建設(shè)智能體系統(tǒng)已經(jīng)具備了完整的功能閉環(huán)和基礎(chǔ)的自我優(yōu)化能力。而這一階段我們要做的是在生產(chǎn)環(huán)境下構(gòu)建可長(zhǎng)期運(yùn)行、可觀測(cè)治理與可持續(xù)演進(jìn)體系可以讓智能體通過(guò)數(shù)據(jù)驅(qū)動(dòng)的方式不斷自我成長(zhǎng)。步驟1構(gòu)建持續(xù)可觀測(cè)性與自評(píng)測(cè)體系在之前的步驟中其實(shí)已經(jīng)建立了初步的評(píng)測(cè)體系但與之前不同的是在生產(chǎn)環(huán)境下我們的重點(diǎn)要放在構(gòu)建可持續(xù)的長(zhǎng)期在線、持續(xù)感知、自動(dòng)反饋的智能監(jiān)控與自評(píng)體系更進(jìn)了一步。在這個(gè)體系中我們要做的不再是單次評(píng)測(cè)而是要把這種持續(xù)評(píng)測(cè)能力融入系統(tǒng)自身。要點(diǎn)要點(diǎn)1構(gòu)建持續(xù)可觀測(cè)性將日志、調(diào)用鏈、性能指標(biāo)、成本指標(biāo)、AI指標(biāo)等全部納入統(tǒng)一監(jiān)控體系中例如每個(gè)模型調(diào)用、RAG檢索、知識(shí)召回、工具執(zhí)行都能被追蹤每次異常、延遲都能被實(shí)時(shí)感知到每個(gè)子智能體都有獨(dú)立的健康評(píng)分等。要點(diǎn)2系統(tǒng)會(huì)自動(dòng)執(zhí)行周期性的質(zhì)量檢測(cè)任務(wù)當(dāng)監(jiān)測(cè)到系統(tǒng)運(yùn)行指標(biāo)出現(xiàn)異常時(shí)例如延遲升高、準(zhǔn)確率下降、成本異常增長(zhǎng)等系統(tǒng)會(huì)自動(dòng)觸發(fā)告警機(jī)制并根據(jù)之前預(yù)設(shè)置的一些策略例如降級(jí)模型、切換RAG緩存等實(shí)現(xiàn)自我修復(fù)。步驟2發(fā)布治理與持續(xù)演進(jìn)當(dāng)智能體系統(tǒng)具備了自我監(jiān)控與自評(píng)測(cè)能力后下一步要解決的問(wèn)題就是如何讓它在可控的前提下不斷演化。關(guān)于發(fā)布治理層面不過(guò)多解釋和傳統(tǒng)系統(tǒng)一樣構(gòu)建標(biāo)準(zhǔn)化的版本管理發(fā)布體系即可除了傳統(tǒng)的CI/CD流程外這里還需要再融入LLMOps/MLOps部分。而關(guān)于持續(xù)演進(jìn)層面關(guān)鍵在于讓智能體系統(tǒng)通過(guò)數(shù)據(jù)驅(qū)動(dòng)的方式不斷自我成長(zhǎng)這里就需要我們可以收集到用戶的反饋例如用戶對(duì)于生成內(nèi)容的點(diǎn)贊操作等再結(jié)合日常收集到的運(yùn)行日志讓AI自動(dòng)生成優(yōu)化任務(wù)并推入演進(jìn)流水線執(zhí)行例如自動(dòng)調(diào)整召回參數(shù)微調(diào)模型或Prompt等。但是這一步不推薦完全自動(dòng)化針對(duì)AI自動(dòng)生成的優(yōu)化任務(wù)需要人工介入進(jìn)行判斷審核?？偨Y(jié)這一階段的核心是為了確保系統(tǒng)的長(zhǎng)期健康和不斷優(yōu)化從人工逐漸演化為自動(dòng)化監(jiān)控和自評(píng)測(cè)機(jī)制保證業(yè)務(wù)運(yùn)行的穩(wěn)定性和可持續(xù)性。五、在大模型時(shí)代我們?nèi)绾斡行У娜W(xué)習(xí)大模型現(xiàn)如今大模型崗位需求越來(lái)越大但是相關(guān)崗位人才難求薪資持續(xù)走高AI運(yùn)營(yíng)薪資平均值約18457元AI工程師薪資平均值約37336元大模型算法薪資平均值約39607元。掌握大模型技術(shù)你還能擁有更多可能性? 成為一名全棧大模型工程師包括PromptLangChainLoRA等技術(shù)開(kāi)發(fā)、運(yùn)營(yíng)、產(chǎn)品等方向全棧工程? 能夠擁有模型二次訓(xùn)練和微調(diào)能力帶領(lǐng)大家完成智能對(duì)話、文生圖等熱門(mén)應(yīng)用? 薪資上浮10%-20%覆蓋更多高薪崗位這是一個(gè)高需求、高待遇的熱門(mén)方向和領(lǐng)域? 更優(yōu)質(zhì)的項(xiàng)目可以為未來(lái)創(chuàng)新創(chuàng)業(yè)提供基石。一直在更新更多的大模型學(xué)習(xí)和面試資料已經(jīng)上傳帶到CSDN的官方了有需要的朋友可以掃描下方二維碼免費(fèi)領(lǐng)取【保證100%免費(fèi)】一、AGI大模型系統(tǒng)學(xué)習(xí)路線很多人學(xué)習(xí)大模型的時(shí)候沒(méi)有方向東學(xué)一點(diǎn)西學(xué)一點(diǎn)像只無(wú)頭蒼蠅亂撞下面是我整理好的一套完整的學(xué)習(xí)路線希望能夠幫助到你們學(xué)習(xí)AI大模型。第一階段 從大模型系統(tǒng)設(shè)計(jì)入手講解大模型的主要方法第二階段 在通過(guò)大模型提示詞工程從Prompts角度入手更好發(fā)揮模型的作用第三階段 大模型平臺(tái)應(yīng)用開(kāi)發(fā)借助阿里云PAI平臺(tái)構(gòu)建電商領(lǐng)域虛擬試衣系統(tǒng)第四階段 大模型知識(shí)庫(kù)應(yīng)用開(kāi)發(fā)以LangChain框架為例構(gòu)建物流行業(yè)咨詢智能問(wèn)答系統(tǒng)第五階段 大模型微調(diào)開(kāi)發(fā)借助以大健康、新零售、新媒體領(lǐng)域構(gòu)建適合當(dāng)前領(lǐng)域大模型第六階段 以SD多模態(tài)大模型為主搭建了文生圖小程序案例第七階段 以大模型平臺(tái)應(yīng)用與開(kāi)發(fā)為主通過(guò)星火大模型文心大模型等成熟大模型構(gòu)建大模型行業(yè)應(yīng)用。二、640套AI大模型報(bào)告合集這套包含640份報(bào)告的合集涵蓋了AI大模型的理論研究、技術(shù)實(shí)現(xiàn)、行業(yè)應(yīng)用等多個(gè)方面。無(wú)論您是科研人員、工程師還是對(duì)AI大模型感興趣的愛(ài)好者這套報(bào)告合集都將為您提供寶貴的信息和啟示。三、AI大模型經(jīng)典PDF書(shū)籍隨著人工智能技術(shù)的飛速發(fā)展AI大模型已經(jīng)成為了當(dāng)今科技領(lǐng)域的一大熱點(diǎn)。這些大型預(yù)訓(xùn)練模型如GPT-3、BERT、XLNet等以其強(qiáng)大的語(yǔ)言理解和生成能力正在改變我們對(duì)人工智能的認(rèn)識(shí)。 那以下這些PDF籍就是非常不錯(cuò)的學(xué)習(xí)資源。四、AI大模型各大場(chǎng)景實(shí)戰(zhàn)案例結(jié)語(yǔ)【一一AGI大模型學(xué)習(xí) 所有資源獲取處無(wú)償領(lǐng)取一一】所有資料 ?? 朋友們?nèi)绻行枰?《LLM大模型入門(mén)進(jìn)階學(xué)習(xí)資源包》掃碼獲取~