重慶網(wǎng)站建站系統(tǒng),網(wǎng)站訪客qq統(tǒng)計(jì)系統(tǒng),手游制作軟件,廈門網(wǎng)站排名優(yōu)化軟件AI編程智能體現(xiàn)在可以連續(xù)工作數(shù)小時(shí)處理軟件項(xiàng)目#xff0c;編寫完整應(yīng)用程序、運(yùn)行測(cè)試、修復(fù)漏洞#xff0c;但需要人工監(jiān)督。這些工具并非萬(wàn)能#xff0c;有時(shí)可能會(huì)讓軟件項(xiàng)目變得更復(fù)雜而非簡(jiǎn)化。了解其底層工作原理有助于開(kāi)發(fā)者判斷何時(shí)使用這些工具#xff0c;同時(shí)…AI編程智能體現(xiàn)在可以連續(xù)工作數(shù)小時(shí)處理軟件項(xiàng)目編寫完整應(yīng)用程序、運(yùn)行測(cè)試、修復(fù)漏洞但需要人工監(jiān)督。這些工具并非萬(wàn)能有時(shí)可能會(huì)讓軟件項(xiàng)目變得更復(fù)雜而非簡(jiǎn)化。了解其底層工作原理有助于開(kāi)發(fā)者判斷何時(shí)使用這些工具同時(shí)避免常見(jiàn)陷阱。基礎(chǔ)技術(shù)原理每個(gè)AI編程智能體的核心都是大語(yǔ)言模型技術(shù)這是一種在大量文本數(shù)據(jù)包括大量編程代碼上訓(xùn)練的神經(jīng)網(wǎng)絡(luò)。它本質(zhì)上是一個(gè)模式匹配機(jī)器使用提示詞來(lái)提取訓(xùn)練期間看到的數(shù)據(jù)的壓縮統(tǒng)計(jì)表示并提供該模式的合理延續(xù)作為輸出。在這種提取過(guò)程中大語(yǔ)言模型可以跨領(lǐng)域和概念進(jìn)行插值當(dāng)執(zhí)行得當(dāng)時(shí)會(huì)產(chǎn)生有用的邏輯推理執(zhí)行不當(dāng)時(shí)則會(huì)產(chǎn)生錯(cuò)誤。這些基礎(chǔ)模型隨后通過(guò)精調(diào)技術(shù)進(jìn)一步改進(jìn)如在精選示例上進(jìn)行微調(diào)和基于人類反饋的強(qiáng)化學(xué)習(xí)這些技術(shù)使模型能夠遵循指令、使用工具并產(chǎn)生更有用的輸出。近年來(lái)AI研究人員一直在探索大語(yǔ)言模型的缺陷并尋找解決方法。其中一項(xiàng)創(chuàng)新是模擬推理模型它以推理風(fēng)格文本的形式生成上下文擴(kuò)展提示詞幫助大語(yǔ)言模型鎖定更準(zhǔn)確的輸出。另一項(xiàng)創(chuàng)新是被稱為智能體的應(yīng)用程序它將多個(gè)大語(yǔ)言模型連接起來(lái)同時(shí)執(zhí)行任務(wù)并評(píng)估輸出。編程智能體的架構(gòu)設(shè)計(jì)從這個(gè)意義上說(shuō)每個(gè)AI編程智能體都是與多個(gè)大語(yǔ)言模型協(xié)作的程序包裝器。通常有一個(gè)監(jiān)督大語(yǔ)言模型來(lái)解釋來(lái)自用戶的任務(wù)提示詞然后將這些任務(wù)分配給能夠使用軟件工具執(zhí)行指令的并行大語(yǔ)言模型。監(jiān)督智能體可以中斷下級(jí)任務(wù)并評(píng)估子任務(wù)結(jié)果來(lái)了解項(xiàng)目進(jìn)展。Anthropic的工程文檔將這種模式描述為收集上下文、采取行動(dòng)、驗(yàn)證工作、重復(fù)。如果通過(guò)命令行界面在本地運(yùn)行用戶需要有條件地授權(quán)智能體在本地機(jī)器上寫入文件代碼或其他需要的內(nèi)容、運(yùn)行探索性命令如ls列出目錄中的文件、獲取網(wǎng)站內(nèi)容通常使用curl、下載軟件或上傳文件到遠(yuǎn)程服務(wù)器。這種方法有很多可能性和潛在危險(xiǎn)因此需要謹(jǐn)慎使用。相比之下當(dāng)用戶在基于網(wǎng)絡(luò)的智能體中啟動(dòng)任務(wù)時(shí)如Codex和Claude Code的網(wǎng)絡(luò)版本系統(tǒng)會(huì)配置一個(gè)預(yù)加載了用戶代碼庫(kù)的沙盒化云容器Codex可以在其中讀取和編輯文件、運(yùn)行命令包括測(cè)試工具和代碼檢查器、在隔離環(huán)境中執(zhí)行代碼。Anthropic的Claude Code使用操作系統(tǒng)級(jí)別的功能來(lái)創(chuàng)建文件系統(tǒng)和網(wǎng)絡(luò)邊界智能體可以在這些邊界內(nèi)更自由地工作。上下文限制問(wèn)題每個(gè)大語(yǔ)言模型都有所謂的短期記憶這限制了它在忘記正在做什么之前能夠處理的數(shù)據(jù)量。這被稱為上下文。每次向監(jiān)督智能體提交響應(yīng)時(shí)實(shí)際上是在修改一個(gè)包含迄今為止整個(gè)對(duì)話歷史以及生成的所有代碼加上模型用來(lái)思考問(wèn)題的模擬推理Token的巨型提示詞。AI模型然后評(píng)估這個(gè)提示詞并產(chǎn)生輸出。這是一個(gè)計(jì)算成本極高的過(guò)程因?yàn)榇笳Z(yǔ)言模型需要處理提示詞中每個(gè)Token數(shù)據(jù)塊與其他所有Token的關(guān)系成本隨提示詞大小呈二次方增長(zhǎng)。Anthropic的工程團(tuán)隊(duì)將上下文描述為一種收益遞減的有限資源。研究揭示了研究人員所稱的上下文退化隨著上下文窗口中Token數(shù)量的增加模型準(zhǔn)確回憶信息的能力會(huì)下降。每個(gè)新Token都會(huì)消耗文檔所稱的注意力預(yù)算。這種上下文限制自然地限制了大語(yǔ)言模型一次能夠處理的代碼庫(kù)大小如果向AI模型輸入大量巨型代碼文件每次發(fā)送另一個(gè)響應(yīng)時(shí)都必須重新評(píng)估很快就會(huì)耗盡Token或使用限制。實(shí)用技巧為了解決這些限制編程智能體的創(chuàng)建者使用了幾種技巧。例如AI模型經(jīng)過(guò)微調(diào)能夠編寫代碼將活動(dòng)外包給其他軟件工具。它們可能會(huì)編寫Python腳本從圖像或文件中提取數(shù)據(jù)而不是將整個(gè)文件通過(guò)大語(yǔ)言模型處理這樣可以節(jié)省Token并避免不準(zhǔn)確的結(jié)果。Anthropic的文檔指出Claude Code也使用這種方法對(duì)大型數(shù)據(jù)庫(kù)執(zhí)行復(fù)雜數(shù)據(jù)分析編寫針對(duì)性查詢并使用head和tail等Bash命令分析大量數(shù)據(jù)而無(wú)需將完整數(shù)據(jù)對(duì)象加載到上下文中。智能體的另一個(gè)重大突破來(lái)自動(dòng)態(tài)上下文管理。雖然專有編程模型的具體實(shí)現(xiàn)方式?jīng)]有完全公開(kāi)但我們知道它們使用的最重要技術(shù)上下文壓縮。當(dāng)編程大語(yǔ)言模型接近其上下文限制時(shí)這種技術(shù)通過(guò)總結(jié)來(lái)壓縮上下文歷史在此過(guò)程中會(huì)丟失細(xì)節(jié)但將歷史縮短為關(guān)鍵要點(diǎn)。Anthropic的文檔將這種壓縮描述為以高保真方式提煉上下文內(nèi)容保留架構(gòu)決策和未解決錯(cuò)誤等關(guān)鍵細(xì)節(jié)同時(shí)丟棄冗余的工具輸出。這意味著每次進(jìn)行壓縮時(shí)AI編程智能體會(huì)定期忘記它們正在做的很大一部分工作但與較舊的基于大語(yǔ)言模型的系統(tǒng)不同它們對(duì)發(fā)生的事情并不完全無(wú)知可以通過(guò)閱讀現(xiàn)有代碼、文件中留下的書面注釋、更改日志等快速重新定位。Anthropic的文檔建議使用CLAUDE.md文件來(lái)記錄常用bash命令、核心文件、實(shí)用函數(shù)、代碼風(fēng)格指南和測(cè)試說(shuō)明。AGENTS.md現(xiàn)在是一個(gè)多公司標(biāo)準(zhǔn)是在上下文刷新之間指導(dǎo)智能體行動(dòng)的另一種有用方式。這些文件充當(dāng)外部注釋讓智能體在復(fù)雜任務(wù)中跟蹤進(jìn)度同時(shí)保持原本會(huì)丟失的關(guān)鍵上下文。對(duì)于需要長(zhǎng)期工作的任務(wù)兩家公司都采用多智能體架構(gòu)。根據(jù)Anthropic的研究文檔其系統(tǒng)使用編排器-工作器模式其中一個(gè)主智能體協(xié)調(diào)流程同時(shí)委托給并行操作的專門子智能體。當(dāng)用戶提交查詢時(shí)主智能體分析查詢、制定策略并生成子智能體同時(shí)探索不同方面。子智能體充當(dāng)智能過(guò)濾器只向主智能體返回相關(guān)信息而不是完整上下文。多智能體方法會(huì)快速消耗Token。Anthropic的文檔指出智能體通常比聊天機(jī)器人交互使用約四倍的Token而多智能體系統(tǒng)比聊天使用約15倍的Token。為了經(jīng)濟(jì)可行性這些系統(tǒng)需要價(jià)值足夠高以證明增加成本合理的任務(wù)。人類使用的最佳實(shí)踐雖然在某些編程圈子中使用這些智能體是有爭(zhēng)議的但如果要使用它來(lái)編碼項(xiàng)目了解良好的軟件開(kāi)發(fā)實(shí)踐有助于避免未來(lái)問(wèn)題。例如了解版本控制、進(jìn)行增量備份、一次實(shí)現(xiàn)一個(gè)功能并在繼續(xù)之前進(jìn)行測(cè)試是很好的做法。人們所說(shuō)的氛圍編程——在不理解AI生成代碼的情況下創(chuàng)建代碼——對(duì)于生產(chǎn)工作顯然是危險(xiǎn)的。在生產(chǎn)環(huán)境中發(fā)布自己沒(méi)有編寫的代碼是有風(fēng)險(xiǎn)的因?yàn)樗赡芤氚踩珕?wèn)題或其他錯(cuò)誤或開(kāi)始積累可能隨時(shí)間滾雪球的技術(shù)債務(wù)。獨(dú)立AI研究員Simon Willison最近論證說(shuō)使用編程智能體的開(kāi)發(fā)者仍然有責(zé)任證明他們的代碼有效。Willison寫道幾乎任何人都可以提示大語(yǔ)言模型生成千行補(bǔ)丁并提交代碼審查。這不再有價(jià)值。有價(jià)值的是貢獻(xiàn)經(jīng)過(guò)驗(yàn)證有效的代碼。實(shí)際上人類規(guī)劃是關(guān)鍵。Claude Code的最佳實(shí)踐文檔為復(fù)雜問(wèn)題推薦特定的工作流程首先要求智能體閱讀相關(guān)文件并明確告訴它還不要編寫任何代碼然后要求它制定計(jì)劃。文檔警告說(shuō)如果沒(méi)有這些研究和規(guī)劃步驟Claude的輸出往往會(huì)直接跳到編碼解決方案。沒(méi)有規(guī)劃大語(yǔ)言模型有時(shí)會(huì)尋求快速解決方案來(lái)滿足瞬時(shí)目標(biāo)但如果項(xiàng)目擴(kuò)展這些解決方案可能會(huì)失效。因此對(duì)什么是可以隨時(shí)間擴(kuò)展的模塊化程序的良好架構(gòu)有一定了解可以幫助引導(dǎo)大語(yǔ)言模型制作更持久的東西。如前所述這些智能體并不完美有些人寧愿完全不使用它們。非營(yíng)利研究組織METR在2025年7月發(fā)表的一項(xiàng)隨機(jī)對(duì)照試驗(yàn)發(fā)現(xiàn)經(jīng)驗(yàn)豐富的開(kāi)源開(kāi)發(fā)者在使用AI工具時(shí)實(shí)際上花費(fèi)了19%更長(zhǎng)的時(shí)間來(lái)完成任務(wù)盡管他們認(rèn)為自己工作得更快。研究作者指出了幾個(gè)注意事項(xiàng)開(kāi)發(fā)者對(duì)其代碼庫(kù)非常有經(jīng)驗(yàn)平均五年和1500次提交存儲(chǔ)庫(kù)龐大且成熟使用的模型主要是通過(guò)Cursor的Claude 3.5和3.7 Sonnet已被更有能力的版本取代。較新的模型是否會(huì)產(chǎn)生不同的結(jié)果仍然是一個(gè)開(kāi)放的問(wèn)題但研究表明AI編程工具可能不總是提供普遍的速度提升特別是對(duì)于已經(jīng)非常了解其代碼庫(kù)的開(kāi)發(fā)者?？紤]到這些潛在危險(xiǎn)編程概念驗(yàn)證演示和內(nèi)部工具可能是目前編程智能體的理想用途。由于AI模型沒(méi)有真正的自主性盡管被稱為智能體并且不是可以為錯(cuò)誤承擔(dān)責(zé)任的人人類監(jiān)督至關(guān)重要。QAQ1AI編程智能體的核心技術(shù)是什么它如何工作AAI編程智能體的核心是大語(yǔ)言模型技術(shù)這是一種在大量文本數(shù)據(jù)包括編程代碼上訓(xùn)練的神經(jīng)網(wǎng)絡(luò)。它是一個(gè)模式匹配機(jī)器使用提示詞提取訓(xùn)練數(shù)據(jù)的統(tǒng)計(jì)表示并輸出合理的延續(xù)。這些基礎(chǔ)模型通過(guò)精調(diào)和強(qiáng)化學(xué)習(xí)進(jìn)一步優(yōu)化能夠遵循指令、使用工具并產(chǎn)生更有用的輸出。Q2什么是上下文限制問(wèn)題為什么會(huì)影響編程智能體的性能A上下文限制是指大語(yǔ)言模型的短期記憶限制限制了它在忘記任務(wù)之前能處理的數(shù)據(jù)量。每次提交響應(yīng)都會(huì)修改包含整個(gè)對(duì)話歷史的巨型提示詞處理成本隨提示詞大小呈二次方增長(zhǎng)。隨著Token數(shù)量增加會(huì)出現(xiàn)上下文退化模型準(zhǔn)確回憶信息的能力下降這直接限制了可處理的代碼庫(kù)大小。Q3使用AI編程智能體時(shí)需要注意哪些風(fēng)險(xiǎn)和最佳實(shí)踐A主要風(fēng)險(xiǎn)包括氛圍編程不理解AI生成的代碼就使用可能引入安全問(wèn)題或技術(shù)債務(wù)。最佳實(shí)踐包括了解版本控制、進(jìn)行增量備份、一次實(shí)現(xiàn)一個(gè)功能并測(cè)試讓智能體先閱讀文件并制定計(jì)劃再編碼開(kāi)發(fā)者仍需承擔(dān)證明代碼有效的責(zé)任。研究顯示經(jīng)驗(yàn)豐富的開(kāi)發(fā)者使用AI工具可能反而花費(fèi)更長(zhǎng)時(shí)間因此人類監(jiān)督至關(guān)重要。