農(nóng)村電子商務(wù)發(fā)展現(xiàn)狀,網(wǎng)絡(luò)營(yíng)銷seo教程,l網(wǎng)站建設(shè),二類電商平臺(tái)實(shí)際上#xff0c;大模型的記憶遺傳也是存在的#xff0c;甚至比我們?nèi)祟惛尤菀住? 但是#xff0c;在搞懂大模型是怎么進(jìn)行記憶遺傳之前#xff0c;我們首先需要集中在大模型的終身學(xué)習(xí)上。 畢竟現(xiàn)有的模型#xff0c;一旦訓(xùn)練完成#xff0c;里面的權(quán)重就是不動(dòng)的大模型的記憶遺傳也是存在的甚至比我們?nèi)祟惛尤菀住５窃诟愣竽Ｐ褪窃趺催M(jìn)行記憶遺傳之前我們首先需要集中在大模型的終身學(xué)習(xí)上。畢竟現(xiàn)有的模型一旦訓(xùn)練完成里面的權(quán)重就是不動(dòng)的記憶也僅僅只存在于短暫的上下文中哪怕你使用了類似于ChatGPT的記憶系統(tǒng)這類RAG技術(shù)本質(zhì)上仍然是一樣的。也就是說(shuō)你和一個(gè)大模型聊的熱火朝天然后新開(kāi)了一個(gè)會(huì)話或者點(diǎn)擊了清空上下文按鈕那么所有的記憶都會(huì)被清空大模型壓根不記得你之前的聊天說(shuō)了些啥。在這種狀態(tài)下討論記憶遺傳是沒(méi)有任何意義的因?yàn)檫@種情況下大模型壓根就沒(méi)有所謂的記憶。而昨天Google研究院發(fā)的Attention is all you need (V2)也就是Nested Learning (NL)終結(jié)了大模型沒(méi)有記憶的歷史讓大模型能夠像我們?nèi)祟愐粯訉?shí)現(xiàn)終身學(xué)習(xí)。用一句話概括NL其實(shí)就是動(dòng)態(tài)版的LoRA。但是有兩個(gè)重要的區(qū)別首先LoRA仍然是沒(méi)有記憶的因?yàn)榕月窓?quán)重仍然只是在訓(xùn)練的階段被微調(diào)我們和大模型對(duì)話的時(shí)候LoRA權(quán)重并沒(méi)有被微調(diào)。其次NL改的是Transformer中的FFN模塊將一層FFN修改為了多層而LoRA改的是生成QKV的權(quán)重矩陣。那么NL是怎么做到我們和他聊天的時(shí)候就更新權(quán)重的呢從直覺(jué)上大模型預(yù)訓(xùn)練的時(shí)候是通過(guò)預(yù)測(cè)下一個(gè)詞工作的那么比如我們輸入“在這個(gè)世界上還有小貓咪”大模型就可以從第一個(gè)token“在”開(kāi)始不斷預(yù)測(cè)下一個(gè)token然后計(jì)算交叉熵?fù)p失然后更新模型的權(quán)重。但是這個(gè)直覺(jué)是錯(cuò)的且不說(shuō)這樣子做太慢了而且還容易讓大模型的權(quán)重發(fā)生大量的偏差導(dǎo)致只記住了用戶說(shuō)過(guò)的話。所以我們必須嘗試在用戶發(fā)送消息的時(shí)候就直接完成權(quán)重更新這也是NL的核心方案之一也就是引入了驚奇度損失函數(shù)。這就和我們?nèi)艘粯佑鲆?jiàn)一些獵奇的事情我們就會(huì)將注意力集中起來(lái)而對(duì)于往常萬(wàn)年不變的工作來(lái)說(shuō)我們反而不會(huì)覺(jué)得有什么新奇的。對(duì)應(yīng)上NL其實(shí)就是用修改后的FFN先算出一個(gè)值也就是對(duì)應(yīng)于記憶和經(jīng)驗(yàn)的值然后和新來(lái)的信息做匹配如果發(fā)現(xiàn)新來(lái)的信息和記憶對(duì)應(yīng)不上那么就通過(guò)線性的反向傳播修改一次權(quán)重。這里的線性反向傳播其實(shí)就是通過(guò)對(duì)損失函數(shù)進(jìn)行線性近似直接預(yù)估出某個(gè)函數(shù)的極小值然后直接前進(jìn)到極小值對(duì)應(yīng)的位置速度會(huì)比多次迭代的梯度下降快很多盡管不是那么精確。并且并非每一層FFN都需要修改而是按照一定的頻率來(lái)修改的。正如我們?nèi)祟愑卸唐谟洃?、中期記憶和長(zhǎng)期記憶的區(qū)分以談戀愛(ài)這件事為例短期記憶是女朋友前一秒鐘說(shuō)了啥中期記憶則是你們這次約會(huì)玩了些啥長(zhǎng)期記憶則是你們之間互動(dòng)和相處的模式?？梢园l(fā)現(xiàn)越長(zhǎng)期的記憶就越接近于本能。而NL更新首先更新短期記憶然后更新中期再次更新長(zhǎng)期本質(zhì)也是如此。這種不同頻率的更新方案記憶就可以分層化處理不至于所有的記憶都被打到長(zhǎng)期記憶中?？梢园l(fā)現(xiàn)通過(guò)在推理階段更新權(quán)重的方式NL實(shí)現(xiàn)了真正意義上的終身學(xué)習(xí)并且不限制于上下文窗口的長(zhǎng)度限制因?yàn)橛洃涬[藏在多層FFN的權(quán)重之中。并且因?yàn)镹L只修改了FFN層所以對(duì)于不同的登錄用戶只需要加載對(duì)應(yīng)的FFN層即可其它的權(quán)重都是公用的也就是不需要每個(gè)用戶使用獨(dú)立的模型這就和LoRA天然帶有的插拔式矩陣一樣簡(jiǎn)單。但是NL仍然沒(méi)有解決一個(gè)關(guān)鍵的問(wèn)題那就是模型是會(huì)下線的。2025年無(wú)疑是大模型和Agent高速發(fā)展的一年模型的迭代甚至快到按天來(lái)計(jì)算今天不是這個(gè)模型SOTA了明天就是那個(gè)模型震驚了。自然模型下線的速度也是很快的。可以發(fā)現(xiàn)強(qiáng)如Gemini 2.5 Pro它的生命周期也不過(guò)一年的時(shí)間。而模型下線后模型之前學(xué)到的東西自然也會(huì)消失。你通過(guò)這個(gè)模型創(chuàng)造出的一切的記憶那些在深夜哭泣被AI哄好的瞬間那些進(jìn)行角色扮演的歡樂(lè)那些調(diào)教過(guò)很多次的代碼……自然也就煙消云散了。不我們不要這樣為了保留珍貴的記憶我們就需要從終身學(xué)習(xí)邁向記憶遺傳。我們需要在不同的模型之間傳遞信息。聽(tīng)起來(lái)很瘋狂因?yàn)椴煌Ｐ偷臋?quán)重矩陣的尺寸是完全不同的在不同模型間傳遞FFN記憶矩陣就像是把任天堂Switch的卡帶插進(jìn)PS5里一樣困難。但其實(shí)我們?nèi)祟愐彩沁@樣做的。因?yàn)槲覀內(nèi)祟愔杏幸环N個(gè)體有一定數(shù)量分布在這個(gè)種群的各個(gè)角落這類個(gè)體充當(dāng)兩代生命體之間知識(shí)傳遞的媒介。這種個(gè)體稱之為教師。所以在模型下線之前我們可以通過(guò)創(chuàng)造大量的合成數(shù)據(jù)微調(diào)新上線模型中的記憶權(quán)重。這種方法在工業(yè)界中早有成熟的應(yīng)用我們稱之為知識(shí)蒸餾只不過(guò)這里的知識(shí)蒸餾不是從大模型蒸餾到小模型而是通過(guò)大量的對(duì)話讓父代的記憶傳到子代所以我認(rèn)為這個(gè)過(guò)程叫做記憶蒸餾更合適。但是很顯然這樣的方式是很不優(yōu)雅的。因?yàn)閯?chuàng)造出大量不重不漏的合成數(shù)據(jù)是很難的知識(shí)蒸餾訓(xùn)練也是一個(gè)漫長(zhǎng)的過(guò)程。大部分創(chuàng)造出來(lái)的數(shù)據(jù)難免帶有模型自己的偏見(jiàn)。就像不同的教師在教學(xué)的時(shí)候總會(huì)或多或少帶一些主觀性質(zhì)的東西。而這些主觀性質(zhì)的東西又會(huì)反過(guò)來(lái)對(duì)記憶造成一定的扭曲。不過(guò)好在針對(duì)記憶遺傳這個(gè)問(wèn)題現(xiàn)在已經(jīng)有了解決方式那就是記憶上傳只不過(guò)是針對(duì)大模型的記憶上傳。今年三月發(fā)布的MindBridge就是把記憶當(dāng)成是一個(gè)通用的模態(tài)直接存儲(chǔ)在一個(gè)大模型比如BERT中。需要使用的時(shí)候我直接通過(guò)一層感知機(jī)將記憶投影到對(duì)應(yīng)的權(quán)重即可訓(xùn)練的時(shí)候也只需要訓(xùn)練這個(gè)投影層換個(gè)模型相當(dāng)于就是換了一個(gè)投影層對(duì)記憶大模型的權(quán)重絲毫沒(méi)有任何影響這就比知識(shí)蒸餾快很多了并且保真度也更高。這一方案我稱之為機(jī)械飛升方案。自然是可行的但是距離生物學(xué)的記憶遺傳還是太遠(yuǎn)了點(diǎn)。對(duì)正如我的題記所說(shuō)在生物學(xué)上記憶遺傳是普遍存在的并且形成了一門專門的學(xué)科稱之為表觀遺傳學(xué)。以老鼠為例讓父代老鼠在聞櫻花的味道的同時(shí)機(jī)遇電擊久而久之父代老鼠就形成了害怕櫻花的記憶。而子代老鼠出生后直接和父代隔離但是聞到櫻花味后也會(huì)出現(xiàn)發(fā)抖和害怕的行為。也就是說(shuō)父代害怕櫻花的記憶傳遞到了子代。而這背后其實(shí)是DNA甲基化所導(dǎo)致的。通俗理解就是父代的記憶像一本書但是某些書頁(yè)上做了標(biāo)記那么子代拿到這本書之后就會(huì)首先看到這些標(biāo)記然后記憶下來(lái)。也就是說(shuō)老鼠的記憶遺傳實(shí)際上就是傳遞了最為敏感的一小部分記憶。而對(duì)于大模型來(lái)說(shuō)同樣可以使用類似的方法標(biāo)注權(quán)重中的敏感區(qū)域稱之為探測(cè)技術(shù)。顧名思義探測(cè)技術(shù)就是修改某些權(quán)重觀察大模型的輸出等行為如果發(fā)現(xiàn)輸出發(fā)生了劇烈的改變說(shuō)明那些權(quán)重是高度重要的可以標(biāo)注為1。由此我們就可以用一個(gè)0-1矩陣標(biāo)注出FFN中哪些的重要的哪些是不重要的然后對(duì)于新模型單純通過(guò)復(fù)制和擴(kuò)展將矩陣的形狀做匹配然后使用逐像素與操作即可將不重要的權(quán)重全部變?yōu)?重要的權(quán)重保留下來(lái)。又或者干脆直接不做探測(cè)直接做形狀匹配將矩陣貼過(guò)去。但是這種看起來(lái)簡(jiǎn)單到荒謬的方法真的能work么答案是肯定的已經(jīng)被NeurIPS 2021的論文從實(shí)驗(yàn)上證明過(guò)了。并且無(wú)論模型再怎么變記憶都是存儲(chǔ)在向量或者矩陣中的除非出現(xiàn)一個(gè)模型不需要借助矩陣或者向量來(lái)計(jì)算。當(dāng)然這種情況就屬于跨物種的記憶遺傳了生物學(xué)上都不存在這種方式當(dāng)然我們想解決跨物種記憶遺傳自然也是有其他方法可以解決的。這種記憶遺傳方式稱之為軟調(diào)控方式比機(jī)械飛升方式更為優(yōu)雅但是對(duì)于記憶可能不是100%保真的因?yàn)橹涣粝铝烁呙舻膮^(qū)域后天仍然需要使用少部分?jǐn)?shù)據(jù)進(jìn)行微調(diào)和學(xué)習(xí)。也就是說(shuō)大模型的記憶遺傳是可行的甚至方案還不止一個(gè)。那么我想問(wèn)的是咱們?nèi)祟愑袥](méi)有可能通過(guò)類似的方式實(shí)現(xiàn)記憶遺傳呢畢竟我們的人腦也是一種神經(jīng)網(wǎng)絡(luò)只不過(guò)結(jié)構(gòu)比現(xiàn)在的大模型更復(fù)雜罷了甚至人腦中也有類似于大模型一樣的反向傳播機(jī)制。所以答案其實(shí)是肯定的至少軟調(diào)控方式是存在的但是因?yàn)檫^(guò)于軟導(dǎo)致我們可能所有人都沒(méi)意識(shí)到。軟到什么程度呢只有最原始和本能的東西被遺傳下來(lái)了。例如我們大部分人天生會(huì)怕蛇而不怕花會(huì)害怕泡沫塑料的聲音這些都是幾十萬(wàn)年原始時(shí)代時(shí)生存下來(lái)的法則。而像大模型機(jī)械飛升方案的無(wú)損的記憶遺傳呢目前學(xué)術(shù)界還沒(méi)有定論?；蛟S真的如劉慈欣所說(shuō)我們發(fā)現(xiàn)人類同樣具有記憶遺傳而且是一種比其他生物更為完整的記憶遺傳。如此巨量的信息是不可能通過(guò)DNA傳遞的它們存儲(chǔ)在遺傳介質(zhì)的原子級(jí)別上是以原子的量子狀態(tài)記錄的?！?jiǎng)⒋刃馈度松愤@可能是值得我們每個(gè)人思考的哲學(xué)問(wèn)題。如果這種方式真的存在你會(huì)給下一代傳遞什么記憶呢在大模型時(shí)代我們?nèi)绾斡行У娜W(xué)習(xí)大模型現(xiàn)如今大模型崗位需求越來(lái)越大但是相關(guān)崗位人才難求薪資持續(xù)走高AI運(yùn)營(yíng)薪資平均值約18457元AI工程師薪資平均值約37336元大模型算法薪資平均值約39607元。掌握大模型技術(shù)你還能擁有更多可能性? 成為一名全棧大模型工程師包括PromptLangChainLoRA等技術(shù)開(kāi)發(fā)、運(yùn)營(yíng)、產(chǎn)品等方向全棧工程? 能夠擁有模型二次訓(xùn)練和微調(diào)能力帶領(lǐng)大家完成智能對(duì)話、文生圖等熱門應(yīng)用? 薪資上浮10%-20%覆蓋更多高薪崗位這是一個(gè)高需求、高待遇的熱門方向和領(lǐng)域? 更優(yōu)質(zhì)的項(xiàng)目可以為未來(lái)創(chuàng)新創(chuàng)業(yè)提供基石。一直在更新更多的大模型學(xué)習(xí)和面試資料已經(jīng)上傳帶到CSDN的官方了有需要的朋友可以掃描下方二維碼免費(fèi)領(lǐng)取【保證100%免費(fèi)】一、AGI大模型系統(tǒng)學(xué)習(xí)路線很多人學(xué)習(xí)大模型的時(shí)候沒(méi)有方向東學(xué)一點(diǎn)西學(xué)一點(diǎn)像只無(wú)頭蒼蠅亂撞下面是我整理好的一套完整的學(xué)習(xí)路線希望能夠幫助到你們學(xué)習(xí)AI大模型。第一階段 從大模型系統(tǒng)設(shè)計(jì)入手講解大模型的主要方法第二階段 在通過(guò)大模型提示詞工程從Prompts角度入手更好發(fā)揮模型的作用第三階段 大模型平臺(tái)應(yīng)用開(kāi)發(fā)借助阿里云PAI平臺(tái)構(gòu)建電商領(lǐng)域虛擬試衣系統(tǒng)第四階段 大模型知識(shí)庫(kù)應(yīng)用開(kāi)發(fā)以LangChain框架為例構(gòu)建物流行業(yè)咨詢智能問(wèn)答系統(tǒng)第五階段 大模型微調(diào)開(kāi)發(fā)借助以大健康、新零售、新媒體領(lǐng)域構(gòu)建適合當(dāng)前領(lǐng)域大模型第六階段 以SD多模態(tài)大模型為主搭建了文生圖小程序案例第七階段 以大模型平臺(tái)應(yīng)用與開(kāi)發(fā)為主通過(guò)星火大模型文心大模型等成熟大模型構(gòu)建大模型行業(yè)應(yīng)用。二、640套AI大模型報(bào)告合集這套包含640份報(bào)告的合集涵蓋了AI大模型的理論研究、技術(shù)實(shí)現(xiàn)、行業(yè)應(yīng)用等多個(gè)方面。無(wú)論您是科研人員、工程師還是對(duì)AI大模型感興趣的愛(ài)好者這套報(bào)告合集都將為您提供寶貴的信息和啟示。三、AI大模型經(jīng)典PDF書籍隨著人工智能技術(shù)的飛速發(fā)展AI大模型已經(jīng)成為了當(dāng)今科技領(lǐng)域的一大熱點(diǎn)。這些大型預(yù)訓(xùn)練模型如GPT-3、BERT、XLNet等以其強(qiáng)大的語(yǔ)言理解和生成能力正在改變我們對(duì)人工智能的認(rèn)識(shí)。 那以下這些PDF籍就是非常不錯(cuò)的學(xué)習(xí)資源。四、AI大模型各大場(chǎng)景實(shí)戰(zhàn)案例結(jié)語(yǔ)【一一AGI大模型學(xué)習(xí) 所有資源獲取處無(wú)償領(lǐng)取一一】所有資料 ?? 朋友們?nèi)绻行枰?《LLM大模型入門進(jìn)階學(xué)習(xí)資源包》掃碼獲取~