自助網(wǎng)站建設(shè)推廣優(yōu)化策略,沂水做網(wǎng)站,軟件最全網(wǎng)站,會(huì)展中心網(wǎng)站建設(shè)上個(gè)月就給大家同步了dify的下一個(gè)工作#xff0c;rag2.0#xff0c;當(dāng)時(shí)我和他們的產(chǎn)品聊過rag2.0#xff0c;核心的rag不會(huì)變動(dòng)太多(dify本身rag能力夠用#xff0c;問題最多的在于文檔格式)。主要是數(shù)據(jù)解析這塊#xff0c;以流水線的方式處理文檔。 也叫知識(shí)管道。 上…上個(gè)月就給大家同步了dify的下一個(gè)工作rag2.0當(dāng)時(shí)我和他們的產(chǎn)品聊過rag2.0核心的rag不會(huì)變動(dòng)太多(dify本身rag能力夠用問題最多的在于文檔格式)。主要是數(shù)據(jù)解析這塊以流水線的方式處理文檔。也叫知識(shí)管道。上周dify發(fā)布了1.8.1以后隨后又發(fā)布了預(yù)覽版dify 2.0.0 作為dify的大版本升級(jí)更新的內(nèi)容會(huì)比較多如果是生產(chǎn)環(huán)境建議先不要升級(jí)等到正式發(fā)布以后再動(dòng)如果只是體驗(yàn)可以直接升級(jí)。注意注意注意升級(jí)前一定要先備份一下。升級(jí)本次預(yù)覽版的升級(jí)是以tag的形式發(fā)布的。如果你fork的代碼不會(huì)同步tags和其他分支的你可以把.git/config里的地址改為dify的。如果自己本身代碼有改動(dòng)先拉一個(gè)分支本地提交下然后再創(chuàng)建一個(gè)新的分支來試驗(yàn)2.0.0版本。# 只拉取指定的tag git fetch origin tag 2.0.0-beta.2 # 創(chuàng)建一個(gè)2.0.0-beta的分支 git checkout -b 2.0.0-beta 2.0.0-beta.2關(guān)閉并重啟docker compose down docker compose up -d #執(zhí)行2.0升級(jí)命令分組名稱默認(rèn)是docker-api-1 我命名為dify了 docker exec -it dify-api-1 uv run flask transform-datasource-credentials知識(shí)管道在升級(jí)之前我們要么在后臺(tái)直接上傳文本處理知識(shí)庫(kù)要么在通過工作流或者代碼直接調(diào)用api處理。在本次升級(jí)以后官方直接把知識(shí)庫(kù)的處理流程給開放了出來并且提供了一些模板案例。在升級(jí)之前我們通過工作流也能完成無非麻煩一些升級(jí)以后官方將處理流程進(jìn)行了抽象。變化升級(jí)以后可以在知識(shí)庫(kù)中創(chuàng)建知識(shí)庫(kù)的下方看到有一個(gè)通過知識(shí)流水線創(chuàng)建知識(shí)庫(kù)。在知識(shí)庫(kù)里有一個(gè)流水線的功能存量知識(shí)庫(kù)可以轉(zhuǎn)換為流水線。通過知識(shí)管道處理知識(shí)庫(kù)知識(shí)管道創(chuàng)建知識(shí)管道創(chuàng)建有兩種模式一種是創(chuàng)建一個(gè)空白的管道自己配置一種是利用官方內(nèi)置流水線Built-in Pipeline)。先看下內(nèi)置的流水線種類以及作用。內(nèi)置的知識(shí)流水線有以下七種模版名稱分段結(jié)構(gòu)索引方式檢索設(shè)置說明1,通用模式General Mode通用模式經(jīng)濟(jì)倒排索引將文檔內(nèi)容分割成較小的段落塊通用塊直接用于匹配用戶查詢和檢索。2,父子模式Parent-child Structure)父子模式高質(zhì)量混合檢索采用了高級(jí)分塊策略將文檔文本分成較大的”父塊”和較小的”子塊”。其中“父塊”包含了”子塊”。這樣既保證了檢索的精確性又維持了上下文的完整性。3,簡(jiǎn)單問答Simple QA)問答模式高質(zhì)量向量搜索將表格數(shù)據(jù)轉(zhuǎn)化為一問一答的形式通過問題匹配來快速找到對(duì)應(yīng)的答案信息。適用于結(jié)構(gòu)化表格數(shù)據(jù)。4,復(fù)雜 PDF 含圖片和表格Complex PDF with Images Tables父子模式高質(zhì)量混合檢索 - 加權(quán)評(píng)分提取 PDF 文件內(nèi)的圖像和表格內(nèi)容。5,LLM 上下文增強(qiáng)Contextual Enriching Using LLM)父子模式高質(zhì)量混合檢索 - 加權(quán)評(píng)分將文檔內(nèi)的圖片和表格提取出來使用大型語言模型自動(dòng)生成描述性注釋實(shí)現(xiàn)上下文的智能增強(qiáng)。6,Markdown 轉(zhuǎn)換Convert to Markdown)父子模式高質(zhì)量混合檢索 - 加權(quán)評(píng)分專為 DOCX、XLSX 和 PPTX 等 Office 原生文件格式設(shè)計(jì)將其轉(zhuǎn)換為 Markdown 格式以便更好地進(jìn)行信息處理。7,LLM 生成問答LLM Generated QA)問答模式高質(zhì)量向量搜索 - 加權(quán)評(píng)分使用大型語言模型自動(dòng)生成結(jié)構(gòu)化的問答對(duì)通過問題匹配機(jī)制找到相關(guān)的答需要注意的是斷網(wǎng)情況下這些內(nèi)置流水線加載不出來。從日志上可以看到先從官方加載官方網(wǎng)絡(luò)不通直接從本地加載我是一路升級(jí)過來的數(shù)據(jù)庫(kù)里應(yīng)該沒有對(duì)應(yīng)的信息。通用模式創(chuàng)建以后可以看到依賴一堆的插件。因?yàn)楣俜绞鞘纠再|(zhì)的所以是一個(gè)大而全的集合。這里需要重點(diǎn)說一下兩個(gè)插件? dify文本提取器在知識(shí)管道里點(diǎn)擊空白右鍵添加節(jié)點(diǎn)在面板中有數(shù)據(jù)源的選項(xiàng)這個(gè)是和現(xiàn)有工作流的差異。從模板上我們可以看到下也是這么四步。?第一步配置數(shù)據(jù)源多種形態(tài)?第二步文檔處理這個(gè)示例里配置了兩個(gè)處理器一個(gè)是dify內(nèi)置的文檔解析器Dify Extractor一個(gè)是原來工作流節(jié)點(diǎn)的文檔提取器。?第三步文本分塊這里使用的是dify 封裝的通用分塊器?第四步知識(shí)庫(kù)配置這里主要是配置索引方法和檢索策略這個(gè)和第三步緊密關(guān)聯(lián)在第四步分段結(jié)構(gòu)沒有必要這個(gè)由第三步的分塊器決定的有這塊配置反而增加了配置的復(fù)雜度。還不如直接根據(jù)第三步直接填寫。從dify的示例來說大都是父子分段的格式從另外一個(gè)層面可以反映出來復(fù)雜文檔父子分段的效果最好。我再講解兩個(gè)復(fù)雜的案例。復(fù)雜 PDF 處理這個(gè)是從模板4創(chuàng)建而來的。依賴父子文本分塊器。整個(gè)流程還是按照之前的四步來處理的。?第一步配置數(shù)據(jù)源是上傳的文本?第二步文檔處理這里使用的是MINERU除了MINERU還可以用其他的文檔處理插件處理。?第三步文本分塊使用的是父子分塊器?第四步知識(shí)庫(kù)配置這里主要是配置索引方法和檢索策略這個(gè)和第三步緊密關(guān)聯(lián)復(fù)雜pdf的處理完全依賴于處理器的能力。大家關(guān)閉梯子去mineru的官網(wǎng)申請(qǐng)token就可以https://mineru.net/apiManage/token申請(qǐng)完token以后mineru的配置也很簡(jiǎn)單。最后配置完索引方式和檢索設(shè)置以后別忘點(diǎn)擊右上角的發(fā)布發(fā)布的工作流只是在本知識(shí)庫(kù)中使用?；氐轿臋n那里我們上傳文檔然后等待管道的處理即可。這個(gè)是上傳的一個(gè)ppt的解析效果。圖片解析出來了也顯示了。這個(gè)折騰了1個(gè)多小時(shí)才顯示出圖片需要注意升級(jí)那里的配置圖片顯示。LLM 上下文增強(qiáng)整個(gè)流程還是按照之前的四步來處理的。?第一步配置數(shù)據(jù)源是上傳的文本?第二步文檔處理這里使用的是MINERULLM我使用的qwen-vl.?第三步文本分塊使用的是父子分塊器?第四步知識(shí)庫(kù)配置同上對(duì)比上圖左側(cè)為通過多模態(tài)增強(qiáng)的解析右側(cè)為只用mineru解析可以看到? 增加了多模態(tài)只分了5段根據(jù)語義做了歸攏? 單純的mineru 解析出來了11個(gè)分段單純的從解析出來的內(nèi)容來看多模態(tài)對(duì)圖片進(jìn)行了簡(jiǎn)單的描述方便檢索到對(duì)應(yīng)的圖片同時(shí)內(nèi)容的準(zhǔn)確度也有極大的提升。mineru只是對(duì)圖片進(jìn)行了簡(jiǎn)單的解析圖片后面跟的是后面的內(nèi)容并沒有對(duì)圖片進(jìn)行描述。其他數(shù)據(jù)源插件dify 2.0支持多種來源的數(shù)據(jù)。在插件市場(chǎng)有一個(gè)數(shù)據(jù)源的插件的分類。是數(shù)據(jù)管道支持的數(shù)據(jù)源類型。大家可以看看。文檔處理文檔處理器是一個(gè)特殊的插件官方示例里有下面幾種? 文檔提取器 (Doc Extractor)? Dify 提取器 (Dify Extractor)dify開發(fā)的內(nèi)置提取器針對(duì) Doc 文件進(jìn)行了專門優(yōu)化。它能夠從文檔中提取圖片進(jìn)行存儲(chǔ)并返回圖片的 URL? MinerU? Unstructured將文檔轉(zhuǎn)換為結(jié)構(gòu)化的機(jī)器可讀格式具有高度可定制的處理策略在插件市場(chǎng)我們可以看到其他的插件比如合合分塊器目前dify官方支持三種分塊器其實(shí)就是知識(shí)庫(kù)里的配置進(jìn)行了抽取。? 通用分塊器 (General Chunker)? 父子分塊器 (Parent-child Chunker)? 問答處理器 QA Processor (ExtractorChunker)每個(gè)分塊器都有不同的特點(diǎn)和使用場(chǎng)景。類型特點(diǎn)使用場(chǎng)景通用分塊器固定大小分塊支持自定義分隔符結(jié)構(gòu)簡(jiǎn)單的基礎(chǔ)文檔父子分塊器雙層分段結(jié)構(gòu)平衡匹配精準(zhǔn)度和上下文需要較多上下文信息的復(fù)雜文檔結(jié)構(gòu)問答處理器處理表格中的問答組合CSV 和 Excel 的結(jié)構(gòu)化問答數(shù)據(jù)分塊器的設(shè)置是在處理文檔的時(shí)候進(jìn)行設(shè)置每個(gè)文檔都可以自定義。知識(shí)庫(kù)配置索引方式和檢索設(shè)置參考原知識(shí)庫(kù)設(shè)置即可。常見問題解決新建流水線空白開啟梯子重新刷新即可。mineru 異常? 無法登錄?關(guān)閉梯子圖片不顯示按照下面的內(nèi)容配置以后銷毀并重啟服務(wù).env配置# 配置文件外網(wǎng)路徑自己本機(jī)ip或者域名 FILES_URLhttp://10.1.0.65:5001 # 內(nèi)網(wǎng)地址,不能配置否則無法顯示圖片 INTERNAL_FILES_URLdocker-compose.yaml配置# 我增加了name,不加默認(rèn)為docker name: dify services: # API service api: image: langgenius/dify-api:2.0.0-beta.2 ports: - ${DIFY_PORTS:-5001}:5001 # 開放api的的端口用于文件訪問普通人如何抓住AI大模型的風(fēng)口領(lǐng)取方式在文末為什么要學(xué)習(xí)大模型目前AI大模型的技術(shù)崗位與能力培養(yǎng)隨著人工智能技術(shù)的迅速發(fā)展和應(yīng)用 大模型作為其中的重要組成部分 正逐漸成為推動(dòng)人工智能發(fā)展的重要引擎 。大模型以其強(qiáng)大的數(shù)據(jù)處理和模式識(shí)別能力 廣泛應(yīng)用于自然語言處理 、計(jì)算機(jī)視覺 、 智能推薦等領(lǐng)域 為各行各業(yè)帶來了革命性的改變和機(jī)遇 。目前開源人工智能大模型已應(yīng)用于醫(yī)療、政務(wù)、法律、汽車、娛樂、金融、互聯(lián)網(wǎng)、教育、制造業(yè)、企業(yè)服務(wù)等多個(gè)場(chǎng)景其中應(yīng)用于金融、企業(yè)服務(wù)、制造業(yè)和法律領(lǐng)域的大模型在本次調(diào)研中占比超過30%。隨著AI大模型技術(shù)的迅速發(fā)展相關(guān)崗位的需求也日益增加。大模型產(chǎn)業(yè)鏈催生了一批高薪新職業(yè)人工智能大潮已來不加入就可能被淘汰。如果你是技術(shù)人尤其是互聯(lián)網(wǎng)從業(yè)者現(xiàn)在就開始學(xué)習(xí)AI大模型技術(shù)真的是給你的人生一個(gè)重要建議最后只要你真心想學(xué)習(xí)AI大模型技術(shù)這份精心整理的學(xué)習(xí)資料我愿意無償分享給你但是想學(xué)技術(shù)去亂搞的人別來找我在當(dāng)前這個(gè)人工智能高速發(fā)展的時(shí)代AI大模型正在深刻改變各行各業(yè)。我國(guó)對(duì)高水平AI人才的需求也日益增長(zhǎng)真正懂技術(shù)、能落地的人才依舊緊缺。我也希望通過這份資料能夠幫助更多有志于AI領(lǐng)域的朋友入門并深入學(xué)習(xí)。真誠(chéng)無償分享vx掃描下方二維碼即可加上后會(huì)一個(gè)個(gè)給大家發(fā)大模型全套學(xué)習(xí)資料展示自我們與MoPaaS魔泊云合作以來我們不斷打磨課程體系與技術(shù)內(nèi)容在細(xì)節(jié)上精益求精同時(shí)在技術(shù)層面也新增了許多前沿且實(shí)用的內(nèi)容力求為大家?guī)砀到y(tǒng)、更實(shí)戰(zhàn)、更落地的大模型學(xué)習(xí)體驗(yàn)。希望這份系統(tǒng)、實(shí)用的大模型學(xué)習(xí)路徑能夠幫助你從零入門進(jìn)階到實(shí)戰(zhàn)真正掌握AI時(shí)代的核心技能01教學(xué)內(nèi)容從零到精通完整閉環(huán)【基礎(chǔ)理論 →RAG開發(fā) → Agent設(shè)計(jì) → 模型微調(diào)與私有化部署調(diào)→熱門技術(shù)】5大模塊內(nèi)容比傳統(tǒng)教材更貼近企業(yè)實(shí)戰(zhàn)大量真實(shí)項(xiàng)目案例帶你親自上手搞數(shù)據(jù)清洗、模型調(diào)優(yōu)這些硬核操作把課本知識(shí)變成真本事?02適學(xué)人群應(yīng)屆畢業(yè)生?無工作經(jīng)驗(yàn)但想要系統(tǒng)學(xué)習(xí)AI大模型技術(shù)期待通過實(shí)戰(zhàn)項(xiàng)目掌握核心技術(shù)。零基礎(chǔ)轉(zhuǎn)型?非技術(shù)背景但關(guān)注AI應(yīng)用場(chǎng)景計(jì)劃通過低代碼工具實(shí)現(xiàn)“AI行業(yè)”跨界?。業(yè)務(wù)賦能突破瓶頸傳統(tǒng)開發(fā)者Java/前端等學(xué)習(xí)Transformer架構(gòu)與LangChain框架向AI全棧工程師轉(zhuǎn)型?。vx掃描下方二維碼即可本教程比較珍貴僅限大家自行學(xué)習(xí)不要傳播更嚴(yán)禁商用03入門到進(jìn)階學(xué)習(xí)路線圖大模型學(xué)習(xí)路線圖整體分為5個(gè)大的階段04視頻和書籍PDF合集從0到掌握主流大模型技術(shù)視頻教程涵蓋模型訓(xùn)練、微調(diào)、RAG、LangChain、Agent開發(fā)等實(shí)戰(zhàn)方向新手必備的大模型學(xué)習(xí)PDF書單來了全是硬核知識(shí)幫你少走彎路不吹牛真有用05行業(yè)報(bào)告白皮書合集收集70報(bào)告與白皮書了解行業(yè)最新動(dòng)態(tài)0690份面試題/經(jīng)驗(yàn)AI大模型崗位面試經(jīng)驗(yàn)總結(jié)誰學(xué)技術(shù)不是為了賺$呢找個(gè)好的崗位很重要07 deepseek部署包技巧大全由于篇幅有限只展示部分資料并且還在持續(xù)更新中…真誠(chéng)無償分享vx掃描下方二維碼即可加上后會(huì)一個(gè)個(gè)給大家發(fā)