c2c網(wǎng)站代表,河北網(wǎng)站制作公司報價,區(qū)塊鏈技術和網(wǎng)站開發(fā)結合,怎么給wordpress切圖魚羊 發(fā)自 凹非寺量子位 | 公眾號 QbitAI何愷明團隊新作#xff0c;持續(xù)聚焦Flow模型。與MeanFlow對流匹配的優(yōu)化不同#xff0c;這次主要旨在解決歸一化流在生成模型中的局限。論文提出名為雙向歸一化流#xff08;BiFlow#xff09;的新框架#xff0c;通過解耦前向過程…魚羊 發(fā)自 凹非寺量子位 | 公眾號 QbitAI何愷明團隊新作持續(xù)聚焦Flow模型。與MeanFlow對流匹配的優(yōu)化不同這次主要旨在解決歸一化流在生成模型中的局限。論文提出名為雙向歸一化流BiFlow的新框架通過解耦前向過程——將數(shù)據(jù)映射為噪聲和逆向過程——把噪聲再轉回來生成圖片成功打破了傳統(tǒng)歸一化流生成模型效率低下的問題。值得一提的是論文的三位一作分別是來自清華姚班和MIT的本科生。BiFlow逆向過程不必是前向過程的精確逆運算歸一化流方法NFs已經成為生成建模的一種原則性框架。標準的歸一化流包含前向過程和逆向過程前向過程將數(shù)據(jù)映射為噪聲逆向過程則通過對前向過程求逆來生成樣本。傳統(tǒng)的NF模型有一個硬性規(guī)定逆向過程必須是前向過程的精確逆運算——要像鑰匙和鎖一樣完全匹配。這就導致了兩個問題模型設計受限因為要保證 “可逆”不能使用很多強大的通用架構比如視覺Transformer得特意設計復雜結構推理速度慢由于架構約束歸一化流通常需要比其他模型更深、更寬的網(wǎng)絡才能達到相似效果。以TARFlow為例逆向生成時需要一步步按順序計算并且無法并行加速。BiFlow的核心創(chuàng)新就在于打破了“逆向過程必須是前向過程的精確逆運算”這一規(guī)則。設計思路是這樣的BiFLow解耦了前向過程和逆向過程的設計。前向模型仍然使用易于訓練的流模型如改進版TARFlow將數(shù)據(jù)映射為噪聲。逆向模型則引入一個可學習的獨立模型來近似前向模型的逆映射。由此逆向模型不需要是前向模型的數(shù)學精確逆可以使用任意架構如非因果的雙向Transformer來實現(xiàn)并行化和高效計算。逆向模型也可以在單次前向傳遞中直接從噪聲生成圖像無需像自回歸模型那樣逐步生成。具體來說何愷明團隊的這篇新論文提出了三項關鍵技術。隱藏層對齊Hidden Alignment為了解決獨立逆向模型容易跑偏的問題論文提出了一種新的損失函數(shù)策略既利用了全軌跡監(jiān)督又保持了架構的靈活性利用前向過程的完整中間狀態(tài)軌跡數(shù)據(jù)→半噪聲→純噪聲作為監(jiān)督信號通過可學習的投影頭將逆向模型的中間狀態(tài)與前向狀態(tài)對齊。學習去噪Learned Denoising傳統(tǒng)NF方法如TARFlow推理時需要額外去噪會增加計算量。BiFlow將去噪步驟直接整合進逆向模型的一個額外模塊中實現(xiàn)了“端到端”的從噪聲到清晰數(shù)據(jù)的映射消除了額外的推理開銷。訓練時無分類器引導Training-time CFG為了在推理時保持單步生成1-NFE的高效性BiFlow在訓練階段就引入了無分類器引導CFG讓模型學習以CFG比例為條件的生成從而避免了推理時計算兩次前向傳播的成本。實驗結果速度提升兩個數(shù)量級實驗結果顯示在生成質量方面BiFlow在ImageNet 256×256數(shù)據(jù)集上取得了2.39的FID分數(shù)刷新目前基于NF方法的SOTA。在推理速度方面相比于基線方法改進版TARFlowBiFlow的采樣速度提升了兩個數(shù)量級在TPU上快697倍。另外BiFlow憑借雙向映射特性無需額外訓練即可實現(xiàn)圖像修復和類別編輯兩類圖像編輯任務。本科生領銜BiFlow有兩位項目負責人。陸伊煬江蘇南通人清華姚班大二本科生目前在MIT計算機科學與人工智能實驗室CSAIL實習導師是何愷明主要研究方向為計算機視覺和深度生成模型。高中時期他是物理競賽生曾以江蘇選手中第一名、全國第九名的成績在2022年獲得了第三十九屆全國中學生物理競賽CPhO金牌。Qiao SunMIT大二本科生目前是何愷明計算機視覺課題組的本科生研究機會項目UROP學生。研究主要集中在生成模型方面如擴散模型、流匹配等。Qiao Sun高中畢業(yè)于上海中學是2023年國際數(shù)學奧林匹克競賽IMO金牌得主。論文的另一位一作是王銜邦今年剛從人大附中畢業(yè)進入MIT學習。他的導師同樣是何愷明。王銜邦還是一名雙料競賽生在2024年IMO上摘得金牌還在2021年和2022年獲得過全國信息學奧林匹克競賽的銀牌。論文地址https://arxiv.org/abs/2512.10953v1一鍵三連「點贊」「轉發(fā)」「小心心」歡迎在評論區(qū)留下你的想法—完— 點亮星標 科技前沿進展每日見