人工智能領(lǐng)域正在通過改進(jìn)模型工作方式來釋放新功能。研究人員開發(fā)了一種名為"SVDquant"的4位量化系統(tǒng),可以使擴(kuò)散模型運(yùn)行速度提高3倍,同時提升圖像質(zhì)量和兼容性。這種技術(shù)通過壓縮參數(shù)和激活值來大幅降低內(nèi)存和處理需求,為資源受限的系統(tǒng)帶來新的可能性。
微軟發(fā)布了名為 Phi-4 的小型語言模型的開源代碼。該模型具有 140 億參數(shù),能夠生成文本和解決數(shù)學(xué)問題。經(jīng)過內(nèi)部評估,Phi-4 在某些基準(zhǔn)測試中的表現(xiàn)優(yōu)于參數(shù)量是其 5 倍的大型模型。這一舉動加入了科技巨頭開源小型語言模型的潮流中。