如果說AI大模型是帶動(dòng)百行百業(yè)生產(chǎn)力提升的“新引擎”,算力基礎(chǔ)設(shè)施則是這臺(tái)引擎的“動(dòng)力系統(tǒng)”——引擎越快,底座越要穩(wěn)。
這場(chǎng)由算力需求驅(qū)動(dòng)的繁榮背后,電子制造環(huán)節(jié)的能源消耗正急劇攀升。
Gartner正看到AI計(jì)算正在不斷演進(jìn)、AI算力問題=新機(jī)會(huì)、迎接強(qiáng)大的邊緣AI三大顛覆性變革。
大模型時(shí)代,瑪麗·米克爾(Mary Meeker)的名字可能大家不一定熟悉,但是在互聯(lián)網(wǎng)時(shí)代,這位被可被譽(yù)為“互聯(lián)網(wǎng)女皇”的。她是美國風(fēng)險(xiǎn)投資家和前華爾街證券分析師,專注于互聯(lián)網(wǎng)及新興技術(shù)領(lǐng)域,旣悺っ卓藸枺∕ary Meeker)發(fā)了一份340頁的《人工智能趨勢(shì)報(bào)告》,粗粗看了一下,并沒有非常轟動(dòng)的觀點(diǎn),但是數(shù)據(jù)比較全面
黃仁勛在會(huì)后接受包括至頂科技在內(nèi)的媒體采訪時(shí)所說:“英偉達(dá)只做兩類事情:要么是別人沒在做的,要么是我們能做得獨(dú)特且更好的!
根據(jù)發(fā)布的o3測(cè)試數(shù)據(jù)顯示,美國AIME數(shù)學(xué)競(jìng)賽中達(dá)到了96.7分,大幅度超過了o1預(yù)覽版的56.7和o1的83.3%,僅錯(cuò)了一道題相當(dāng)于一名頂級(jí)數(shù)學(xué)家的水平。
國產(chǎn)算力PoC平臺(tái)主要聚焦于為國產(chǎn)算力集群提供垂類場(chǎng)景評(píng)測(cè)、適配與驗(yàn)證服務(wù),促進(jìn)國產(chǎn)芯片從“可用”到“好用”,同時(shí)為互聯(lián)網(wǎng)、AI 應(yīng)用開發(fā)企業(yè)提供多種算力適配試驗(yàn)空間,找到適合不同場(chǎng)景的“芯片+軟件”最佳組合。
GPU主宰算力芯片,Al信創(chuàng)驅(qū)動(dòng)國產(chǎn)算力發(fā)展:得益于硬件支持與軟件編程、設(shè)計(jì)方面的優(yōu)勢(shì),CPU+GPU成為了目前應(yīng)用最廣泛的平臺(tái)。Al分布式計(jì)算的市場(chǎng)主要由算力芯片(55-75%)、內(nèi)存(10-20%)和互聯(lián)設(shè)備(10-20%)三部分組成。
技術(shù)迭代也推動(dòng)著算力的升級(jí),算力內(nèi)涵更是逐步拓展為集信息計(jì)算力、網(wǎng)絡(luò)運(yùn)載力、數(shù)據(jù)存儲(chǔ)力于一體的新型生產(chǎn)力。
在AI技術(shù)加速發(fā)展的今天,數(shù)據(jù)中心已成為支撐全球算力的中樞,同時(shí),它們也正面臨著能源需求激增、綠色環(huán)保的雙重挑戰(zhàn)。
AI時(shí)代的快速到來要求我們不僅要把握當(dāng)下,更要著眼未來,以應(yīng)對(duì)AI算力的巨大需求。通過一系列戰(zhàn)略性收購,維諦技術(shù)不斷提升旗下AI解決方案的技術(shù)水平,鞏固其行業(yè)領(lǐng)先地位。憑借強(qiáng)大的全球智慧及創(chuàng)新能力,維諦技術(shù)不斷為中國智算行業(yè)注入新活力和新思路!
7月18日,由中國智能計(jì)算產(chǎn)業(yè)聯(lián)盟與全國信標(biāo)委算力標(biāo)準(zhǔn)工作組共同主辦的2024中國算力發(fā)展專家研討會(huì)在京召開。院士專家們齊聚一堂,共同探索超智融合技術(shù)的發(fā)展路徑。
這個(gè)模型一般的GPU肯定是跑不起來,如此大的參數(shù)在部署方面?zhèn)人開發(fā)者也負(fù)擔(dān)不起(如果你有一些H100也沒問題),估計(jì)是給企業(yè)、政務(wù)公共部門用的。對(duì)于Meta即將發(fā)布的模型,就有網(wǎng)友潑冷水。相比OpenAI最新的GPT-4o mini版本,Llama 3.1-70B推理成本提升了3倍,但編碼的性能卻要差很多。
7月18日,由中國智能計(jì)算產(chǎn)業(yè)聯(lián)盟與全國信標(biāo)委算力標(biāo)準(zhǔn)工作組共同主辦的2024中國算力發(fā)展專家研討會(huì)在京召開。院士專家們齊聚一堂,共同探索超智融合技術(shù)的發(fā)展路徑。
北京電子數(shù)智科技有限責(zé)任公司(簡(jiǎn)稱“北電數(shù)智”)在2024全球數(shù)字經(jīng)濟(jì)大會(huì)上展示了四大AI創(chuàng)新產(chǎn)品和垂類行業(yè)模型矩陣。
算力需求爆發(fā)式增? vs. 算力硬件演進(jìn)呈現(xiàn)領(lǐng)域化、規(guī)模化、異構(gòu)化特征,應(yīng)用的算力外需求驅(qū)動(dòng)操作系統(tǒng)在調(diào)度機(jī)制上突破,新算力硬件體系對(duì)調(diào)度機(jī)制造成了多方面的挑戰(zhàn)。
7月2日,在“元腦中國行”全國巡展成都站上,四川并濟(jì)科技有限公司(簡(jiǎn)稱并濟(jì)科技)、四川省天府云數(shù)據(jù)科技有限責(zé)任公司(簡(jiǎn)稱能投天府云)與浪潮信息聯(lián)合宣布,由三方共建的天府智算西南算力中心正式投運(yùn),將成為成渝樞紐的重要算力節(jié)點(diǎn),以智算力支撐成都打造千億級(jí)人工智能核心產(chǎn)業(yè),推動(dòng)千行百業(yè)“智改數(shù)轉(zhuǎn)”。
Gemini 1.5 Pro的面世,將進(jìn)一步提高算力基礎(chǔ)設(shè)施的建設(shè)要求,激活算力技術(shù)的不斷創(chuàng)新和迭代升級(jí)。如今,算力市場(chǎng)已形成龐大的生態(tài)系統(tǒng),涵蓋CPU、GPU、DPU、FPGA等專用芯片,各種形態(tài)的交換機(jī)、光模塊/線纜等連接介質(zhì),以及各服務(wù)提供商交付的算力運(yùn)營、算力調(diào)度、算法交易平臺(tái)等。
機(jī)遇與挑戰(zhàn)總是相伴而生。AIGC的蓬勃發(fā)展對(duì)算力提出了前所未有的需求,傳統(tǒng)數(shù)據(jù)中心難以滿足智能時(shí)代的要求,算力資源的協(xié)同、算力服務(wù)的靈活性和可持續(xù)性等問題日益凸顯。如何跨越這些鴻溝,構(gòu)建高效、可持續(xù)的智算體系,成為了擺在運(yùn)營商和科技企業(yè)面前的時(shí)代考題。