/
大模型訓練 關鍵字列表
2024-12-13
高性能GPU服務器架構分析（上篇）
在高性能GPU計算的領域內(nèi)，關鍵組件如CPU、內(nèi)存模塊、NVMe存儲設備、GPU以及網(wǎng)絡適配器等通過PCIe（外設部件互連標準）總線或?qū)ｉT設計的PCIe交換機芯片實現(xiàn)高效順暢的連接。
從“夕發(fā)朝至”到“智算為王”：智算平臺成企業(yè)“大模型”時代成功關鍵
長期以來，人工智能與超級計算似乎是兩個獨立的領域。然而，隨著大模型訓練對算力需求的指數(shù)級增長，二者之間的界限逐漸模糊。并行科技董事長陳健一針見血地指出：“AI訓練的本質(zhì)就是超算，超算也并不僅僅是CPU的超級計算機。超算架構、以GPU為核心的算力平臺成為大模型訓練的必備基礎設施。”
Llama-3公布基礎訓練設施，使用49,000個H100
Meta宣布了兩個新的24K H100 GPU集群，用于訓練大模型Llama-3，預計4月末或5月中旬上線。集群使用RoCEv2網(wǎng)絡和基于Tectonic/Hammerspace的存儲解決方案，支持PyTorch。
“源”大模型驅(qū)動，浪潮打造“智能客服大腦”
浪潮信息以全球領先的AI模型“源”為智能引擎，依托InService智能服務平臺，構建了“智能客服大腦”，具備超強的語言理解、數(shù)據(jù)分析、自主學習和智能推理能力。
昇騰AI：拓寬應用邊界，縮小AI成本鴻溝
AI在深刻地變革我們的生活和生產(chǎn)方式，并在不同行業(yè)呈現(xiàn)著巨大價值。
白皮書
京公網(wǎng)安備 11010802021500號
