隨著大模型技術的爆發式增長,全球算力市場正以前所未有的速度擴張。然而,市場熱潮之下也伴隨著部分廠商的倉促退場。近日,英博數科發布了旗下品牌英博云的多款GPU智算產品與服務,通過深耕技術與市場洞察,精準應對大模型時代的算力需求,成為智算產業變革中的引領者。


大模型引爆算力市場:三大核心變化


根據《中國算力發展報告(2024年)》,2023年底全球算力規模達到910??EFLOPS(FP32),同比增長40%,其中智能算力同比增長高達136%。然而,市場的火熱背后,一些跨界進入算力租賃的企業由于資金投入不足、技術門檻過高,不得不迅速退出。


英博數科CEO浦威指出,當前算力市場的格局正在經歷三大核心變化:


通用大模型邁向萬卡集群時代:


大模型的訓練規模已從千卡級擴展到萬卡級,十萬卡集群正在成為國際領先企業的目標。國內科技公司如字節跳動、阿里巴巴、百度等紛紛推進萬卡級智算中心建設,萬卡集群已成為通用模型迭代的“天花板”。


垂直大模型需求彈性化:


科研、金融、教育、影視等細分行業的算力需求日益呈現分散性和動態性。企業在進行模型微調時,算力需求波動明顯,更青睞按需分配的彈性算力模式。


算力需求從訓練向推理轉變:


隨著大模型落地應用,推理場景對算力的需求激增。預計到2027年,中國AI服務器推理工作負載比例將從58.4%增長至72.6%。多模態模型的普及推動了文本生成、視頻生成、代碼生成等應用,推理算力市場持續擴張。



英博云智算方案:聚焦定制化與彈性算力


面對市場的深度變革,英博云推出了兩大核心服務,精準滿足不同客戶的需求:


定制化智算中心建設:


為大模型頭部客戶提供萬卡級智算中心的選型、建設、運維一站式服務。英博云憑借在京能智算中心項目中的成功經驗,確保大規模集群訓練的高效穩定。


彈性算力服務:


針對中小企業和垂直領域客戶,英博云提供基于VCluster的GPU和CPU混合資源的彈性K8S集群服務,支持按小時、按分鐘精細化計費,降低成本,提升算力資源利用率。


英博數科副總裁宋琛表示:“我們填補了GPU算力云市場的細分空白,為客戶提供靈活定制的高效算力服務。”



“單位有效算力成本”:優化算力資源的新標準


為解決算力資源浪費和GPU閑置問題,英博云提出了**“單位有效算力成本”**的評估標準。通過算力投入成本(設備、機電、運維)與有效算力(裝機算力、卡可用率、卡利用率、模型算力利用率)的比值,幫助企業精準衡量算力效率。


英博數科副總裁秦偉俊指出:“我們從IDC建設、運維折損、訓練效率等全鏈條出發,確保每一份算力投入都能最大化利用。”


技術深耕與運營升級:迎戰萬卡集群挑戰


英博數科CTO李少鵬強調,萬卡集群并行訓練需要攻克計算網絡、設備選型、機房環境等技術難題。英博云通過高功率機柜和統一的計算網,將所有GPU服務器組成單一集群,確保大規模訓練的穩定高效。


此外,英博云的算力實驗室為客戶提供主流算力卡和設備的測評服務。例如,某3D視頻生成企業在英博云的建議下,將A卡更換為H卡,訓練效率提升兩倍,成本顯著降低。


產業孵化:助力AI生態繁榮


英博數科不僅關注技術創新,還通過產業孵化器扶持AI垂直應用企業,提供資金、算力、人才培養等全方位支持,推動AI生態的健康發展。


在大模型引領的算力浪潮中,英博數科與英博云通過定制化智算中心和彈性算力服務,為企業提供高效、靈活的算力支持。面對市場的變革與挑戰,英博數科正以技術創新和市場洞察,引領智算產業邁向高效化、智能化和可持續發展的新階段。


來源:咸寧新聞網