12月13日,北京——在AICon全球人工智能開發與應用大會(AICon 北京??2024)上,英博數科CTO李少鵬正式發布了英博云多款GPU智算產品與服務,聚焦智算中心建設運維、GPU容器服務、先進算力實驗室和產業孵化器四大領域。與此同時,英博數科首次提出了“單位有效算力成本”這一全新評價體系,開創了智能算力行業的效率衡量新標準,為AI產業發展注入了新動能。
智算行業升級:英博數科定義新標準
隨著AI技術的廣泛應用,算力市場正在向高效、精益化運營轉型,呈現出三大關鍵趨勢:
大模型訓練邁向萬卡甚至十萬卡集群:
通用大模型的迭代對算力規模提出更高要求,萬卡集群已成為新基準。
垂直行業算力需求彈性化:
科研、金融、零售等行業對算力需求具有分散性和動態性,需要靈活彈性的算力支持。
推理算力需求激增:
AI商業化加速落地,推理工作負載逐漸取代訓練需求,成為算力市場的主導力量。
在這樣的背景下,算力資源的高效利用成為企業面臨的最大挑戰。英博數科創新提出的“單位有效算力成本”標準,通過設備成本、機電成本、運維成本與卡可用率、卡利用率、模型算力利用率的綜合評估,精準衡量算力的實際利用水平,解決了行業長期存在的資源浪費和低效利用痛點。
英博云:打造高效益、多樣化的智算產品矩陣
1. 智算中心建設運維
英博云為大模型訓練提供一站式智算中心建設和運維服務,具備高性能并行存儲、自動化故障恢復等核心優勢。依托成熟的算力調度平臺,英博云能為不同規模的客戶提供高效、穩定的集群解決方案。其在京能智算中心項目中的成功落地,彰顯了在大規模集群運維方面的領先實力。
2. GPU容器服務
為滿足垂直大模型分散、動態的算力需求,英博云推出GPU容器服務,支持VCluster形式的GPU和CPU混合資源彈性調度。該服務提供秒級別啟停、按小時/分鐘計費,大幅提升算力資源利用效率,降低企業成本。服務已廣泛應用于京能集團、百川智能、清華大學等產業和學術機構。
3. 先進算力實驗室
英博云的先進算力實驗室專注于硬件和軟件的深度評測,確保算力設備和模型框架的高效適配。通過對GPU、交換機、存儲設備等硬件的嚴格測試,以及對基座模型、微調框架、推理框架等軟件的優化,助力企業實現算力基礎設施的持續升級。
4. 產業孵化器
英博云聯合AI產業上下游,探索算力組合投資新模式,為AI初創企業提供資金、算力、人才培養等支持,助力技術創新與商業化落地。
英博云的發布不僅展示了英博數科在智算領域的技術創新,還為行業提供了高效益、多樣化的算力解決方案。通過**“單位有效算力成本”標準的引入,英博云將推動算力資源的高效利用,助力AI產業向透明化、高效化、可持續化**邁進。
英博數科CTO李少鵬表示:“我們希望通過英博云的多樣化產品與服務,幫助企業降低算力成本,提高算力使用效率,讓每一份算力都物盡其用。”
未來,英博數科將持續深化技術創新,與行業伙伴攜手,共同探索AI技術的無限可能,為全球智算產業的發展提供強大支撐。