縮放定律的放緩帶來(lái)的技術(shù)路徑演變

在 2024 年的 NeurIPS 會(huì)議上,Ilya Sutskever 提出了一系列關(guān)于人工智能發(fā)展的挑戰(zhàn)性觀(guān)點(diǎn),尤其集中于 Scaling Law 的觀(guān)點(diǎn):「現(xiàn)有的預(yù)訓(xùn)練方法將會(huì)結(jié)束」,這不僅是一次技術(shù)的自然演進(jìn),也可能標(biāo)志著對(duì)當(dāng)前「大力出奇跡」方法的根本性質(zhì)疑。

Ilya 討論了預(yù)訓(xùn)練模型的局限性,預(yù)見(jiàn) AI 系統(tǒng)需要發(fā)展出更加接近人類(lèi)思考方式的推理能力。他強(qiáng)調(diào),為了突破當(dāng)前的局限并繼續(xù)提升 AI 的能力,必須尋找新的訓(xùn)練方法。這意味著,基于語(yǔ)言單一模態(tài)的大模型能力已經(jīng)逼近上限。基于現(xiàn)有的開(kāi)源路線(xiàn)分析,商業(yè)社會(huì)想要尋求 AGI,必須將目光轉(zhuǎn)向多種模態(tài)和推理過(guò)程。

商業(yè)領(lǐng)域?qū)θ斯ぶ悄芄镜钠瞄_(kāi)始出現(xiàn)范式轉(zhuǎn)換

知名數(shù)據(jù)分析機(jī)構(gòu) CB Insights 發(fā)布的「2024 年第三季度全球人工智能投融資報(bào)告」顯示,該季度全球人工智能交易數(shù)量環(huán)比激增 24%,但融資實(shí)際上環(huán)比下降了 29%,主要?dú)w因于單筆融資金額超過(guò) 10 億美元的「巨額交易」數(shù)量環(huán)比下降了 77%。報(bào)告指出,這反映了當(dāng)前市場(chǎng)對(duì)中小規(guī)模、高潛力初創(chuàng)企業(yè)的偏好轉(zhuǎn)變,投資者更加關(guān)注具有創(chuàng)新技術(shù)和可擴(kuò)展商業(yè)模式的企業(yè)。

作為專(zhuān)業(yè)的人工智能媒體與產(chǎn)業(yè)服務(wù)平臺(tái),機(jī)器之心于 2017 年發(fā)布了 AI 榜單「Synced Machine Intelligence Awards」,在隨后的時(shí)間里,伴隨 AI 的跨越式發(fā)展,機(jī)器之心的年度評(píng)選也逐漸成為了產(chǎn)業(yè)風(fēng)向標(biāo)之一,其中,機(jī)器之心 2024 年度評(píng)選中的「大模型最具潛力創(chuàng)業(yè)企業(yè) TOP 10」,旨在表彰技術(shù)創(chuàng)新能力強(qiáng)、團(tuán)隊(duì)領(lǐng)先、已經(jīng)推出大模型或擁有完整大模型研發(fā)能力的創(chuàng)業(yè)企業(yè)。

其中名列「大模型最具潛力創(chuàng)業(yè)企業(yè)」榜單首位的貝式計(jì)算,其產(chǎn)品 OpenBayes 可能是是中國(guó)最受歡迎的 GPU 計(jì)算系統(tǒng)之一,擁有超過(guò) 17 萬(wàn)注冊(cè)科研人員和過(guò)百個(gè)集群私有部署客戶(hù)。

2024 年第三季度,緊跟多模態(tài)大模型升級(jí)趨勢(shì),OpenBayes貝式計(jì)算基于集群構(gòu)架、編譯器、模型結(jié)構(gòu)等領(lǐng)域的多項(xiàng)創(chuàng)新與技術(shù),推出了多模態(tài)模型貝式小算,結(jié)合了先進(jìn)的視覺(jué)理解和語(yǔ)言生成技術(shù),能夠同時(shí)處理和分析多種形式的數(shù)據(jù),包括靜態(tài)圖片和動(dòng)態(tài)視頻。

模型性能方面,得益于OpenBayes貝式計(jì)算近年來(lái)在編譯器技術(shù)領(lǐng)域的積累,貝式小算可天然運(yùn)行在 Nvidia、ARM 以及多種國(guó)產(chǎn)芯片上,同時(shí)擁有較高的計(jì)算精度和計(jì)算效率。該模型在MME-Realworld 等評(píng)測(cè)中取得了優(yōu)異的成績(jī),是前列排名中為數(shù)不多的初創(chuàng)企業(yè)之一。

*MME-RealWorld 是迄今為止已知最大的完全人工標(biāo)注基準(zhǔn),擁有超 1.3 萬(wàn)平均像素為 2,000 × 1,500 的高分辨率圖像,收集了更多關(guān)于中國(guó)的真實(shí)場(chǎng)景圖片,評(píng)測(cè)任務(wù)相較傳統(tǒng)基準(zhǔn)難度更大。

以此為基礎(chǔ),OpenBayes貝式計(jì)算賦能企業(yè)客戶(hù),已經(jīng)為十余個(gè)私有部署用戶(hù)提供了高效可靠的大模型服務(wù),該多模態(tài)模型成功落地于衛(wèi)星遙感、醫(yī)療影像、法律財(cái)務(wù)、文件表格互譯等生產(chǎn)場(chǎng)景。

舉例而言,在中國(guó)科學(xué)院某研究所,OpenBayes貝式計(jì)算為該院所級(jí)高性能計(jì)算集群的百余名學(xué)者與工程師用戶(hù)提供了完備的 AI+HPC 計(jì)算體驗(yàn)。工科研究者可以通過(guò)同一套計(jì)算系統(tǒng)無(wú)縫連接各類(lèi) HPC 應(yīng)用與 AI 計(jì)算框架,通過(guò)統(tǒng)一的數(shù)據(jù)流轉(zhuǎn)流程,使得工科領(lǐng)域相關(guān)計(jì)算結(jié)果可以無(wú)縫連接 AI 的最佳實(shí)踐,進(jìn)而加速了 AI 在諸多工科領(lǐng)域的研究效率。

值得一提的是,就在 2024 年 11 月 28 日,OpenBayes貝式計(jì)算還入選了 36氪評(píng)選的「WISE2024 商業(yè)之王年度最具商業(yè)潛力企業(yè)」。如今再度獲評(píng)機(jī)器之心「大模型最具潛力創(chuàng)業(yè)企業(yè) TOP 10」,可以說(shuō)是對(duì)公司發(fā)展空間的高度認(rèn)可。

從人工智能技術(shù)落地的角度來(lái)看,OpenBayes貝式計(jì)算擁有 17 萬(wàn)注冊(cè)科研人員和過(guò)百個(gè)集群私有部署客戶(hù),是公司創(chuàng)新技術(shù)與解決方案落地應(yīng)用的最佳渠道,其中包括清華大學(xué)、北京大學(xué)、北京郵電大學(xué)、天津大學(xué)、上海交通大學(xué)、中國(guó)科學(xué)院等頭部科研院所,以及招商局集團(tuán)、南方電網(wǎng)、遼港集團(tuán)、粵能能源等重點(diǎn)頭部公司。OpenBayes貝式計(jì)算的商業(yè)化潛力已經(jīng)初步獲得驗(yàn)證,是否能夠如期兌現(xiàn),仍然需要時(shí)間來(lái)證明。