每經(jīng)記者｜張韻    每經(jīng)編輯｜梁梟    

大模型時代，如何構(gòu)建更好的基礎(chǔ)設(shè)施？

7月4日下午，在2024世界人工智能大會期間，無問芯穹聯(lián)合創(chuàng)始人兼CEO夏立雪在“智啟新章·算引未來”AI基礎(chǔ)設(shè)施論壇上表示，算力是AI發(fā)展的前哨和基石，GPT-4之后，支撐算法所需要的算力遇到了瓶頸，“Scaling Law”一詞被頻繁討論。在此背景下，國內(nèi)外巨頭都在加大對算力資源的投入。

活動現(xiàn)場 圖片來源：每經(jīng)記者 張韻 攝

所謂Scaling Law是指模型的性能與計算量、模型參數(shù)量和數(shù)據(jù)大小三者之間存在的關(guān)系。當(dāng)前，谷歌、OpenAI以及國內(nèi)的大廠和三大云商都在構(gòu)建萬卡規(guī)模的大集群。夏立雪認為，如今Scaling Law思潮的底層邏輯和能力法思想不謀而合，因此萬卡集群是大模型的兵家必爭之地。

“未來人工智能推演和訓(xùn)練的算力需求仍然是高速發(fā)展的狀態(tài)，不僅推理場景會隨著大模型的落地快速爆發(fā)，訓(xùn)練場景也會支撐模型迭代與模型與應(yīng)用的結(jié)合。”夏立雪進一步表示，與國際上模型層與芯片層“相對集中”的格局相比，中國的模型層與芯片層更加“百花齊放”。

然而，大量的異構(gòu)芯片也形成了“生態(tài)豎井”，不同硬件生態(tài)系統(tǒng)封閉且互不兼容，給算力的使用方帶來一系列技術(shù)挑戰(zhàn)。

對此，夏立雪認為，為適配中國獨特的多模型、多芯片的生態(tài)格局，要找到一個好的合力方式，打破異構(gòu)生態(tài)豎井，讓異構(gòu)芯片真正轉(zhuǎn)化為大算力，幫助大模型進一步發(fā)展。

在夏立雪看來，當(dāng)前人工智能的發(fā)展?fàn)顟B(tài)，不僅需要有將多元異構(gòu)的芯片統(tǒng)一納入的底層系統(tǒng)能力，又要在異構(gòu)算力和多種算法之間做輕易使用的中間層，讓用戶通過統(tǒng)一的編程框架，把不同算力調(diào)度起來，整合算力推高了大模型生態(tài)的完整度，其核心任務(wù)是持續(xù)降低大模型應(yīng)用落地成本。