“驅動智能體的Token（詞元）正在成為新的“石油”，單智能體的Token消耗可達傳統對話應用的百倍至千倍級，推動需求指數級增長。”世界人工智能大會期間，中國工程院院士、清華大學計算機科學與技術系教授鄭緯民如此判斷。

當Token成為新“石油”，國產算力如何實現系統性突圍？AI基礎設施如何跟上AI爆發式的發展速度？大會期間，多家國產算力與AI基礎設施企業分享了各自在算力基礎設施領域的路徑判斷。

摩爾線程張建中：建三大“AI工廠”搶灘詞元經濟

“Token的消耗量自今年年初以來，無論是按月對比還是按天對比，都在呈指數級增加。”摩爾線程創始人、董事長兼首席執行官張建中說。

為什么Token的消耗量呈現出暴漲態勢？張建中闡釋了自己的獨特視角：“因為現在使用大模型的不只是人類，還有我們的智能體，我們的代理、分身。”

智能體催生了一種全新的經濟形態，即“Token(詞元)經濟”，尤其是今年年初OpenClaw全球爆火后。據央視報道，我國日均Token調用量已經從2024年初的約1000億，飆升到了2026年3月底的140萬億，增長超過千倍。

“舉個例子，普通人最快的閱讀速度一目十行，但是對于AI來講，家里所有書柜的書給它，可能幾分鐘之內就看完了。這種超乎人類極限的閱讀、生成、理解與計算速度，讓Token的消耗量呈指數級增加。”張建中說。

與此同時，目前前沿基礎模型平均每兩個月完成一次迭代，詞元消耗量迅速增長，由此帶來的算力需求指數級提升。

張建中表示，在這一背景下，摩爾線程正基于夸娥智算集群打造的三大“AI工廠”：進行模型訓練的“模型訓練工廠”，提升推理效率的“詞元生產工廠”，以及高效連接數字世界與物理世界、距離消費者最近的“智能體生產工廠”。

張建中坦言，他經常聽到國內模型公司擔心用國產訓練平臺會耽誤時間，“大家大可放心，我們有更好的硬件平臺和先進的軟件技術，同時有大量的實驗結果支持。還有一個好處，我們隨時可以為用戶提供本地化服務，這肯定比國外公司做得更好。”

無問芯穹夏立雪：用智能進化智能

“計算需求在指數級攀升，今天，僅依靠產能的線性增長去堆疊算力，已經遠遠無法彌合供需之間持續擴大的缺口。”無問芯穹聯合創始人兼CEO夏立雪說。這一判斷背后，是AI產業競爭邏輯的根本轉變——行業不再單純比拼算力規模，而是聚焦算力能否高效利用。換句話說，單純“堆”算力“堆”不動了。

長期以來，中國的算力***來自不同地區、不同廠商、不同代際的集群，國產芯片與海外GPU長期并存，各自架構和軟件棧千差萬別。夏立雪認為，算力的異質化、碎片化問題是全球性的，而要把不同的、跨區域的算力***，高效聚合協同起來，是擴大智能***規模的關鍵。

如何讓這些散落四處、千差萬別的算力真正“活”起來？夏立雪的答案是——“前店后廠一中心”。

所謂“一中心”，是充當“算力集散中心”的自主式基礎設施平臺——它需要把散落的、異構的算力***統一匯聚、彈性調度、按需分發，為模型與應用層筑牢充足、穩定、可擴展的算力底座。

“前店”，是指“AI生產力商店”——面向文娛游戲、醫療、法律、能源等行業，與行業聯合推出解決方案，把Token真正轉化為產業認可的生產力。

而“后廠”是指建設一座“Token 工廠”，用極致效率服務Token的規模化與高質量生產。他用千卡至萬卡規模下進行完整推理服務的過程，揭示了一座 Token工廠內部的可優化空間，“從網關、路由，到底層推理實例，層層可優化、處處有增量。”

經過大規模生產環境驗證，這套系統的價值正在逐漸凸顯：可實現運維人效提升 5 倍以上，關鍵故障處理效率提升 6 倍，不僅為大規模 GPU 訓練與推理業務提供了更加穩定、高效的基礎設施保障，也讓運維人力能夠被真正解放出來，聚焦更有價值的技術創新。

商湯科技楊帆：國產AI基礎設施窗口期全面到來

“未來5年，（AI基礎設施的）國產化替代絕不僅僅是GPU（圖形處理器）的替代，而是背后整個AI上游硬件生態體系的重構，為行業帶來了全新的發展空間。”商湯科技聯合創始人、大裝置事業群總裁楊帆認為，AI基礎設施正迎來重要趨勢性變革：Token市場爆發式增長、下游需求快速激增；國產芯片商業化快速成熟，以國產算力為核心的智算中心加速落地。在多重因素的共同促進下，國產AI基礎設施規模化商用的窗口期已全面到來。

基于此，商湯大裝置圍繞 “算力+平臺+服務” 全棧能力，構建面向智能體AI時代的基礎設施體系。在算力層，其聚焦國產算力“從落地可用”到“規模化商用”的目標，實現了多項關鍵技術突破。依托異構混合推理，商湯大裝置實現了主流國產芯片MFU（模型浮點運算利用率，衡量的是硬件理論峰值算力在實際模型訓練或推理中被有效利用的比例）提升85%到152%，整體推理性價比達到國際巨頭英偉達專為超大規模AI訓練和高性能計算而設計的NVIDIA H系列的1.25倍。目前，商湯大裝置日均Token服務量已達2.42萬億，預計2026年全年服務規模實現25倍增長。

進入Token經濟時代，如何讓每一度電持續創造更高價值的Token，也成為AI基礎設施發展的關鍵課題。圍繞“算電協同”，商湯大裝置與晶科科技、中國聯通上海市分公司、華能上海、寧德時代浦泉資本、協鑫能科、達卯科技等合作伙伴簽署戰略協議，共建面向源網荷儲一體化的算電協同生態，推動能源系統與AI基礎設施深度融合。

來源：北京日報客戶端

記者：孫奇茹返回搜狐，查看更多