全面定義大模型長(zhǎng)時(shí)運(yùn)行與混沌負(fù)載特征，推進(jìn)行業(yè)分工與消費(fèi)端質(zhì)量監(jiān)控標(biāo)準(zhǔn)化

北京2026年6月11日 /美通社/ --  2026年以來(lái)，隨著Claude Code、OpenClaw等智能體（AI Agent）技術(shù)的全面破圈，AGI正式邁入新紀(jì)元。正如黃仁勛在GTC 2026主題演講中所強(qiáng)調(diào)的：大語(yǔ)言模型（LLM）正從簡(jiǎn)單的對(duì)話(huà)機(jī)器人，加速演進(jìn)為能夠自主規(guī)劃、推理并采取行動(dòng)以達(dá)成復(fù)雜目標(biāo)的長(zhǎng)時(shí)運(yùn)行系統(tǒng)。這一趨勢(shì)下，大模型推理算力需求呈井噴式增長(zhǎng)，"Token工廠"概念躍升為資本、產(chǎn)業(yè)與技術(shù)界的核心焦點(diǎn)。

然而，智能體（Agentic）的工作負(fù)載與傳統(tǒng)的人類(lèi)對(duì)話(huà)交互在結(jié)構(gòu)上截然不同。它通常呈現(xiàn)為長(zhǎng)周期的多輪循環(huán)，在"推理階段"和"行動(dòng)階段"之間高頻切換。隨著AI從"對(duì)話(huà)式生成"全面駛?cè)?quot;自主智能體"的深水區(qū)，算力基礎(chǔ)設(shè)施的生產(chǎn)、度量與消耗標(biāo)準(zhǔn)迎來(lái)解構(gòu)性變革。

今日，軟通動(dòng)力正式宣布，其首個(gè)標(biāo)桿示范項(xiàng)目——"北京壹號(hào)詞元工廠" 正式投入運(yùn)行，并同步向全球發(fā)布并開(kāi)源"軟通動(dòng)力詞元工廠性能基準(zhǔn)"。這標(biāo)志著大模型算力消耗正式告別粗放式的吞吐量比拼，步入標(biāo)準(zhǔn)化、工業(yè)化的"Token流水線"時(shí)代。

北京壹號(hào)詞元工廠：面向智能體時(shí)代的"新型電廠"

作為軟通動(dòng)力AI戰(zhàn)略的重要組成部分，北京壹號(hào)詞元工廠聚焦Agentic Serving（智能體服務(wù)）場(chǎng)景，通過(guò)極限工程化手段壓榨硬件性能，集成前沿算力調(diào)度與KV Cache極致復(fù)用算法，以確定性的服務(wù)質(zhì)量與極致的性?xún)r(jià)比，向全社會(huì)輸出標(biāo)準(zhǔn)化的"數(shù)字燃料"——Token，為智算時(shí)代提供確定性、高彈性的供應(yīng)保障。

北京壹號(hào)詞元工廠項(xiàng)目負(fù)責(zé)人表示："北京作為全國(guó)AI創(chuàng)新高地，集聚了最多的大模型公司和智能體應(yīng)用團(tuán)隊(duì)，對(duì)新型算力服務(wù)的需求最迫切、最前沿。建設(shè)與之匹配的'Token工廠'是北京打造'全球數(shù)字經(jīng)濟(jì)標(biāo)桿城市'的必然要求。Agentic Serving帶來(lái)了天然復(fù)雜的業(yè)務(wù)邏輯。一個(gè)簡(jiǎn)單的最終指令背后，可能是模型內(nèi)部數(shù)十次推理循環(huán)、工具調(diào)用與自我反思的疊加。這種極度的不確定性，使得傳統(tǒng)的靜態(tài)壓測(cè)指標(biāo)完全失效。行業(yè)陷入'指標(biāo)迷霧'：底層建設(shè)者不知如何針對(duì)長(zhǎng)上下文優(yōu)化架構(gòu)，算力運(yùn)營(yíng)者難以預(yù)估動(dòng)態(tài)波動(dòng)下的并發(fā)水位，企業(yè)級(jí)使用者缺乏明確的SLA作為采購(gòu)依據(jù)，最終用戶(hù)則頻繁遭遇首字延遲不可控和推理中途斷線的糟糕體驗(yàn)。我們發(fā)布這一基準(zhǔn)，正是為了打造統(tǒng)一的'標(biāo)桿之鏡'。"

同步發(fā)布：開(kāi)源詞元工廠性能基準(zhǔn)

為了精準(zhǔn)捕捉并復(fù)現(xiàn)智能體服務(wù)環(huán)境中的極端壓力，軟通動(dòng)力在發(fā)布會(huì)上宣布：正式開(kāi)源詞元工廠性能基準(zhǔn)，該基準(zhǔn)不是單一工具，而是一個(gè)三層遞進(jìn)的完整評(píng)測(cè)體系，遵循"一個(gè)基準(zhǔn)（刻畫(huà)方法）"，采用"三類(lèi)測(cè)試方法"，構(gòu)建"分領(lǐng)域標(biāo)準(zhǔn)數(shù)據(jù)集" ，實(shí)現(xiàn)對(duì)算力集群真實(shí)服務(wù)能力的精準(zhǔn)評(píng)估與公平對(duì)比。

軟通動(dòng)力對(duì)基于大模型發(fā)展初期行業(yè)通用的MLPerf LoadGen進(jìn)行了深度重構(gòu)，實(shí)現(xiàn)了從靜態(tài)并發(fā)注入到動(dòng)態(tài)行為仿真的跨越，發(fā)展出了 LoadGen 2.0。其核心突破在于：成功在測(cè)試環(huán)境中定義并重現(xiàn)了真實(shí)的"混沌局面"，它定義了"大家共識(shí)的混沌系統(tǒng)如何刻畫(huà)和重現(xiàn)"——這是所有評(píng)測(cè)的根基。

以此為根基，軟通動(dòng)力構(gòu)建了三層遞進(jìn)的完整評(píng)測(cè)體系：

• 底層——混沌負(fù)載刻畫(huà)方法：LoadGen 2.0通過(guò)引入"多輪狀態(tài)保持（Stateful Turn-based）"模擬機(jī)制和混合泊松分布邏輯，成功在測(cè)試環(huán)境中模擬出真實(shí)的"混沌局面"——包括輪次間隔的嚴(yán)重抖動(dòng)、上下文指數(shù)級(jí)膨脹（Context Ballooning）、KV Cache反復(fù)置換等高動(dòng)態(tài)場(chǎng)景。它能夠還原灰度生產(chǎn)環(huán)境中長(zhǎng)時(shí)智能體之間交織、重疊且不可預(yù)測(cè)的計(jì)算請(qǐng)求，幫助開(kāi)發(fā)者和運(yùn)營(yíng)者在系統(tǒng)上線前探明集群面對(duì)極端混沌負(fù)載時(shí)的性能崩潰邊界與資源調(diào)度瓶頸。
• 中層——三類(lèi)標(biāo)準(zhǔn)測(cè)試方法：額定功率測(cè)試、業(yè)務(wù)測(cè)試、精度正確性測(cè)試，形成完整的評(píng)測(cè)流程，確保評(píng)測(cè)結(jié)果可復(fù)現(xiàn)、可對(duì)比。
• 上層——分領(lǐng)域標(biāo)準(zhǔn)數(shù)據(jù)集：面向代碼生成、科學(xué)研究、通用對(duì)話(huà)等不同領(lǐng)域的標(biāo)準(zhǔn)數(shù)據(jù)集，使評(píng)測(cè)與真實(shí)應(yīng)用場(chǎng)景對(duì)齊，避免"高分低能"或參數(shù)虛標(biāo)。

LoadGen 2.0已完全開(kāi)源（GitHub: github.com/issair/loadgen2）。

軟通動(dòng)力的核心能力

隨著技術(shù)成熟，大模型行業(yè)正復(fù)制傳統(tǒng)工業(yè)的發(fā)展軌跡——模型算法研發(fā)、算力基礎(chǔ)設(shè)施運(yùn)營(yíng)（Token生產(chǎn)）、智能體路由分發(fā)以及垂直場(chǎng)景應(yīng)用逐步解耦。專(zhuān)業(yè)的Token工廠需要具備"軟硬一體"的全棧能力。

軟通動(dòng)力在以下方面形成了差異化能力

• 硬件端：具備萬(wàn)卡級(jí)信創(chuàng)+國(guó)際混合集群的規(guī)劃建設(shè)能力，擁有芯片級(jí)維修與全國(guó)備件庫(kù)，保障硬件基礎(chǔ)設(shè)施的持續(xù)可用。
• 軟件端：自主研發(fā)天元調(diào)度平臺(tái)與全棧觀測(cè)指標(biāo)體系（TTFT、TPOT、TPS per GPU等），實(shí)現(xiàn)Token生產(chǎn)的全鏈路透明與智能調(diào)度。
• 國(guó)家級(jí)調(diào)度平臺(tái)經(jīng)驗(yàn)：作為牽頭單位承建"韶關(guān)公共算力服務(wù)平臺(tái)"（全國(guó)一體化算力網(wǎng)算力監(jiān)測(cè)調(diào)度項(xiàng)目），具備跨域、跨主體的算力并網(wǎng)與調(diào)度實(shí)戰(zhàn)經(jīng)驗(yàn)。北京壹號(hào)Token工廠正是這一調(diào)度能力的集中體現(xiàn)。
• 行業(yè)生態(tài)：軟通動(dòng)力深耕企業(yè)服務(wù)20年，覆蓋金融、政務(wù)、能源、制造、互聯(lián)網(wǎng)等關(guān)鍵行業(yè)，能夠?qū)oken能力與行業(yè)場(chǎng)景深度結(jié)合。

目前，軟通動(dòng)力正深度參與平潭兩岸融合算力中心、韶關(guān)公共算力服務(wù)平臺(tái)等國(guó)家一體化算力網(wǎng)絡(luò)重點(diǎn)項(xiàng)目建設(shè)，并依托睿動(dòng)智能體平臺(tái)，打造連接國(guó)際云廠商與國(guó)產(chǎn)AI新勢(shì)力的全球化AI雙向樞紐。北京壹號(hào)詞元工廠的啟動(dòng)，是公司推進(jìn)AI基礎(chǔ)設(shè)施布局、構(gòu)建Token生態(tài)體系的重要實(shí)踐。

未來(lái)，軟通動(dòng)力將持續(xù)推進(jìn)"Token工廠"建設(shè)，并從消費(fèi)者視角出發(fā)推出"實(shí)時(shí)監(jiān)測(cè)"等一系列質(zhì)量監(jiān)控方法——如同在城市自來(lái)水管網(wǎng)中部署實(shí)時(shí)純凈度探針一般，在運(yùn)行端動(dòng)態(tài)監(jiān)控Token生成的幻覺(jué)率、語(yǔ)義一致性及毫秒級(jí)延遲波動(dòng)。這將幫助用戶(hù)更直觀地了解所使用算力服務(wù)的真實(shí)質(zhì)量，推動(dòng)行業(yè)建立更加透明、可信的評(píng)測(cè)體系。