近日，在中國云網(wǎng)智聯(lián)大會期間，中國移動研究院攜手華為及產(chǎn)業(yè)合作伙伴，重磅發(fā)布了《分布式推理網(wǎng)絡(luò)（Distributed Inference Network，DIN）技術(shù)白皮書》，聚焦AI發(fā)展面臨的挑戰(zhàn)，定義了分布式推理網(wǎng)絡(luò)的目標(biāo)架構(gòu)，結(jié)合分布式計算、邊緣智能和動態(tài)調(diào)度技術(shù)，加速普惠AI發(fā)展進(jìn)入“推理時刻”。
AI普惠發(fā)展面臨三大挑戰(zhàn)
2025年，隨著DeepSeek等AI大模型的火爆，DAU增長速度不斷刷新行業(yè)記錄。然而，隨著海量并發(fā)用戶請求訪問，服務(wù)器資源迅速耗盡，多次出現(xiàn)網(wǎng)頁和API無法訪問的情況。同時，AI大模型的火爆也吸引攻擊者使用多種技術(shù)和手段持續(xù)攻擊。上述問題暴露了AI大模型規(guī)模應(yīng)用面臨的三大挑戰(zhàn)：AI推理基礎(chǔ)設(shè)施能力不足、AI推理網(wǎng)絡(luò)架構(gòu)及技術(shù)待完善、AI服務(wù)網(wǎng)絡(luò)安全防護能力待提升。
分布式推理網(wǎng)絡(luò)架構(gòu)及關(guān)鍵技術(shù)
DIN采用分布式架構(gòu)，實現(xiàn)端、邊、網(wǎng)、算的有效協(xié)同，提供差異化、高安全、高并發(fā)、高頻次、高并發(fā)的網(wǎng)絡(luò)連接服務(wù)保障。
關(guān)鍵技術(shù)一：節(jié)點間互聯(lián)質(zhì)量保障技術(shù)。為滿足推理業(yè)務(wù)的低時延、高可靠、大帶寬等需求，邊緣推理設(shè)備如新一代AI路由器及智能單板等，基于AI進(jìn)行應(yīng)用精準(zhǔn)識別，根據(jù)AI推理呈現(xiàn)應(yīng)用級QoE，按照業(yè)務(wù)需要實現(xiàn)路徑調(diào)優(yōu)或精準(zhǔn)擴容，實現(xiàn)應(yīng)用級差異化、確定性的體驗保障。同時，分布式推理業(yè)務(wù)催生了海量數(shù)據(jù)高效傳輸需求，這對廣域網(wǎng)絡(luò)提出了“零丟包”和“極低抖動”的雙重挑戰(zhàn)，彈性無損、流級流控等關(guān)鍵技術(shù)實時感知網(wǎng)絡(luò)擁塞狀況，基于精準(zhǔn)流控反壓、層次化細(xì)粒度切片實現(xiàn)網(wǎng)絡(luò)無損和微秒級抖動等極致性能。
關(guān)鍵技術(shù)二：推理服務(wù)的調(diào)度技術(shù)。模型調(diào)度是DIN的主要功能之一，旨在根據(jù)用戶需求、設(shè)備性能、網(wǎng)絡(luò)狀態(tài)等多重因素，按需動態(tài)生成業(yè)務(wù)調(diào)度策略，將業(yè)務(wù)沿最佳路徑調(diào)度到目的推理服務(wù)節(jié)點。通過高效的模型調(diào)度，DIN能夠在復(fù)雜多變的環(huán)境中實現(xiàn)資源的智能分配，為用戶提供低延遲、高可用的AI服務(wù)，同時降低運營成本。
關(guān)鍵技術(shù)三：模型推理安全防護技術(shù)。DIN利用嵌入AI技術(shù)，具備入侵檢測和防御能力，與安全平臺協(xié)同，做到惡意流量快速感知、自動阻斷；通過以太網(wǎng)相干PHYSec技術(shù)對模型分發(fā)、KV Cache等數(shù)據(jù)實現(xiàn)低時延、零開銷的物理層比特流安全加密，防止百公里鏈路傳遞過程中被中間節(jié)點竊取或篡改。
展望未來，華為積極配合中國移動實現(xiàn)分布式推理網(wǎng)絡(luò)的演進(jìn)和部署，通過華為AI WAN解決方案優(yōu)勢，助力中國移動構(gòu)建融合端、邊、網(wǎng)、算的DIN技術(shù)體系和標(biāo)準(zhǔn)體系，解決大模型在個人、家庭及企業(yè)應(yīng)用中的成本、效率與場景適配難題，加速AI普惠化發(fā)展，引領(lǐng)邁向全面智能社會。 
