近日,中國移動旗下模組公司比鄰智聯(lián)(重慶)科技有限公司(以下簡稱“比鄰智聯(lián)”),基于AI模組MS372Q,成功完成DeepSeek-R1蒸餾模型的本地部署。此舉不僅有效保障了數(shù)據(jù)隱私安全,還大幅提升了終端設(shè)備的推理與運算效率。
作為支持億級參數(shù)大模型推理的硬件載體,MS372Q模組采用8核64位異構(gòu)架構(gòu)設(shè)計,具備高達12TOPS的算力,支持Wi-Fi 6、藍牙5.2和GNSS定位,內(nèi)置安卓系統(tǒng),支持MIPI/USB/UART/SPI/I2C等多種接口,性能強大、多媒體功能豐富,能充分滿足低空經(jīng)濟、邊緣服務器、自動駕駛及工業(yè)機器人等領(lǐng)域的嚴苛需求。實測顯示,搭載MS372Q模組的設(shè)備在運行1.5B參數(shù)量級模型時,Token生成速度可達15Tokens/s,展現(xiàn)強大的性能優(yōu)勢。
比鄰智聯(lián)AI模組廣泛應用于標準化工業(yè)相機、工業(yè)機器人等設(shè)備。其依托機器視覺領(lǐng)域的感知和判決能力,能精準識別并檢測出劃痕、污漬、破損等各類瑕疵,并可滿足礦山、井下、高海拔等無網(wǎng)絡(luò)環(huán)境下客戶終端對算力的需求。此外,比鄰智聯(lián)依托大模型的自然語言以及多模態(tài)的處理和理解能力,為客戶提供定制化服務,助力企業(yè)高效生產(chǎn)與創(chuàng)新發(fā)展。
未來,比鄰智聯(lián)將持續(xù)深化端側(cè)AI戰(zhàn)略布局,推出更高算力的AI模組,為萬物智聯(lián)注入澎湃動力,引領(lǐng)行業(yè)邁向全新的智能發(fā)展高度。