C114訊 6月21日消息(水易)“芯片問題其實(shí)沒必要擔(dān)心,用疊加和集群等方法,計(jì)算結(jié)果上與最先進(jìn)水平是相當(dāng)?shù)!?a href="http://m.sancean.com/keyword/default.asp?key=%BB%AA%CE%AA" target="_blank" class="keyword">華為首席執(zhí)行官任正非在公開場合表示。
在2025年華為開發(fā)者大會(HDC 2025)上,華為常務(wù)董事、華為云計(jì)算CEO張平安宣布基于CloudMatrix 384超節(jié)點(diǎn)的新一代昇騰AI云服務(wù)全面上線,同時(shí)宣布盤古大模型5.5正式發(fā)布,對自然語言處理(NLP)、計(jì)算機(jī)視覺(CV)、多模態(tài)、預(yù)測、科學(xué)計(jì)算五大基礎(chǔ)模型進(jìn)行全面升級。
基于CloudMatrix 384超節(jié)點(diǎn)的新一代昇騰AI云服務(wù)
隨著大模型訓(xùn)練和推理對算力需求的爆炸式增長,傳統(tǒng)計(jì)算架構(gòu)已難以支撐AI技術(shù)的代際躍遷。從單節(jié)點(diǎn)向超節(jié)點(diǎn)架構(gòu)演進(jìn)成為重要發(fā)展趨勢,其中超高性能網(wǎng)絡(luò)的關(guān)鍵。這對于國產(chǎn)算力而言是彎道超車的機(jī)會,彌補(bǔ)單卡的性能鴻溝。
正如任正非所言:“我們單芯片還是落后美國一代,我們用數(shù)學(xué)補(bǔ)物理、非摩爾補(bǔ)摩爾,用群計(jì)算補(bǔ)單芯片,在結(jié)果上也能達(dá)到實(shí)用狀況!
華為云新一代昇騰AI云服務(wù)基于CloudMatrix 384超節(jié)點(diǎn),首創(chuàng)將384顆昇騰NPU和192顆鯤鵬CPU通過全新高速網(wǎng)絡(luò)MatrixLink全對等互聯(lián),形成一臺超級“AI服務(wù)器”,單卡推理吞吐量躍升到2300 Tokens/s,與非超節(jié)點(diǎn)相比提升近4倍。
據(jù)了解,超節(jié)點(diǎn)架構(gòu)能更好地支持混合多專家MoE大模型的推理,可以實(shí)現(xiàn)“一卡一專家”,一個(gè)超節(jié)點(diǎn)可以支持384個(gè)專家并行推理,極大提升效率;同時(shí),超節(jié)點(diǎn)還可以支持“一卡一算子任務(wù)”,靈活分配資源,提升任務(wù)并行處理,減少等待,將算力有效使用率(MFU)提升50%以上。
對于萬億、十萬億參數(shù)的大模型訓(xùn)練任務(wù),在云數(shù)據(jù)中心,還能將432個(gè)超節(jié)點(diǎn)級聯(lián)成最高16萬卡的超大集群;同時(shí),超節(jié)點(diǎn)還可以支持訓(xùn)推算力一體部署,如“日推夜訓(xùn)”,訓(xùn)推算力可靈活分配,幫助客戶資源使用最優(yōu)。
據(jù)悉,目前昇騰AI云服務(wù)已經(jīng)成為AI基礎(chǔ)設(shè)施的最優(yōu)選擇,為科大訊飛、新浪、硅基流動、面壁智能、中科院、360等超過1300家客戶提供澎湃的AI算力。
基于昇騰全棧軟硬件能力,盤古大模型5.5全面升級
與市面上的其他大模型廠商不同,華為云盤古大模型堅(jiān)定聚焦行業(yè),其使命是讓各個(gè)行業(yè)不必重復(fù)“造輪子”,不必從零打造自己的企業(yè)大模型。本次大會上,華為云重磅發(fā)布盤古大模型5.5,五大基礎(chǔ)模型全面升級。
盤古自然語言處理NLP大模型:全新的718B 深度思考模型是一個(gè)由256個(gè)專家組成的MoE大模型,在知識推理、工具調(diào)用、數(shù)學(xué)等領(lǐng)域大幅增強(qiáng),實(shí)現(xiàn)能力領(lǐng)先。盤古大模型5.5在高效長序列、低幻覺、快慢思考融合、Agent等特性上進(jìn)行升級,提升用戶體驗(yàn)。
盤古預(yù)測大模型:采用業(yè)界首創(chuàng)的triplet transformer統(tǒng)一預(yù)訓(xùn)練架構(gòu),將不同行業(yè)的數(shù)據(jù),包括工藝參數(shù)的表格數(shù)據(jù),設(shè)備運(yùn)行日志的時(shí)間序列數(shù)據(jù),產(chǎn)品檢測的圖片數(shù)據(jù)進(jìn)行統(tǒng)一的三元組編碼,并在同一框架內(nèi)高效處理和預(yù)訓(xùn)練,極大地提升預(yù)測大模型的精度。以應(yīng)用于水泥、鋼鐵、有色金屬、供熱等多個(gè)行業(yè)。
盤古科學(xué)計(jì)算大模型:持續(xù)擴(kuò)展與更多科學(xué)應(yīng)用領(lǐng)域的結(jié)合。深圳氣象局基于盤古升級“智霽”大模型,首次實(shí)現(xiàn)AI集合預(yù)報(bào),減少單一預(yù)報(bào)模型的誤差。重慶市氣象局基于盤古打造“天資·12h“氣象大模型,提升災(zāi)害天氣的日內(nèi)預(yù)報(bào)預(yù)警能力。深圳能源采用盤古進(jìn)行中短期風(fēng)光水發(fā)電量預(yù)測,減少發(fā)電側(cè)棄電,提升能源開發(fā)效率。
盤古計(jì)算機(jī)視覺CV大模型:華為云發(fā)布全新MoE架構(gòu)的300億參數(shù)視覺大模型,全面支持圖像、紅外、激光點(diǎn)云、光譜、雷達(dá)等多維度、泛視覺的感知、分析與決策。另外,盤古CV大模型通過跨維度生成模型,構(gòu)建油氣、交通、煤礦等工業(yè)場景稀缺的泛視覺故障樣本庫,極大地提升了業(yè)務(wù)場景的可識別種類與精度。
盤古多模態(tài)大模型:基于盤古多模態(tài)大模型的世界模型,可以為智能駕駛、具身智能機(jī)器人的訓(xùn)練,構(gòu)建所需要的數(shù)字物理空間,實(shí)現(xiàn)持續(xù)優(yōu)化迭代。本次大會,華為云基于盤古大模型的多模態(tài)能力及思維能力,正式發(fā)布CloudRobo具身智能平臺。
值得一提的是,盤古大模型是基于昇騰云的全棧軟硬件訓(xùn)練而成的,這標(biāo)志著基于昇騰架構(gòu)可以打造出世界一流大模型。
在過去的一年中,盤古大模型持續(xù)深耕行業(yè),已在30多個(gè)行業(yè)、500多個(gè)場景中落地,在政務(wù)、金融、制造、醫(yī)療、煤礦、鋼鐵、鐵路、自動駕駛、氣象等領(lǐng)域發(fā)揮巨大價(jià)值,重塑千行萬業(yè),成就行業(yè)AI先鋒。
打造AI Native的云,重塑云服務(wù)模式
華為云不僅在基礎(chǔ)設(shè)施和大模型方面持續(xù)創(chuàng)新,也在不斷通過AI技術(shù)重塑云服務(wù),打造AI Native的云,幫助客戶更好地?fù)肀I,讓客戶通過華為云服務(wù),更便捷地?fù)肀I創(chuàng)新,加速智能化。
華為云CTO張宇昕發(fā)布的最佳企業(yè)Agent平臺ModelArts Versatile,內(nèi)置了各類業(yè)務(wù)場景的經(jīng)驗(yàn)?zāi)0,支持自助式的智能體開發(fā)。Versatile還提供了智能化工具鏈,實(shí)現(xiàn)Agent分鐘級工作輸出,達(dá)成傳統(tǒng)人工天級工作成果,有效降低Agent開發(fā)的復(fù)雜度與專業(yè)性。
同時(shí),華為云基于AI算力、盤古大模型和Agent能力,對智能助手盤古Doer進(jìn)行全面升級。
CodeArts Doer構(gòu)建了業(yè)界最全的6大開發(fā)領(lǐng)域?qū)I(yè)Agent,覆蓋項(xiàng)目經(jīng)理、產(chǎn)品管理、開發(fā)、構(gòu)建、測試和部署全流程,將軟件研發(fā)端到端提效40%以上。GaussDB Doer在精準(zhǔn)查詢方面,利用全球上萬個(gè)GaussDB運(yùn)維案例的百億Tokens數(shù)據(jù)微調(diào),構(gòu)建專業(yè)運(yùn)維基模型,讓故障處置更加高效。MetaStudio通過個(gè)性化TTS語音合成,數(shù)字人的音色相似度、讀音準(zhǔn)確率都達(dá)到業(yè)界領(lǐng)先,同時(shí)結(jié)合更精準(zhǔn)的口型匹配、更豐富的動作,實(shí)現(xiàn)數(shù)字人形象高擬真。
另外,華為云提供包含語料數(shù)據(jù)安全、模型安全、推理安全、應(yīng)用安全在內(nèi)的全生命周期模型安全方案。大模型防火墻通過提示詞攻擊防范和敏感內(nèi)容實(shí)時(shí)檢測,保障大模型推理安全。一方面識別越獄、角色扮演、惡意指令等主流提示詞攻擊手段;另一方面預(yù)置了百萬級規(guī)則庫,針對提示詞攻擊的檢出率大于95%,整體能夠幫助模型綜合安全評測得分提升20%以上。
華為云是華為公司面向開發(fā)者的統(tǒng)一底座,目標(biāo)打造昇騰、鴻蒙、鯤鵬、GaussDB、歐拉等各項(xiàng)根技術(shù)的生態(tài),給廣大開發(fā)者一個(gè)更優(yōu)的選擇。
為了給開發(fā)者提供AI時(shí)代的智能應(yīng)用開發(fā)體驗(yàn),華為開發(fā)者空間全面升級,開發(fā)者可以便捷的調(diào)用算力、大模型、Agent工具等華為云服務(wù)來開發(fā)智能應(yīng)用。如今,華為云開發(fā)者已超過800萬;華為云作為云底座,支持鯤鵬、昇騰、鴻蒙等生態(tài)的開發(fā)者總計(jì)達(dá)到1300萬。