近日,中國電信臨港智算谷1.2期機樓封頂儀式在臨港新片區(qū)舉行,1.2期機樓的建起,預示著智算谷將迎來10萬卡時代。算力正成為數(shù)字經(jīng)濟時代的重要資源,我國算力基礎(chǔ)設(shè)施尤其是智能算力迅猛發(fā)展,為千行百業(yè)數(shù)字化轉(zhuǎn)型注入新動能。
AI主戰(zhàn)場,萬卡已是標配
如今,多模態(tài)大模型的推動,讓文本、圖像、音頻和視頻的融合變得更加重要,模型參數(shù)量從千億邁向萬億,模型能力更加泛化,對底層算力的訴求將進一步升級。
萬卡集群則成為了破題方法之一。中國工程院院士鄭緯民指出,“構(gòu)建國產(chǎn)AI卡的萬卡大模型訓練平臺很難,但也很重要以及必要!
目前,在國際上,OpenAI、Google、Meta等科技巨頭,都爭向部署萬卡集群,用來支撐其在基座大模型、智能算法研發(fā)及生態(tài)服務等方面的技術(shù)創(chuàng)新。在國內(nèi),通信運營商、頭部互聯(lián)網(wǎng)、大型AI研發(fā)企業(yè)等均在萬卡集群中有所建設(shè)。以運營商中國電信為例,其目前在上海、北京兩個萬卡集群已經(jīng)投產(chǎn),其中,中國電信臨港智算谷終期規(guī)劃30萬卡高端智算集群。
云計算能力體系創(chuàng)新
在AI領(lǐng)域的征途中,智能算力便是那不可或缺的“先行軍糧”。
目前,天翼云在全國范圍內(nèi)構(gòu)建了“2+4+31+X”的資源池,超前構(gòu)建智能算力布局,在北京、上海、湖北、湖南等省市構(gòu)建了智算中心。在北京、上海兩個萬卡池的建設(shè)過程中,不斷推進AIDC技術(shù)創(chuàng)新,采用新一代智算液冷DC艙,大幅提升端到端交付效率,實現(xiàn)數(shù)據(jù)中心能效和智算集群算效雙提升。
有了算力,就要考慮算力互聯(lián)、跨域調(diào)度管理等,以實現(xiàn)供需匹配,對此,中國電信通過升級“息壤”一體化智算平臺,實現(xiàn)算網(wǎng)調(diào)度、異構(gòu)計算、訓推服務等關(guān)鍵技術(shù)的突破。
此外,在大模型方面,天翼云預置中國電信自有大模型,引入開源模型和第三方模型,加強模型國產(chǎn)化生態(tài)適配,提供豐富模型庫。在數(shù)據(jù)層面,中國電信積累了豐富的多模態(tài)高質(zhì)量數(shù)據(jù)集;全面升級數(shù)據(jù)綜合管理平臺,依托數(shù)據(jù)編織技術(shù),實現(xiàn)多模態(tài)、跨源、跨域數(shù)據(jù)的統(tǒng)一整合和集中治理。在應用層面,天翼云匯聚第三方應用,形成以多模態(tài)AI應用為核心的場景化AI應用生態(tài)。
合作創(chuàng)新,促智算發(fā)展
隨著人工智能技術(shù)的日益成熟與普及,算力規(guī)模正穩(wěn)步攀升。截至2023年底,提供算力服務的在用機架數(shù)達810萬標準機架,算力總規(guī)模超過230EFLOPS,其中智能算力規(guī)模達到70EFLOPS,新增算力基礎(chǔ)設(shè)施中智能算力占比過半,成為算力增長的新引擎。在當前階段,智能算力也面臨多個問題,這對運營商提出了新的挑戰(zhàn)。
算力創(chuàng)新方面,我國算力核心技術(shù)的創(chuàng)新仍存在明顯差距,在高端芯片和軟件研發(fā)方面,關(guān)鍵技術(shù)仍面臨 “卡脖子” 風險,難以支撐大模型、元宇宙等高性能場景建設(shè)。隨著算力向生產(chǎn)生活各個領(lǐng)域的滲透逐漸深入,算網(wǎng)融合持續(xù)推進,算力作為轉(zhuǎn)換數(shù)據(jù)價值的生產(chǎn)要素,安全保障至關(guān)重要。
因此需要運營商深化行業(yè)合作,加強跨行業(yè)、跨領(lǐng)域的合作與交流,共同推動智能算力技術(shù)的研發(fā)和應用。此前,天翼云攜手合作伙伴舉行了“開源大模型社區(qū)發(fā)布暨生態(tài)繁榮計劃啟動”儀式,共鑄大模型應用繁榮生態(tài)。