隨著AI技術(shù)滲透千行百業(yè),算力已成為驅(qū)動(dòng)企業(yè)創(chuàng)新發(fā)展的核心引擎。英特爾® 至強(qiáng)® 6處理器的推出,正是為了滿足AI時(shí)代多樣化且日益增長(zhǎng)的算力需求。近日,搭載英特爾® 至強(qiáng)® 6性能核(P-core)處理器的阿里云ECS第九代企業(yè)級(jí)實(shí)例g9i全球發(fā)布并開啟商業(yè)化,標(biāo)志著雙方合力為AI時(shí)代打造算力新標(biāo)桿邁出了堅(jiān)實(shí)一步。
至強(qiáng)® 6性能核:為計(jì)算密集型負(fù)載而生
英特爾® 至強(qiáng)® 6處理器采用性能核(P-core)和能效核(E-core)兩種不同的CPU微架構(gòu)。其中,率先發(fā)布的至強(qiáng)® 6性能核處理器(代號(hào)Granite Rapids)專為計(jì)算密集型和AI工作負(fù)載量身打造。
該處理器基于先進(jìn)的Intel 3制程工藝,最高可配備128個(gè)核心,擁有高達(dá)504MB的三級(jí)共享緩存。內(nèi)存方面,支持多達(dá)12通道的DDR5(最高6400 MT/s)及高達(dá)8800 MT/s的MRDIMM。連接性上,提供96條PCIe 5.0通道和64條CXL 2.0通道。這些強(qiáng)大的硬件規(guī)格,為運(yùn)行AI推理、機(jī)器學(xué)習(xí)、數(shù)據(jù)庫(kù)、Web服務(wù)等高性能計(jì)算任務(wù)提供了堅(jiān)實(shí)基礎(chǔ)。
AMX技術(shù)再升級(jí),FP16加速AI計(jì)算
AI性能是至強(qiáng)® 6性能核處理器的核心優(yōu)勢(shì)之一。其內(nèi)置的英特爾® 高級(jí)矩陣擴(kuò)展(AMX)技術(shù),是專為加速深度學(xué)習(xí)訓(xùn)練和推理而設(shè)計(jì)的加速引擎。除了已支持的INT8和BF16數(shù)據(jù)類型外,此次更新增了對(duì)FP16數(shù)據(jù)格式的支持,能夠進(jìn)一步提升AI計(jì)算性能和精度。
英特爾 AMX
可顯著提升基于CPU的深度學(xué)習(xí)訓(xùn)練和推理性能,除INT8和BF16外,進(jìn)一步支持基于FP16數(shù)據(jù)格式的模型以提升AI性能。
這一提升在阿里云的PolarDB for AI數(shù)據(jù)庫(kù)服務(wù)中得到了驗(yàn)證。利用英特爾AMX技術(shù)進(jìn)行數(shù)據(jù)庫(kù)內(nèi)模型算子加速,部署在阿里云ECS g9i實(shí)例上的PolarDB for AI:
對(duì)于基于DNN的在線推薦模型,可獲得30%的加速效果。
對(duì)于基于Transformer架構(gòu)的模型,可獲得50%的加速效果。
這些實(shí)測(cè)數(shù)據(jù)充分證明了至強(qiáng)® 6性能核處理器及其AMX技術(shù)在加速實(shí)際AI應(yīng)用方面的卓越能力。憑借出色的AI性能,至強(qiáng)® 6性能核處理器也成為全球眾多AI加速平臺(tái)優(yōu)選的數(shù)據(jù)處理“機(jī)頭”CPU。
更強(qiáng)勁、更穩(wěn)定、更劃算,共筑AI未來(lái)
英特爾與阿里云的緊密合作,將至強(qiáng)® 6處理器的領(lǐng)先技術(shù)快速轉(zhuǎn)化為云上客戶的計(jì)算實(shí)例,讓ECS g9i更強(qiáng)勁、更穩(wěn)定、更劃算。未來(lái),雙方將繼續(xù)通過(guò)創(chuàng)新的軟硬件組合,賦能企業(yè)抓住AI機(jī)遇,共同鋪就AI應(yīng)用的“繁花”之路。 
