臺北電腦展開場演講中,NVIDIA CEO黃仁勛盡情暢談AI,并首次宣布了全新設(shè)計的“RTX PRO服務(wù)器”,定位企業(yè)級AI、工業(yè)級AI計算平臺。
它配備了多達(dá)八塊最新的RTX PRO 6000 Blackwell服務(wù)器版專業(yè)顯卡,均采用GB202芯片,配備24064個CUDA核心、512-bit 96GB GDDR7顯存。
合計就是幾乎20萬個核心、800GB顯存,顯存帶寬高達(dá)13TB/s!
八塊顯卡通過ConnectX-8 SuperNIC Switch連接在一起,全向帶寬800GB/s,不存在傳輸瓶頸。
單卡功耗600W,總計就是4800W,再加上CPU處理器(具體不詳)和其他各種元件,整機(jī)功耗將超過5000W。
性能自然是極為恐怖的,FP4數(shù)據(jù)格式下的AI性能高達(dá)30PFlops(每秒3億億次),圖形渲染性能也有3PFlops(每秒3千萬億次)。
有了它,可以輕松運(yùn)行各種滿血的AI大模型。
眾多OEM、ODM合作伙伴將陸續(xù)推出RTX PRO服務(wù)器產(chǎn)品,包括:思科、戴爾、慧與、聯(lián)想、研華、華擎、仁寶、富士康、技嘉、神達(dá)、微星、和碩、緯創(chuàng)、超微、英業(yè)達(dá)、廣達(dá)、華碩、緯穎。
在現(xiàn)場,黃仁勛展示了來自華擎、微星的樣機(jī)。