()23日發表第六代EPYC資料中心CPU,執行長表示,新一代Venice系列處理器是專為支援代理式AI工作負載而設計。由於競爭同業(Nvidia)在3月也推出專為代理式AI而打造的Vera CPU,凸顯兩大業者的競爭領域已從繪圖處理器(GPU)擴散到新領域。
根據MarketWatch網站報導,AMD表示,Venice擁有業界最高的執行緒密度(thread density),因此每瓦功耗、每美元成本以及每個機櫃都能支援更多AI代理任務。所謂高執行緒密度,是指單一晶片能同時執行大量彼此獨立任務的能力。
相較下,輝達Vera CPU的設計重點在於提升「單執行緒」效能,也就是處理器執行單一指令序列的能力。輝達稍早表示,相較於AMD第五代Turin CPU,Vera在代理式AI工作負載上的效能最高可提升1.9 倍,延遲性更可改善六倍。
事實上,在AMD發表新品之前,美銀分析師艾亞(Vivek Arya)就指出,隨著兩家公司都希望搭上代理式AI熱潮,伺服器CPU市場正出現一場新興的競爭。
高執行緒密度與單執行緒效能衡量的是兩種不同的運算能力。報導分析說,AMD著重的是處理量,也就是同時間可處理多少工作;相較下,輝達則強調低延遲,即完成單一工作的速度有多快。
因此,艾亞在周三的報告中指出,投資人最關心的問題將是:代理式AI的瓶頸究竟是在「完成一個AI代理所需的時間」,還是「每個機櫃可同時執行多少AI代理」?
此外,AMD的EPYC處理器採用由英特爾開創的x86指令集架構,而輝達Vera則採用安謀(Arm)的高能源效率架構。艾亞認為,這也將形成另一場值得投資人關注的技術路線之爭。
展望未來,艾亞表示,x86長期累積的軟體生態可能成為重要優勢,因為目前有更多應用程式可直接在x86 架構上執行。