tu56888 NEWS

IBM要回神了嗎?攜手新創打造AI叢集 部署輝達B300搶吃AI推論商機

IBM要回神了嗎?攜手新創打造AI叢集 部署輝達B300搶吃AI推論商機

與AI新創公司Together AI 周二(11日)表示,雙方已簽署一項價值2.4億美元的多年期協議,將利用(NVIDIA)的系統,在IBM的雲端平台上打造大規模AI運算叢集。

IBM宣布,在雲端平台IBM Cloud部署的AI叢集將採用輝達的HGX B300系統,該系統將輝達新一代處理器連接在一起,並搭配輝達的Spectrum-X Ethernet網路設備,預定2027年初啟用。這座AI運算叢集可為開源AI模型提供「推論」運算服務。

總部位於舊金山的Together AI將利用這些專為先進AI與高效能運算工作負載打造的系統,來驅動其開源模型介面。Together AI的平台可讓企業客戶可以在DeepSeek、MiniMax與Kimi等開源模型上進行AI訓練與執行AI工作負載,其成本低於採用封閉式AI系統。

所謂推論,是指讓已經訓練完成的AI模型執行運算並產生回應的過程。隨著生成式AI應用快速成長,推論已成為運算能力需求最大的驅動因素之一,促使雲端服務商與晶片製造商投入數十億美元,持續擴充AI基礎設施。

Together AI營收長麥凱(Kai Mak,音譯)在接受路透訪問時表示,首座AI叢集將配置約2,000顆輝達Blackwell 300晶片,並設置在美國。

他補充說:「我們認為,這項服務會在正式上線前至少二至三個月就被預訂一空。」「在系統準備好提供服務之前,我們就會提前取得全部的承購。」

Together AI最近一次估值為83億美元,是在今年7月完成最新一輪融資時達到的。

最新的行動也意味著IBM正在適應最新的科技浪潮。它近期的財報再次引發外界擔憂IBM是否真的能從AI浪潮中受益。分析師指出,IBM的有機營收成長疲弱,而且客戶的支出模式正在改變。

IBM股價在11日上漲0.89%,收238.42美元,遠低於6月初時創下的329.23 美元的歷史收盤高點,而7月時曾出現單日暴跌25%、為歷來最嚴重單日跌幅的窘境。

Share:

最新文章 More Posts