tu56888 NEWS

Anthropic擬買AI推論晶片 與英國新創Fractile洽談

Anthropic擬買AI推論晶片 與英國新創Fractile洽談

知情人士透露,Anthropic洽談向英國晶片新創公司Fractile,採購無須DRAM的人工智慧(AI)推論晶片,以便在記憶體價格高漲、供給短缺之際,減少記憶體需求。

The Information 1日引述知情人士報導,Anthropic已和Fractile展開初步洽談,擬採購推論加速器。若談判成局,Anthropic將在、與之外,再添第四個AI伺服器晶片供應商。

不過,Fractile晶片預計要到2027年左右才會商用,因此不會出現在Anthropic的短期採購計畫,大致與該公司和Google及博通合作開發張量處理器(TPU)的時程相近。

Fractile正在開發推論晶片,將記憶體與運算整合在同個晶粒上,採用靜態隨機存取記憶體(SRAM),而非將資料傳輸到獨立的DRAM。GPU與外部DRAM間的資料移動,是大型AI模型高速運行的主要瓶頸之一。

Fractile創辦人古德溫(Walter Goodwin)2024年表示,該公司的晶片設計,是將運算所需的資料,直接儲存在執行演算的的電晶體旁邊,而非依賴外部DRAM,據當時模擬結果,執行大型語言模型(LLM)時,速度是輝達的繪圖處理器(GPU)的100倍、且成本僅十分之一,但Fractile當時尚未生產測試晶片。

Anthropic一直刻意避免依賴單一晶片供應商。目前Claude在輝達GPU上運行,AI資料中心「雷尼爾計畫」則採用亞馬遜Trainium處理器。

Anthropic也用Google的TPU提供逾1百萬瓩(GW)算力,預計2027年至2031年間的TPU算力規模,將提升至3.5GW。

外界對Anthropic既有基礎設施的需求急速攀升,該公司年化營收3月突破300億美元,遠高於去年底的約90億美元,但推論成本仍對毛利率構成壓力。不同於OpenAI與xAI自行建設或擴大資料中心版圖,Anthropic選擇向多家供應商租用算力,透過分散晶片來源取得議價優勢。

另外,知情人士透露,Anthropic正敲定一項約15億美元的合資計畫,將與黑石(Blackstone)、高盛及數個華爾街機構合作,向私募股權支持的企業銷售AI工具。

Share:

最新文章 More Posts