tu56888 NEWS

從AI安全模範變眾矢之的 矽谷反Anthropic聲浪漸起

從AI安全模範變眾矢之的 矽谷反Anthropic聲浪漸起

過去主打「安全、非營利、溫和」形象牌的,如今卻遭到愈來愈高的不滿聲浪。新創公司創辦人、業主管與AI研究人員,開始質疑該公司的競爭手法,以及其偏向封閉式AI生態系的立場。

導火線之一,是Anthropic今年4月推出Claude Design。部分業界人士認為,這項工具直接與Anthropic的合作夥伴、設計軟體公司Figma的產品競爭,也使新創業者擔心,Anthropic未來可能會和他們搶客戶。

Figma執行長菲爾德(Dylan Field)在Claude Design推出不久後的一場活動上表示,Anthropic在溝通時「並非始終坦誠」。Notion AI部門主管薩克絲(Sarah Sachs)也說,「整個產業都從事態發展中學到教訓」,「有些公司可能過度信任Anthropic」。

而隨著Anthropic進一步調整模型限制機制與資料保存政策,這股不信任感也持續加深。

開放權重模型成爭議焦點

在此同時,外界開始質疑Anthropic高層針對開放權重AI提出的安全風險警告。開放權重模型價格更低,通常允許使用者客製化,並安裝安全防護機制。近月來,中國大陸推出多款開放權重模型,能力逐漸逼近美國前沿AI系統。

Anthropic執行長阿莫戴和其他公司主管曾多次警告,開放權重系統更難控制,部分產品也缺乏美國領先模型所採用的同等安全防護機制。

輝達、微軟和Palantir等多家美企27日發表聯署公開信,表態支持開放模型。阿莫戴此後發文澄清,Anthropic從未主張禁止開放權重模型,且不具危險能力的開放權重模型具有公共利益,但他擔心威權政府在AI領域追上美國,取得軍事優勢,或加強對人民壓迫。

哥倫比亞大學工程學院運算與AI副院長米斯拉(Vishal Misra)表示,「Anthropic的產品雖然出色」,但該公司對安全和AI風險的部分說法經不起檢驗,也可能藉由引發民眾恐懼,推動有利自身的監管措施。

另有批評者認為,Anthropic提出警告是為了要阻礙競爭對手,因為許多開放模型可能削弱該公司追求營收最大化的努力。不過,也有研究人員主張,前沿模型一旦開放,確實更容易遭破解,釋出後也難以收回。

雙頭壟斷與模型限制疑慮

科技人士與政策制定者擔心,AI競賽恐走向「雙頭壟斷」的局面,由Anthropic與OpenAI主導市場。Anthropic推出Claude Design後,部分新創業者憂心該公司可能跨足合作夥伴領域、搶走客戶。

不信任感在Anthropic 6月推出Fable 5後升高。這款受安全限制的Mythos模型,最初在未告知使用者的情況下,降低部分AI開發問題的回答品質,遭研究社群批評有礙競爭,也不利評估模型能力。Anthropic道歉並公開限制機制,但辯稱此舉是為防止外國敵對勢力濫用。

Fable 5也不支援「零資料保存」機制,而會將使用者資料留存30天。引發處理敏感資料的業者反彈,也加深業界疑慮,擔心資料可能被用於訓練模型、協助Anthropic推出競爭產品。

「蒸餾」指控也遭反駁

Anthropic和OpenAI曾指控部分中國模型開發商,透過所謂「蒸餾」程序竊取其技術,也就是可能向一個模型提問數百萬次,再利用其回答訓練另一個模型。阿莫戴敦促政策制定者打擊「工業規模的蒸餾」。

部分批評者則主張,Anthropic本身也是透過類似蒸餾的程序建構模型。AI新創公司Maple執行長蘇曼(Mark Suman)表示,「Anthropic在未支付權利金的情況下,蒸餾了整個網路,他們現在反過來要求別人不要做自己做過的事,相當奇怪」。

在支持開放權重模型的企業公開信發布後,OpenAI與Google也相繼加入聯署,目前已有逾70家矽谷企業署名,Anthropic成為少數未表態支持的知名AI公司之一。

矽谷開始質疑Anthropic的競爭手法,及其偏向封閉式AI生態系的立場,對該公司不滿聲浪逐漸升高。  路透
矽谷開始質疑Anthropic的競爭手法,及其偏向封閉式AI生態系的立場,對該公司不滿聲浪逐漸升高。 路透

Share:

最新文章 More Posts