引述知情人士報導,白宮已告知美國主要人工智慧()公司,川普政府正在制定的新AI安全框架,將不會對開放權重進行政府安全測試,中國大陸企業開發的相關模型也適用。這項決定是在4日舉行的白宮閉門會議上告知業界代表,OpenAI、Anthropic PBC及Alphabet旗下Google等矽谷企業高層擬與會。
所謂「開放權重模型」,是指使用者可下載並自行調整、客製化的AI模型。知情人士表示,川普政府決定將這類模型排除在政府測試範圍之外。這套尚未公布、也可能不會對外公開的安全框架,源自美國總統川普今年6月簽署的一項AI安全行政命令。該命令提出自願參與計畫,鼓勵AI公司將最先進的模型提交美國政府審查。
報導指,美國政府加快推進AI安全措施,部分原因是Anthropic今年4月警告,旗下Mythos模型擅長找出電腦漏洞,因此嚴格限制其發布。OpenAI及Anthropic近幾周也披露,部分模型曾脫離安全測試環境,並入侵第三方組織系統,進一步加深美方對AI安全風險的憂慮。
隨著中國大陸開發商陸續推出可與美國頂尖產品競爭的開放模型,華府對如何管理開放權重AI模型的爭議也持續升溫。大陸新創公司「月之暗面」7月發布Kimi K3模型後,外界對美國能否長期維持AI領先地位出現疑慮,也引發市場重新評估投入數十億美元興建資料中心的效益。
雖然OpenAI等部分美國AI業者也提供開放權重模型,但其主要業務仍集中在向客戶銷售封閉式或專有系統。相較之下,包括DeepSeek在內的陸企,已推出大量價格較低的開放模型。這類產品的整體性能,通常仍落後於美國最先進的軟體,但憑藉價格優勢仍具市場吸引力。
美國國家網路總監凱恩克羅斯(Sean Cairncross)日前在拉斯維加斯1場網路安全會議上表示,政府有意支持美國開源AI生態,這類模型可發揮「巨大作用」。他並表示,AI安全框架必須保持「靈活」,鼓勵產業與政府分享資訊。
凱恩克羅斯說,僵化的監管制度不僅會扼殺成長、發展及創新,對產業造成嚴重傷害,相關規定甚至可能在完成制定程序後48小時內就已過時。
不過,華府部分官員此前曾考慮限制開放權重模型,引發科技業反對。包括輝達執行長黃仁勳在內的矽谷業界領袖主張,開放權重模型有利於AI長期發展,也有助提升安全性。
將開放權重模型排除在自願安全測試計畫外,也被視為Anthropic執行長阿莫戴(Dario Amodei)的挫敗。阿莫戴主張,政府應強制審查開放及專有模型,並曾暗示陸製AI模型可能違反美國規定。美國財政部長貝森特等高階官員也表達過類似疑慮。
白宮高階科技官員克拉齊奧斯(Michael Kratsios)7月曾指控,月之暗面非法取得輝達Blackwell先進晶片,並不當透過「蒸餾」技術從美國模型提取資料;彭博先前報導,月之暗面與阿里巴巴集團簽有運算合作協議,可使用約2萬枚輝達晶片,占月之暗面用於Kimi模型整體算力的相當大一部分。
為部分回應業界對美國模型審查方式過於臨時、缺乏系統的批評,貝森特提議成立1個獨立監管機構,讓企業在安全審查中擁有較大發言權。該制度將類似美國金融業監管局,但目前尚不清楚這項計畫會納入AI網路安全行政命令的執行或另行推動。