這套行政框架首要目的是提供一套可運作的聯邦標準與審查機制,為盟友出口管制建立統一評估標準。其二是解決科技巨頭一刀切限制的實務運作困難。三是將前沿AI模型「戰略武器化」。
這項被形容為「數位鐵幕」的監管框架,其來有自。6月12日以國家安全為由,要求人工智慧(AI)新創公司Anthropic暫停對所有外國人士開放Fable 5與Mythos 5兩款模型。儘管商務部已於6月26日、30日先後批准開放Mytho 5與 Fable 5,卻凸顯出AI監管仍有許多不確定性,也加劇美國與西方盟友摩擦與AI民族主義的討論。
Anthropic於6月9日發布Fable 5與Mythos 5兩款模型。美國官員解釋,由於可信賴的夥伴找到繞開Falbe安全護欄的方法(俗稱越獄),考量到可能遭中國大陸、俄國或其他有風險國家的軍事情報單位利用,要求該公司暫停開放部分AI模型。
Anthropic 6月12日聲明說,在Fable發布的幾周前已和美國政府、英國AI安全研究院及多間第三方機構合作,累計測試Fable的安全護欄達數千小時,結果顯示Fable的安全防護機制較先前任何版本更有效,目前也沒有任何AI模型供應商能完全防止模型遭越獄。
雖然政府的出口管制僅適用於包含Anthropic外籍員工在內的所有外國人士,但為確保完全符合規定,已暫時封鎖所有客戶對這兩款模型的存取權限。
紐約時報6月12日指出,要求對Anthropic技術研發產生重大影響,限制誰可使用該公司技術讓命令異常廣泛,恐阻止加拿大等盟友的Anthropic員工參與研究。
多年來,美國出口管制的重點一直聚焦在晶片與工具之上,而非限制外國人士取得語言模型。這次對立則凸顯AI開發者與監管機構間的關係,因如何評估「越獄」衍生的風險而日益緊張。
川普日前簽署行政命令,要求各公司發布新系統之前自願接受政府監管。紐時說這是川普政府AI政策的重大轉折,此前則是採取放任的立場。
五角大廈首席資訊官戴維斯在社群媒體X上說,國防部支持優先考慮國家安全,美國優先永遠比營收周期、製造話題及上市前的估值還重要。川普團隊認為,過去只管制晶片出口的成效不夠完全,前沿AI模型本身就是「戰略資產與網路武器」。
美國似乎把最先進的AI模型當作核武,一旦別人擁有恐產生致命威脅。紐時專欄作家度查特7月21日撰文,稱美國軍工複合體一心阻止北京縮小美中AI差距,產業與政府也日益傾向視前沿模型為嚴峻的安全威脅。
美、英、加拿大、澳洲及紐西蘭組成的情報聯盟「五眼聯盟」6月22日警告,「頂尖AI模型性能遠超業界預期,從根本轉化網路攻防能力,這不是數年後才會發生,而是幾個月內就會出現」。路透說,各國官員愈來愈憂心Mythos等模型讓使用者能更快地執行複雜網攻,大幅提升網攻能力。
北京則將本土企業研發的AI模型視為核能,風險較低、應透過共享、商業化來推廣,以贏取朋友、擴大國際影響力及削弱美國AI領先優勢。大陸固然也會提到風險與安全,但幾乎沒有視AI為奇貨必須囤積的跡象,也未當作地緣政治的王牌或戰略武器。
法國總統馬克宏6月18日則呼籲,AI安全的責任不該只交由科技企業負責,還批評美國對Anthropic的管制為「純粹的民族主義」。馬克宏警告,像關燈一樣突然切斷AI技術的登入權限,可能讓美國企業的價值大幅縮水。法國則會加強投入AI產業,以確保國際合作破局時也不至落後。
他也說,民主國家想要防止專制政權取得先進AI系統,「我們的相關機構必須先合作才能在安全與網路安全領域建立順暢的政府對政府關係」,「我們需要國際論壇討論、制定全球公認的測試標準,提供能力與分險分析並成為各國合作場合」。
由於憂心歐洲在AI與雲端運算服務過度依賴美國企業,歐盟6月3日宣布「科技主權」方案,以促進歐洲本土企業研發替代大型科技企業服務與硬體的產品,進而促進本土AI發展。
白宮與Anthropic之爭恐進一步加劇歐洲的不信任感。布魯塞爾智庫「歐洲監管中心」研究主管梅爾說,川普的介入凸顯只要將前沿AI模型切斷,歐洲、加拿大及其他國家「將陷入極端脆弱的處境」。
事實上,原本歐洲AI法案中涉及生物辨識、關鍵基礎設施及執法等高風險AI系統的規定,應於8月2日生效;但考量配套不足下實施最高全球年營業額3%的罰則,將扼殺歐洲數位轉型與創新動能,今年5月達成共識延至2027年12月2日實施。
