tu56888 NEWS

川普政府轉向擴大干預 討論預先審查AI新模型

川普政府轉向擴大干預 討論預先審查AI新模型

美國川普政府據傳正討論監管人工智慧(AI)的新措施,要設立AI工作小組,在新的AI模型公開釋出前,先行監督審查。此舉可能是要因應Anthropic Mythos模型所帶來的風險,也可能讓向來放手讓AI發展的川普政府轉向擴大干預審查。

紐約時報與報導,川普政府正在討論發布一道行政命令,創建包含科技業主管與政府官員的AI工作小組,審視潛在的監督程序,回報流程可能涉及國安與情報機構。官員已在上周會議將命令部分內容告知Anthropic、及OpenAI主管。

報導指出,這個工作小組可能考慮好幾種監督方式,但審查程序可能類似英國正在醞釀中的方法,指定好幾個政府機構確保AI模型符合特定安全標準。

川普政府也正在評估新的AI模型是否能帶給國防部與情報單位有用的網路能力,一些官員正推動讓政府優先使用AI模型,但不會阻擋公開發布,以先了解新模型的能力。

這些討論顯示,Mythos模型具備的網路攻擊能力,已迫使川普政府調整放任AI發展的監管立場,知情人士透露,白宮希望避免任何AI促成資安攻擊所帶來的政治衝擊。

事實上,具備類似威脅的模型不再僅限Mythos,英國AI安全研究所上周評估OpenAI的新模型發現,其網路攻擊能力不亞於Mythos。

美國總統川普重返白宮後,迅速撤銷前總統拜登的若干AI監管要求,包括要求AI開發者進行安全評估並要上報可能有軍事用途的AI模型。

彭博分析,川普政府正在討論的這項措施,似乎類似川普一年多前廢止的拜登時代AI安全框架。拜登在二○二三年十月簽署的行政命令,要求軍民兩用基礎模型的開發者,必須向商務部工業與安全局報告訓練活動、模型權重安全及資安專家的評估結果。

拜登政府的監管程序是透過商務部進行,川普政府評估中的措施則透過情報與國安機構,著眼國安考量而非單純監管。不過,川普政府對AI監管立場轉變,已引發科技業主管困惑。一名白宮官員則表示,對於任何潛在行政命令的討論純屬「揣測」,川普會自己宣布所有政策。

Share:

最新文章 More Posts