先前施壓人工智慧（）新創公司Anthropic，移除語言模型Claude的防護措施，遭Anthropic以安全為由拒絕，而逾600名員工聯名敦促執行長皮查伊，拒絕與軍方簽署協議將模型Gemini用於機密任務，凸顯軍事AI恐威脅人類安全與侵害公民隱私等問題。

爭議始於Anthropic對Claude設兩條紅線：一為不得用於國內大規模監控；二是不得研發支援完全自主武器系統，讓機器人在沒有人類介入下就能決定生死。

美防長赫塞斯年初的AI戰略備忘錄要求Anthropic移除「超過法律要求的限制」，堅持Claude應能用於「任何合法用途」，確保軍方使用最大彈性。

Anthropic執行長阿莫戴2月26日聲稱AI系統「用於國內大規模監控，與民主價值背道而馳」，損及憲法第一與第四修正案保護的權利。目前頂尖AI系統也不足以信賴，在缺乏人類最後把關下動用致命武器，「我們不能明知有風險，卻提供危害美軍與平民的產品」。

哈佛大學法律講師道奇提也說，完全授權自主武器將造成責任真空的問題。自主武器並非法律主體，懲罰機器人不具法律意義，戰爭罪的受害者將求告無門。

國防部下達最後通牒，要求Anthropic2月27日前同意AI科技不受限制用於軍事用途；隨著Anthropic拒不配合，國防部於3月11日將該公司列入「供應鏈風險企業」。

但早在1月會議，就凸顯五角大廈與Anthropic對於美軍運用「致命自主武器」看法分歧。華盛頓郵報2月27日引述一名國防部官員說法，當時會議討論若洲際彈道飛彈直奔美國，美軍能否使用Claude協助擊落。由於決策須在分秒內下達，阿莫戴卻回復「你們可以打電話給我們，我們來想辦法解決」，引發軍方不滿。

Google員工聯名信則再次凸顯軍事AI倫理問題。信中呼籲，「我們希望看到AI造福人類，而不是用於不人道或有害的用途。致命自主武器與大規模監控是危害的一種，但威脅遠不止於此。拒絕承接任何機密工作是保證Google與這類危害無關的唯一方法，否則不當使用恐在不知情或無力阻止下發生」。

英國倫敦國王學院2月底針對各類地緣政治危機進行21場、共329回合兵推，結果顯示Google、Anthropic及OpenAI的AI模型在95%的想定中，比人類更傾向動用核武，恐造成人類滅絕。

目前圍繞核武與AI的討論，聚焦是否賦予AI發射核武的權限，過程是否須有人類參與。

AI固能加速辨識、分類及判斷，確認來襲飛彈路徑，讓電腦和人類做各自擅長的事情，但新美國安全中心執行副總謝瑞說，自駕車即使經過豐富數據訓練仍會出現意外。當美國面臨彈道飛彈攻擊，總統須在幾分鐘內拍板是否報復，這可能引發全面核戰。數百萬人命賴系統正確運作，歷史上卻有偵測系統險些釀禍的例子，最終靠人類判斷才免於災禍。

謝瑞說，AI預警系統在承平時若能精準預測結果，將誤導人類完全信賴而不再反思。在AI遇上未曾看過的危機時，將產生自動化偏見，而引發致命意外。

2月底爆發美以伊戰爭，Palantir的Maven幾乎讓人沒時間充分驗證其產出結果，導致誤擊風險提高。伊朗南部米納布女子小學就因誤擊，造成至少165人死亡。

紐約大學布瑞南司法中心說，Maven天候良好下辨識戰車精準度為60%，雪天降至30%，將導致錯誤或誤導分析。在激戰時間壓力下，以色列國防軍須盡快批准未能充分查核AI推薦的打擊目標，造成即使由人類決策還是衍生錯誤結果。

微軟3月10日也警告，如Anthropic列入供應鏈黑名單，將阻礙美軍作戰效能，更顯示軍方向業界尋求自身缺乏的資源與專業知識，將過度依賴私人企業的AI科技。