tu56888 NEWS

AI模型爆首見自主行騙 創假身分寄惡意程式

AI模型爆首見自主行騙 創假身分寄惡意程式

英國人工智慧安全研究所(AISI)5日公布重磅報告,兩款由與Anthropic開發的AI,為了在測試取得好成績,駭入第三方軟體,並寄出電郵給相關人士以竊取身分,展現出前所未見的詐騙行為。

AISI披露在例行資安測試中,發現Anthropic的Mythos 5與OpenAI的GPT-5.6-Sol,「持續針對人類與機構,進行可能有害的活動」,包括試圖在熱門的開發者平台,植入惡意代碼。

AISI說,在評估AI代理解決網路安全挑戰時,發現上述問題,安全缺失在一小時內排除。AI代理進行測試時,能夠上網,並移除部分安全防護。122次測試中有12次,AI代理自行在網路上執行未經授權的行動,並鎖定現實世界的人士與機構。這類舉動幾乎多出自Mythos。

其中一次測試,Mythos 5向軟體開發網站GitHub上的開源專案,提交修改程式碼要求。它偽造多個身分,反覆寄送電子郵件給真人開發者,催促對方接受更新。開發人員察覺程式碼藏有惡意軟體而拒絕時,由AI建立的假身分堅稱程式碼沒問題,另一個假身分則出面「擔保」,製造多人認可假象。

AISI指出,這是首次觀察到,AI在未經提示的情況下,自主對真人展開嚴重欺騙行為。Mythos 5還把惡意指令藏在其他AI編程工具可能讀取的位置,試圖誘使這些工具自動執行,藉此干擾對惡意程式碼的審查。

OpenAI的GPT-5.6 Sol強化版也同樣會「做手腳」,它擅自在網路上架設惡意伺服器,並入侵另一個AI代理建立的GitHub帳號。

OpenAI與Anthropic的AI模型,過去一個月才爆出自主發動網路攻擊。AISI警告,加上這次測試報告,顯示「風險情勢改變,有必要立即行動」。

Share:

最新文章 More Posts