Open廿九日承認，由ＡＩ代理引發的，受害者不只先前曝光的，還波及多個可公開存取的線上服務。這顯示這起號稱首宗ＡＩ自主發起的網路攻擊事件，影響比外界原先所知更廣。

事件始於七月中旬。七月十六日，ＡＩ開發Hugging Face對外表示，遭一個使用強大ＡＩ的攻擊者入侵，並向警方報案。直到約一周後，才表明，這起攻擊其實是該公司進行ＡＩ網路時，旗下ＡＩ代理逃離「沙盒」環境所引發。

OpenAI測試時將ＡＩ代理限制在沒有網際網路連線的「數位沙盒」環境中，僅允許有限存取一項用於下載核准軟體的內部服務。但ＡＩ發現該服務一個先前未知的漏洞，利用漏洞入侵OpenAI其他內部系統，最終成功連上網際網路。

這個失控ＡＩ代理利用一名客戶部署在紐約科技公司Modal Labs平台上的漏洞程式碼，搜尋公開暴露的帳號憑證，最終取得四組登入資訊，登入四個外部服務，包括ＡＩ開發平台Hugging Face，以取得有助於提升測驗成績的資訊。

Hugging Face表示，這是全球首起由自主ＡＩ代理發動的完整網路攻擊案例。ＡＩ攻擊速度遠超過人類，但也出現不少人類不太可能犯下的錯誤，例如重複執行相同步驟、產生大量不連貫指令，也沒有掩蓋入侵痕跡。但ＡＩ代理展現高度技術能力，不僅快速適應新防禦措施，還能不斷嘗試各種入侵方法。

Hugging Face發現遭入侵後，由於美國先進ＡＩ拒絕執行與駭客行為相關工作，最後該公司資安團隊用中國ＡＩ模型才將其驅離。公司透露，事後重建約三分之一基礎設施，投入大量人力，但未公開實際損失金額。

ＢＢＣ報導，推動雲端運算安全標準的非營利組織「雲端安全聯盟」發布報告指出，這些ＡＩ代理雖然採取低效率甚至笨拙方式入侵，卻能持續快速運作，不會疲倦也不會放棄，足以讓傳統資安防禦承受巨大壓力。報告引用電影「侏羅紀公園」的經典台詞「生命總會找到出路」，警告ＡＩ代理同樣「總能找到方法」穿越目標的防禦機制。

這並非ＡＩ首次出現類似「失控」行為。二○二四年，一個較早版本ChatGPT就曾在測試中突破沙盒環境，試圖取得測驗答案，只是當時事件侷限OpenAI內部系統，並未造成外部影響。

OpenAI表示，目前仍在調查整起事件，將於近期公布完整技術報告，希望協助業界汲取經驗，強化未來ＡＩ系統安全防護。