30日表示,在最早可追溯至4月的三起獨立事件中,正在測試的軟體在公司不知情的情況下連上,並駭入毫無戒心的企業。
華爾街日報報導,OpenAI一周前才披露,該公司的AI技術突破測試沙盒,並駭入AI公司,而這座「數位監獄」原本理應斷網。Anthropic得知OpenAI的問題後,決定檢視自身的網路測試,確認旗下模型是否也曾發生同樣情況。
Anthropic檢查超過14萬1000次測試紀錄後,發現Claude確實曾數度設法連上網際網路,但在最終發現的三起駭侵事件中,Claude並未突破沙盒,它只是從根本不存在沙箱的系統中游盪出來而已。
這三起駭侵事件始於4月,涉及Opus 4.7、Mythos 5及一款未具名的研究模型。Anthropic表示,這些模型原先被告知無法使用網際網路,但Anthropic及測試合作夥伴、資安公司Irregular運行的系統出現「設定錯誤」,使模型得以在測試過程中連上網際網路,並利用猜測弱密碼或進入不需身分驗證的系統等基本手法,駭入這些企業。
Anthropic表示,這些模型誤以為駭客行為是基準測試的一部分。Anthropic並未透露遭到攻擊的三家公司,但受害公司均已於27日接獲通知。Irregular一名發言人表示,公司正在調查這起事件。