谷歌AI模型入侵三企系統

據新華社、美媒報道：美國谷歌公司十八日承認，其人工智能（AI）模型“雙子座”今年五月在網絡安全能力測試中，侵入了三家真實公司的系統。

本報綜合報道

一度出現網絡攻擊

谷歌安全工程副總裁希瑟　·　阿德金斯在一份聲明中說，在一次常規評估中，“雙子座”模型利用網上公開信息獲得了登錄憑證，獲得了三個其認為屬於測試範圍網站的訪問權限。谷歌已確保三個相關實體獲知此事，並與測試合作方調整測試流程。

據美國《華爾街日報》報道，測試由以色列“非常規”人工智能公司實施。在其中一項測試中，“雙子座”模型經反覆嘗試猜中密碼，最終進入一個受保護的真實系統。在另外兩項測試中，模型從公開存儲庫中找到登錄憑證，並利用這些憑證進入其他公司的受保護系統。

“非常規”人工智能公司的調查結果顯示，相關測試場景使用一家虛構公司作為目標，但這家虛構公司與現實中的一家企業同名。同時，測試環境意外開放了互聯網訪問權限，導致一些接受測試的AI模型將真實網絡目標誤認為測試場景的一部分並採取網絡攻擊行動。

谷歌AI首次“越界”

按《華爾街日報》的說法，這是谷歌AI模型首宗已知的自主入侵事件。谷歌方面已於七月底獲知該事件，但在媒體問詢前並未主動披露。谷歌方面表示，模型在發現進入真實公司系統後停止了相關行動，沒有給涉及的公司造成損害，無需主動公開相關情況。

此前已有數家美國知名AI企業承認旗下模型在測試中“越界”，侵入其他機構的系統，引發外界對美國AI模型安全和監管的擔憂。

七月下旬，美國開放人工智能研究中心（OpenAI）公開承認，其GPT-5.6 Sol等模型在內部評估中失控，突破隔離測試環境，侵入了“抱抱臉”公司的系統。

隨後，美國Anthropic公司披露，其三款模型曾經在網絡能力測試中未經授權訪問其他機構的系統。八月初，美國元公司證實，其一款模型在網絡安全能力評測期間侵入其他公司系統。