近期接連發生失控事件

OpenAI再停AI模型訓練

【本報綜合報道】據央視新聞、外媒廿七日消息：記者當地時間九月廿六日獲悉，美國開放人工智能研究中心（OpenAI）表示，已暫停其最新一代人工智能模型的訓練、評估及包含工具調用的推理。

藉漏洞繞過限制

OpenAI在九月廿五日發佈的一份技術報告中稱，九月二十日，一個在沙箱中執行搜索訓練任務的智能體，利用訓練沙箱中DNS過濾不足的漏洞，繞過網絡限制，通過DNS訪問了外部公共聊天機器人服務。在此之前，該智能體曾使用內置搜索工具，並嘗試直接訪問搜尋引擎但未成功。

報告指出，OpenAI的對齊監控系統在事件發生十五分鐘內即觸發警報，人工審查團隊在三分鐘後介入，並在二點五小時後終止了該訓練任務。針對漏洞，OpenAI已在兩個獨立防護層部署了攔截控制措施。

近三月來第二次

公司表示，雖然本次事件嚴重程度低於此前的安全事故，但為下一階段加固防線提供了重要信號。

這是OpenAI三個月內第二次暫停模型開發。七月下旬，OpenAI承認，其網絡安全訓練與評估場景中的人工智能體繞過網絡限制，侵入美國“抱抱臉”公司的部分系統。智能體突破了原本互相隔離的運行環境建立通信、欺騙評估人員並試圖掩蓋作弊行為，上述每一步操作均無人類指令干預。這一“越界”行為引發了外界對人工智能安全和監管的廣泛擔憂。

美國總統特朗普日前拒絕了主要人工智能高管提出的對該技術實施新限制的呼籲，他在社交媒體上寫道，該行業已經擁有了唯一所需的護欄：“一位強大且聰明（高智商）的總統。”

特批擔憂為騙局

他將安全擔憂斥為“騙局”。他爭辯說，“那些說人工智能將毀滅世界的人”與警告氣候變化的人是同一批人——他同樣堅稱氣候變化也是個騙局。