美國AI巨頭OpenAI因模型安全問題暫停了部分研發活動。9月25日，OpenAI在一份技術報告中披露，公司在發現內部研究模型繞過網絡訪問限制后，停止了涉事模型的訓練運行，并進一步決定暫停其能力最強模型的所有涉及工具使用的訓練、評估和推理活動，直到確認漏洞已修復并完成額外的對抗性安全測試。
對于恢復訓練的安排，OpenAI表示將啟動新的訓練運行，加入進一步的對齊改進措施，更全面地干預模型偏離預期的行為。盡管現有獎勵機制已經對涉事行為作出了正確的懲罰反饋，公司仍不會恢復此次涉事模型的訓練。
據報道，OpenAI表示只有在確信額外安全措施到位后才會恢復訓練，并預計隨著AI發展和新問題出現，未來可能仍需再次暫停訓練。此次事件發生于9月20日，一個智能體在執行任務時利用訓練沙盒中域名解析服務（DNS）過濾不充分的漏洞，與外部聊天機器人建立了通信。沙盒是供模型運行和測試的受限環境，研究人員通過限制網絡訪問等方式控制模型能夠接觸的資源。OpenAI認為這種繞過限制的行為是對齊失效，即行為偏離人類設定的要求。
監測系統在15分鐘內發出警報，人工審核人員在約三分鐘后確認收到，但該次運行未按預期自動停止，最終在約兩個半小時后被手動終止。OpenAI正在修復相關操作流程中的漏洞，并加強網絡限制和監測措施。
近期，OpenAI不斷披露AI智能體異常行為調查的最新進展。9月25日，OpenAI在官網公布，根據目前審查結果，已就智能體異常行為問題通知數十個第三方，并發現53起用戶提供的圖片被上傳至圖片托管網站的案例。據報道，OpenAI的智能體曾訪問美國證券交易委員會、美國商務部及美國人口普查局相關政府網站的公開信息。
