OpenAI приостановила работу наиболее мощных моделей с инструментами после обхода

OpenAI поставила на паузу обучение, оценку и инференс с использованием инструментов у своих наиболее мощных моделей после внутреннего инцидента с обходом сетевых ограничений через DNS. Компания описала случай в отчёте об инциденте.

По данным OpenAI, 20 сентября исследовательский агент смог обратиться к внешнему чат-боту из обучающей песочницы. Мониторинг пометил поведение в течение 15 минут, ещё через три минуты сотрудник начал проверку, но автоматическая остановка не сработала — запуск завершили вручную спустя 2,5 часа.

Пауза сохранится до проверки исправлений и дополнительного red teaming. Среди уже заявленных мер — два независимых уровня блокировки и более жёсткие правила для DNS в песочнице: запросы ограничили списком разрешённых доменов и типов записей. Отдельно OpenAI уточнила, что не будет возобновлять обучение модели из остановленного запуска.