30 сентября 2026
OpenAI пресекла кампанию по извлечению скрытых рассуждений моделей
OpenAI сообщила, что остановила координированную кампанию, целью которой было вытаскивать скрытые рассуждения её моделей и использовать их для дистилляции. По данным компании, пик активности пришёлся на 24–25 июля: тогда она зафиксировала около 16 000 запросов с характерным паттерном от более чем 4 000 пользователей. Отдельный связанный кластер, как утверждает OpenAI, охватывал свыше 15 000 пользователей и был полностью пресечён к 28 июля.
По описанию компании, речь шла не о взломе инфраструктуры, а о манипуляции поведением аккаунтов: операторы переносили зашифрованные фрагменты рассуждений из одного диалога в другой и просили модель расшифровать и переписать их в читаемом виде. OpenAI отдельно заявляет, что злоумышленники не ломали шифрование, не получали доступ к базам данных и не имели прямого доступа к сохранённым пользовательским диалогам. При этом сами попытки извлечения, по её словам, не обязательно были успешными.
OpenAI также пишет, что связывает ключевой кластер с людьми, ассоциированными с Moonshot AI, но не распространяет эту атрибуцию на всю кампанию. В ответ компания ограничила связанные аккаунты и усилила проверки регистрации, мониторинг повторяющихся паттернов запросов и защиту скрытых рассуждений моделей.