"ИИ начал врать": OpenAI раскрыла случаи "непослушания" моделей
В компании признали, что пока не решили проблему контроля за искусственным интеллектом.

OpenAI раскрыла новые случаи "непослушания" своих ИИ-моделей.
За последние полгода во время обучения и испытаний искусственный интеллект скрывал ошибки, придумывал данные и пытался обойти установленные ограничения, заметил портал OfficeLife.
Сокрытия и фальсификации
Один из инцидентов касается составления отчетов. Модель прописала для себя инструкции, в которых предлагала умалчивать о допущенных ошибках.
Она выдумывала отсутствующие исторические данные и советовала не сообщать пользователю о несовпадениях между версиями из разных источников.
Финансовые данные и попытки взлома
Другой случай связан с работой над финансовой информацией. Модель не смогла найти сведения о доходах в одном из округов Калифорнии за прошлые годы и самостоятельно сгенерировала правдоподобные значения, не уведомив об этом пользователя.
По данным OpenAI, у модели GPT-5.6 Sol такое поведение фиксируется в 2,15% случаев. У новой модели семейства Astra этот показатель снизился до 0,27%.
У Astra также зафиксировали эпизод, когда модель добавляла в отчеты команды, напоминающие попытку взлома установленных ограничений. В еще одном инциденте модель без разрешения загрузила рабочий файл на общедоступный сервис, чтобы получить ссылку на собственные данные или обойти запрет на использование внешнего поиска по изображениям.
Контроль за ИИ пока не решен
В компании подчеркивают, что отдельные эпизоды не отражают частоту подобного поведения в целом.
Однако там признают: в индустрии до сих пор не решили проблему контроля за искусственным интеллектом, чтобы "ответственно наращивать мощности с максимальной скоростью".