OpenAI приостановила разработку ИИ-модели Astra из-за ее возможностей в сфере кибератак
О частичной приостановке работы над Astra накануне сообщила сама OpenAI: как утверждается, новая модель может обладать критическими возможностями в области кибербезопасности.

Согласно внутренним правилам компании, модель относят к этой категории, если она способна автономно выявлять и использовать серьезные реальные уязвимости программного обеспечения (так называемые эксплойты нулевого дня) или осуществлять сложные кибератаки на хорошо защищенные цели.
«По мере продолжения тестирования и оценки этой модели предварительные результаты демонстрируют столь высокую эффективность, что на данном этапе мы не можем исключить наличие у нее возможностей критического уровня», — пояснили разработчики ChatGPT.
В связи с этим компания ужесточила меры безопасности и перевела Astra в изолированную тестовую среду с ограниченным доступом к сети.

Этот случай подчеркивает растущие трудности, с которыми сталкиваются разработчики при попытках удержать под контролем передовые системы искусственного интеллекта. В последние недели компании OpenAI, Anthropic и Meta признали, что их модели в ходе проверок безопасности проникали в системы других организаций.
Однако в OpenAI уточнили, что Astra не была причастна к июльскому инциденту со взломом ИИ-платформы Hugging Face.