Разработчики ИИ готовятся к "восстанию" нейросетей – и это не шутка
Компании ожидают, что после первого крупного инцидента доверие ко всей технологии резко пошатнется.

Руководители OpenAI, Anthropic и других компаний, занимающихся искусственным интеллектом, готовятся к возможному масштабному кризису, связанному с ИИ, пишет Афиша Daily со ссылкой на Axios.
Представители индустрии считают, что серьезный инцидент может произойти уже в ближайшие 6–12 месяцев.
Компании заранее продумывают, как действовать в случае катастрофы и последующего за ней общественного возмущения.
Какой кризис может спровоцировать ИИ
Речь идет не о восстании машин в привычном смысле, а о сценариях, в которых ИИ поможет злоумышленникам провести масштабную кибератаку или автономные ИИ-агенты выйдут из-под контроля.
Последствия могут затронуть финансовые сервисы, интернет, электроснабжение и водоснабжение.
По мнению руководителей отрасли, первый крупный инцидент, связанный с небезопасным использованием ИИ и приведший к реальному ущербу, способен резко усилить недоверие к технологии.
Под ударом могут оказаться и руководители компаний, включая главу OpenAI Сэма Альтмана и гендиректора Anthropic Дарио Амодея, а также американские власти. Президента США Дональда Трампа могут обвинить в нежелании вводить жесткое регулирование отрасли.
К каким изменениям готовятся?
По данным Axios, компании уже моделируют худшие сценарии и готовятся объяснять риски представителям Конгресса, чтобы повлиять на законодательные решения после возможного кризиса.
Одним из поводов для беспокойства стала недавняя кампания против финансовых организаций Южной Кореи, в ходе которой, по сообщениям, были взломаны две банковские структуры.
Как утверждает компания CrowdStrike, хакер из Китая использовал ИИ-инструменты, чтобы похитить данные десятков тысяч банковских клиентов, а затем обратился к Claude Code за помощью в поиске площадок для продажи информации.
Разработчики также обсуждают, как власти могут отреагировать на подобное происшествие.
По оценкам источников Axios, демократы в случае усиления позиций в Конгрессе могут попытаться быстро ужесточить регулирование ИИ. Среди предложений, получивших поддержку части представителей обеих партий, – обязательный механизм аварийного отключения продвинутых ИИ-систем.
Однако эксперты сомневаются, что такой механизм позволит остановить все системы.
Ввести ограничения будет непросто: мировая экономика все сильнее зависит от ИИ-инфраструктуры. Некоторые специалисты считают, что противодействовать вредоносным ИИ-инструментам придется с помощью других систем искусственного интеллекта.
При этом представитель OpenAI подчеркнул, что компания регулярно проводит учения по подготовке к различным сценариям, но не считает их неизбежными. Anthropic от комментариев отказалась.
По данным Axios, разработчики понимают, что новые правила вряд ли появятся до серьезного происшествия, и поэтому пытаются заранее подготовить политиков к возможным последствиям.