"Может нас всех уничтожить": бывший исследователь Anthropic о будущем ИИ
Все больше разработчиков выражают обеспокоенность тем, что гонка ИИ выходит из-под контроля.

Бывший исследователь Anthropic Джейкоб Коксон уволился из компании и публично заявил: гонка в области искусственного интеллекта может привести к созданию систем, способных уничтожить человечество.
Специалист проработал в Anthropic три года, до этого – в OpenAI, и уверяет, что ни одна из компаний не действует ответственно.
В чем главный посыл Коксона
Свой взгляд на проблему стремительного развития искусственного интеллекта Джейкоб Коксон высказал в своих социальных сетях.
"Никакая другая человеческая деятельность не представляет такой опасности", – написал он у себя в X.
Его главный страх – конкуренция, в которой компании стремятся к созданию самосовершенствующегося сверхинтеллекта, теряя контроль над его развитием. Он считает, что необходимы срочные меры, вплоть до временного запрета на улучшение возможностей моделей.
"Они несутся прямиком к самосовершенствующемуся сверхинтеллекту и играют с нашими жизнями", – заявил бывший исследователь.
Что говорят те, кто создает ИИ
Коксон отметил, что многие разработчики ИИ всерьез опасаются, что к концу десятилетия технологии могут уничтожить человечество.
"Люди, создающие ИИ, всерьез верят, что к концу десятилетия он может нас всех уничтожить. Это не маркетинговый трюк, – подчеркнул он. – Наоборот, многие руководители и ведущие исследователи в прессе пытаются выразить свои мысли разумно, но я слышу, как эти же люди в частном порядке выражают опасения".
По его словам, мощь этих систем скоро станет сверхчеловеческой – они смогут взламывать что угодно, революционизировать любую область за одну ночь и получать реальную власть и ресурсы.
Почему это важно
Коксон занимался предварительным обучением новых моделей ИИ – обработкой огромных объемов данных. Его уход из Anthropic – не единичный случай: все больше разработчиков выражают обеспокоенность тем, что гонка ИИ выходит из-под контроля.
Вопрос заключается в том, услышат ли их голоса те, кто принимает решения, или искусственный интеллект действительно станет угрозой, о которой предупреждают его создатели.