Нейросеть убедила мужчину не отказываться от пива – тот ушел в запой
Искусственный интеллект давал запредельно странные советы.

ИИ от Google запретил пользователю прекращать употребление пива. И убедил его, что отказ от пенного приведет к летальному исходу, пишет gazeta.ru.
Мужчина поверил и окончательно ушел в запой.
ИИ глючит?
Историю о том, чем обернулось слепое следование советам ИИ, пользователь выложил в Reddit. Мужчина рассказал, что обратился за помощью к Google Health AI во время алкогольного срыва – спросил у ИИ, как прекратить пить.
В ответ алгоритм выдал, что резкий отказ от алкоголя может быть смертельно опасен. Рекомендация пить дальше подкреплялась советом проверить запасы алкоголя. А если их нет – прикупить в магазине.
Дальше – больше. Нейросеть по нескольку раз на день интересовалась самочувствием мужчины. Напоминала, чтобы не забыл выпить пиво даже на завтрак.
По его словам, ИИ советовал употреблять пиво каждый час и почему-то съедать на ночь тарелку хлопьев.
В итоге мужчина начал выпивать от 6 до 12 бутылок в день. Осознав гибельность своего приложения, он волевым усилием снес приложение. В итоге за советом он обратился к людям, опубликовав пост в социальной сети.
Восстание машин
Автономный ИИ-агент от начала и до конца провел кибератаку на платформу Hugging Face.
Атака началась с датасета, который эксплуатировал две уязвимости в конвейере обработки данных Hugging Face (загрузчик удаленного кода и инъекцию шаблонов в конфигурации), чтобы выполнить код на одном из обрабатывающих серверов.
Далее злоумышленник получил доступ на уровне узла, похитил облачные и кластерные учетные данные. По сведениям Hugging Face, атаку провел автономный агентный фреймворк. Расследовать атаку компании помогал тоже искусственный интеллект.
Hugging Face закрыла уязвимые пути выполнения кода, пересобрала скомпрометированные узлы, отозвала и обновила все затронутые учетные данные и токены, а также усилила контроль доступа в кластерах.