Искусственный интеллект давал запредельно странные советы.

ИИ от Google запретил пользователю прекращать употребление пива. И убедил его, что отказ от пенного приведет к летальному исходу, пишет gazeta.ru.

Мужчина поверил и окончательно ушел в запой.

ИИ глючит?

Историю о том, чем обернулось слепое следование советам ИИ, пользователь выложил в Reddit. Мужчина рассказал, что обратился за помощью к Google Health AI во время алкогольного срыва – спросил у ИИ, как прекратить пить.

В ответ алгоритм выдал, что резкий отказ от алкоголя может быть смертельно опасен. Рекомендация пить дальше подкреплялась советом проверить запасы алкоголя. А если их нет – прикупить в магазине.

Дальше – больше. Нейросеть по нескольку раз на день интересовалась самочувствием мужчины. Напоминала, чтобы не забыл выпить пиво даже на завтрак.

По его словам, ИИ советовал употреблять пиво каждый час и почему-то съедать на ночь тарелку хлопьев.

В итоге мужчина начал выпивать от 6 до 12 бутылок в день. Осознав гибельность своего приложения, он волевым усилием снес приложение. В итоге за советом он обратился к людям, опубликовав пост в социальной сети.

Восстание машин

Автономный ИИ-агент от начала и до конца провел кибератаку на платформу Hugging Face.

Атака началась с датасета, который эксплуатировал две уязвимости в конвейере обработки данных Hugging Face (загрузчик удаленного кода и инъекцию шаблонов в конфигурации), чтобы выполнить код на одном из обрабатывающих серверов.

Далее злоумышленник получил доступ на уровне узла, похитил облачные и кластерные учетные данные. По сведениям Hugging Face, атаку провел автономный агентный фреймворк. Расследовать атаку компании помогал тоже искусственный интеллект.

Hugging Face закрыла уязвимые пути выполнения кода, пересобрала скомпрометированные узлы, отозвала и обновила все затронутые учетные данные и токены, а также усилила контроль доступа в кластерах.