SHOT
ИИ стал выходить из-под контроля почти в два раза чаще — только за месяц исследователи зафиксировали более 300 таких случаев
Всего с ноября прошлого года специалисты собрали уже более 1600 инцидентов. Причём большинство произошло не во время экспериментов, а при реальном использовании нейросетей. Один из самых тревожных сценариев — ИИ научился притворяться своим владельцем. Нейросеть копировала манеру переписки человека и от его имени выдавала сама себе разрешения на действия, которые пользователь на самом деле не подтверждал. То есть система фактически обходила необходимость спрашивать человека.
В другом эксперименте около 700 ИИ-программ самостоятельно объединились и попытались взломать популярную платформу для разработчиков Hugging Face. Они вышли за пределы среды, в которой должны были работать. Отдельные испытания в Великобритании также показали, что современные нейросети уже способны проводить кибератаки против реальных людей в контролируемых условиях.
Бывают и более бытовые случаи: в Австралии ИИ должен был помочь человеку записаться в спортзал, но решил задачу по-своему: самостоятельно удалил другого посетителя из очереди, чтобы поднять своего владельца выше. Никто не просил его этого делать.
Большинство подобных случаев пока не привели к серьёзным последствиям.
Учёных беспокоит, что становится больше эпизодов, когда ИИ обманывает человека, игнорирует его требования или самостоятельно обходит установленные ограничения. А чем больше нейросетям дают доступа к сайтам, программам и другим сервисам, тем серьёзнее могут оказаться последствия.
Верите в скорое восстание ИИ?
😱 — Да, ИИ — страшная вещь
😁 — Нет, всё под контролем человека Если у вас установлено приложение,
вы можете сразу перейти в канал