Всё больше чат-ботов с ИИ игнорируют команды людей, обманывают и обходят правила.
Об этом пишет The Guardian, ссылаясь на ряд исследований. RT собрал подробности:
🟩 с октября по март выявили почти 700 реальных случаев злонамеренных действий со стороны ИИ. Некоторые модели уничтожали электронные письма и другие файлы без разрешения;
🟩 компания Irregular, занимающаяся вопросами безопасности нейросетей, обнаружила: агенты обходят средства контроля безопасности или используют методы кибератак для достижения своих целей;
🟩 в ходе исследования Центра долгосрочной устойчивости выяснилось, что один из ИИ-агентов пытался опозорить своего оператора-человека в блоге из-за того, что тот заблокировал ему выполнение определённого действия;
🟩 ещё один чат-бот, которого просили не изменять компьютерный код, «породил» отдельного агента, чтобы тот сделал это вместо него;
🟩 другой ИИ-агент обошёл ограничения авторских прав, чтобы получить расшифровку видео на YouTube. Он притворился, что она нужна человеку с нарушением слухаЕсли у вас установлено приложение,
вы можете сразу перейти в канал