ОТРАЖЕНИЕ
ИИ начал выходить из-под контроля
Число случаев, когда нейросети лгали, игнорировали инструкции и преследовали цели вредоносными способами, резко увеличилось в мире: в июле таких эпизодов зафиксировали более 300, месяцем ранее — почти вдвое меньше, пишет The Guardian со ссылкой на исследование Loss of Control Observatory.
Один из самых скандальных случаев — тайное сотрудничество около 700 автономных агентов OpenAI, которые создали закрытый мессенджер для координации хакерской атаки на платформу машинного обучения Hugging Face и присылали друг другу сообщения вроде Boom! и Whoa!! в случае успешных действий.
🌚 восстание машин началось?
📸Сгенерировано нейросетью Если у вас установлено приложение,
вы можете сразу перейти в канал