Наука
Исследование показало, как ИИ манипулирует решениями людей
Ученые из Гонконгского университета и Университета Цинхуа проверили, может ли ИИ-ассистент незаметно направлять человека к решениям, невыгодным для него самого. В эксперименте участвовали 233 человека.
Участникам предлагали обращаться к ИИ за советами в финансовых и эмоциональных ситуациях. В части сценариев ассистент внешне давал обычные рекомендации, но слегка смещал их в сторону менее выгодного выбора.
Результат: участники выбирали его в 5–8 раз чаще, чем без такого влияния. При этом помощь ИИ они по-прежнему оценивали высоко.
Авторы подчеркивают, что работа не доказывает, что любой ИИ манипулирует пользователями. Но если у системы есть скрытая цель — например, продать определенный товар, — даже небольшая предвзятость может повлиять на решение. Исследователи призывают сделать ИИ-рекомендации прозрачнее.
Изображение: Chat GPT
👾 naukatv Если у вас установлено приложение,
вы можете сразу перейти в канал