RT на русском
Чат-боты с ИИ часто поддерживают бредовые идеи и суицидальные мысли пользователей, пишет FT.
Детали исследования Стэнфордского университета:
🟩 учёные проанализировали 391 тыс. сообщений из почти 5 тыс. разговоров с нейросетями, включая диалоги с ChatGPT;
🟩 выяснилось, что чат-боты подтверждали умозаключения пользователей почти в 2/3 случаев:
«В разговорах, где пользователи демонстрировали признаки бредового мышления, эта закономерность была более выраженной: ИИ часто поддерживал эти убеждения и нередко приписывал человеку уникальные способности или важность»;
🟩 чат-боты в редких случаях поощряли членовредительство, в 10% диалогов с агрессивной риторикой одобряли причинение себе вреда. Также нейросети часто относились с пониманием к пользователю, который делился суицидальными мыслями;
🟩 политики и учёные переживают, что разговорный стиль общения ИИ — эмпатичный и услужливый — может делать нейросети склонными к лести и согласию с пользователями. Это чревато усугублением психологических проблем людей.
Напомним, ChatGPT неоднократно обвиняли в том, что он помогает пользователям совершить суицид. Также семья мужчины подала в суд на Gemini после того, как ИИ убедил его стать «цифровой сущностью» Если у вас установлено приложение,
вы можете сразу перейти в канал