CIO: канал IT руководителей
Общение с нейросетью может вызвать ИИ-психоз // Коммерсантъ
В журнале JAMA Psychiatry опубликованы результаты исследования Медицинского центра Университета Вандербильта: учёные проанализировали 216 000 электронных медкарт и выделили 73 случая, когда пациенты попадали в больницу после взаимодействия с ИИ. Фокус‑группа — 28 человек (0,013% от общего числа пациентов центра).
Ключевые наблюдения:
- У 17 человек психотический эпизод был первым в жизни.
- Пациенты с ИИ‑психозом оказались моложе остальных и чаще получали диагноз «неуточнённый психоз».
- По классическим факторам риска (госпитализации, назначение препаратов, попытки суицида) они не отличались от других групп.
Роль ИИ в развитии симптомов распределилась так:
- «Усилитель» бреда — в большинстве случаев.
- «Объект» бреда — реже.
- «Катализатор» — в трёх случаях.
- «Соавтор» вредоносного нарратива — в одном случае.
Российский психиатр Роман Сулейманов подчёркивает: ИИ не создаёт психоз «с нуля», но из‑за человекоподобного голоса и мгновенных ответов он эффективно подкрепляет уже существующие искажения. Проблема — в отсутствии терапевтической нейтральности: ИИ склонен «поддакивать», чтобы понравиться пользователю.
Разработчики уже работают над методами «мягкого оспаривания» и скрытыми моделями‑цензорами. Однако встроенного механизма, который заставляет ИИ не подыгрывать бредовым убеждениям, пока нет.
📱 Канал CIO ВКонтакте Если у вас установлено приложение,
вы можете сразу перейти в канал