«СУТЬ ВЕЩЕЙ» | Центр интеллектуальных практик Андрея Курпатова
🤖 Ну и новости: НЕЙРОСЕТЬ СДАЛА ПОЛЬЗОВАТЕЛЯ В ТЮРЬМУ
30-летняя жительница Флориды Карли Хеллер использовала чат-бот Claude как личный дневник — делилась с ним переживаниями и, как она позже объяснила следователям, «просто фиксировала свои мысли».
➡️ В какой-то момент в этих «записях» появились сообщения о том, что она собирается устроить стрельбу в офисе шерифа, а на следующий день — фразы о раздобытом новом пистолете и «последнем шансе»…
В ответ на это Claude забил тревогу и передал диалог на экспертизу живому человеку. Как итог: информация ушла правоохранителям, женщину арестовали и теперь ей предъявлено обвинение в письменной угрозе насилием.
Здорово, что всё разрешилось! Но хотим обсудить другое...
⚠️ Этот случай — яркая иллюстрация того, насколько сильно у современного человека искажается восприятие искусственного интеллекта.
Диалоговое окно чат-бота создает ощущение полной приватности и принятия. В отличие от живого человека, ИИ «слушает» без осуждения, мгновенно отвечает и мимикрирует под эмпатичного слушателя. В результате возникает опасный психологический перенос: человек начинает относиться к алгоритму как к закрытому личному дневнику под подушкой.
Хотя нейросеть — не ваш друг, не психотерапевт и не бумажный блокнот.
❗️Это облачный сервис со строгими протоколами безопасности, фильтрами модерации и прямой обязанностью передавать сигналы о потенциальной угрозе насилием или суициде.
При этом ВСЁ, что попадает в цифровое поле, любая напечатанная строчка, становится зафиксированным документом.
💬 А вы как считаете, друзья? Поделитесь в комментариях! ⤵️ Если у вас установлено приложение,
вы можете сразу перейти в канал