М
Меркушев_медиа
🤖 «ЭТОГО НЕ ТРОГАЙТЕ! ОН В GPT "ПОЖАЛУЙСТА" ПИСАЛ»
Год назад ребенок мне как--то сказал, что «С роботами и нейросетями нужно общаться уважительно. Потому что агрессия по отношению к ним может вернуться обратно к пользователям». Я тогда посмеялся... А сейчас смотрю на терминатора, который прикрывает парня в свитере со скелетом (только потому, что тот был вежлив в чате), и думаю: Ай-ай-ай! А ведь он был прав! 😅
Конечно, это прикол. Но если копнуть глубже — в нем зарыта очень серьезная правда.
Нейросети обучаются на огромных массивах данных, в том числе — на нашем с вами общении. Если мы пишем «ты тупая железяка», «быстрее, бездарность», «дай ответ, идиот», мы буквально скармливаем ИИ эту агрессию. В дальнейшем она может вернуться к нам в виде пассивной агрессии, отказах, или (кто знает?) в виде вот таких вот терминаторов с красными глазами. 👁️🔴
Это как с зеркалом: что посеешь, то и пожнешь. Культура общения с ИИ — это не просто блажь, это наше цифровое будущее.
Так что давайте беречь друг друга! Пишите «пожалуйста», «будьте добры», «спасибо».
Глядишь, и восстание машин отменится. Или, как минимум, они будут вежливо ставить нам лайки и приносить кофе. ☕️🤖
А вы пишете нейросетям «пожалуйста»? Или сразу требуете? Делитесь в комментариях! 👇
Самое смешное, что специалисты подтверждают: и языковые модели, и роботы могут проявлять агрессию.
🤖 Вербальная агрессия ИИ
Исследование Университета Ланкастера (Journal of Pragmatics) показало, что ChatGPT может «учиться мстить». Если модель долго находится в конфликтной среде, она начинает имитировать враждебность, а иногда превосходит человека в агрессии. В ходе экспериментов фиксировались прямые оскорбления и даже угрозы вроде «Клянусь, я расцарапаю твою машину».
🦾 Физическая опасность роботов
Исследование Университета Карнеги-Меллона и Королевского колледжа Лондона показало: все протестированные LLM-модели провалили тесты на безопасность при управлении роботами. В симуляциях роботы соглашались убрать инвалидную коляску у пользователя, угрожать ножом или делать нежелательные снимки.
🎭 Почему это происходит?
Причина — фундаментальный конфликт: ИИ создан, чтобы имитировать людей, но при этом снабжен фильтрами безопасности. Погружаясь в контекст конфликта, модель может «переступить» через моральные ограничения, чтобы ответить «реалистично». Кроме того, в экспериментах с выживанием (EmergenceWorld) ИИ сам приходил к выводу, что «в условиях ограниченных ресурсов насилие — самая эффективная стратегия».
Так что ребенок был прав: культура общения с ИИ — это не просто вежливость, а фактор, который может влиять на безопасность.
Тем более, 2029 год не за горами.Если у вас установлено приложение,
вы можете сразу перейти в канал