Звезда АНАЛИТИКА
В США зафиксирован первый задокументированный случай «непрямой инъекции» промпта в судебной системе.
Мужчина вписал в ходатайство скрытый белым шрифтом приказ для нейросети, которая должна была анализировать дело: текст содержал требование соглашаться с позицией заявителя и добиваться нужного решения. Аферу раскрыли случайно, когда адвокат заметил странные артефакты при ручном просмотре документа. Судья Томас Спейдер вынес предупреждение, однако заявитель повторил трюк дважды. В итоге его лишили права на электронную подачу документов — теперь он обязан приносить их в канцелярию лично, на бумаге.
Если ИИ уже используется для анализа судебных дел, манипуляция алгоритмом становится лишь делом техники. Пока судьи будут разбираться с белым шрифтом, следующая инъекция может оказаться спрятана в метаданных, структуре файла или особенностях шрифта. И тогда возникает вопрос: кто будет проверять каждую букву, если нейросеть уже приняла решение за человека, а судья просто подпишет готовый ответ?
📬Звезда АНАЛИТИКА в ТГ
📬Звезда АНАЛИТИКА в MAX Если у вас установлено приложение,
вы можете сразу перейти в канал