Профессор Тхориков
Академическая общественность уже полгода спорит об ИИ-детекции. Насколько она надежна и как часто ошибочно обвиняет авторов в генерации текста.
Получается маленький цифровой суд. Только судья там довольно странный.
Это как спрашивать у охранника в ТЦ, кто украл куртку, а он отвечает: «Ну вот этот человек выглядит как человек, который теоретически мог бы украсть куртку».
Примерно так работают и ИИ-детекторы.
Они не отвечают на вопрос: «Кто написал текст?».
Они отвечают на другой: «Похож ли этот текст на то, что могла бы написать нейросеть?».
А это, согласитесь, вопросы разные.
✅ В независимых проверках точность зарубежных детекторов оценивается на уровне 72–74%, а не рекламных 99%. Отечественные продукты в тестированиях показывают результаты лучше, но тоже не дают стопроцентной уверенности.
Но важнее даже не сама цифра, а характер ошибки.
Самые грубые, ватные, пластмассовые тексты детектор ловит отлично. Но стоит их чуть переписать, убрать нейрослоп, перемешать с личными наблюдениями и такой вариант детекторы пропускают.
Правда, строго говоря, это уже и не сгенерированный текст, а синтетический, собранный на стыке машинной заготовки и человеческой правки. Именно такой гибрид детекция чаще всего и не распознаёт.
‼️И в этом кроется главный риск. Автор может «облитературить» галлюцинации нейронки, и превратить ошибку в аргументированную мысль.
Поэтому спор о детекции быстро упирается не в проценты, а в качество самого текста. Как при 30% сгенерированного текста диплом может быть сильной и самостоятельно продуманной работой, так и при 100% оригинальности в нём может быть написан отборный бред.
Вопрос не только в том, кто произвёл текст. Вопрос в том, что в нём написано, зачем он вообще нужен и может ли автор доказать важность собственной мысли.
Это, кажется, и есть главный вызов для образования в цифровую эпоху - проверять не происхождение текста, а самостоятельность мышления. Если у вас установлено приложение,
вы можете сразу перейти в канал