Сегодня многие студенты используют искусственный интеллект в учёбе, и это проблема для колледжей, школ и университетов. Преподаватели задаются вопросом: «Как узнать, подлинная работа или сгенерированная?»
OpenAI рассматривает возможность выпуска инструмента для обнаружения текста, созданного Chat GPT.
Инструмент, который может широко использоваться учителями
OpenAI разработала инструмент, способный за секунды определить, был ли текст сгенерирован ChatGPT. Однако новинка пока на стадии решения: делать ли её публичной. Компания опасается, что открытый детектор оттолкнёт студентов и профессионалов от использования ChatGPT — а снижение числа пользователей замедляет развитие моделей и влияет на доходы.
Исторически попытки распознавать текст ИИ были в основном неэффективными. Годом ранее OpenAI отказалась от собственного детектора из-за низкой точности. На этот раз ставка сделана на другой подход — водяные знаки.
Как работает водяной знак
Водяные знаки OpenAI нацелены только на текст из ChatGPT. Метод предполагает небольшие корректировки в выборе слов модели: в последовательность ответов вносится закономерность, незаметная человеку. По обновлению в блоге OpenAI, техника «высокоточная» и «эффективна против локальных подделок».
Ограничения тоже честно названы: знак «менее устойчив к крупномасштабной фальсификации». Достаточно перевести текст, переписать его другой моделью или вставить лишние символы — и метка теряется.
В итоге OpenAI признаёт: метод может быть «легко обойдён людьми, имеющими опыт использования ИИ».
Почему детекторы текста ошибаются
Проблема не в реализации, а в самом подходе. Текст — не картинка: у него нет пикселей, в которых можно спрятать метку. Любая статистическая оценка «похоже на ИИ» даёт вероятностный ответ. Отсюда две ошибки сразу:
- Ложное обвинение. Живой текст с ровными конструкциями и академическим стилем легко принять за машинный.
- Пропуск. Слегка переписанный ИИ-текст проходит проверку как человеческий.
Именно поэтому ни один публичный детектор нельзя использовать как доказательство. Преподаватели, которые на них опираются, рискуют наказать студента за работу, написанную самостоятельно.
Что это значит для учёбы и работы
Разумный подход — не «ловить», а менять формат заданий: защита работы устно, разбор хода решения, промежуточные черновики. Проверить понимание проще, чем определить авторство текста.
Студентам полезно другое правило: использовать ИИ как репетитора, а не как автора. На gpt-chatbot.ru модели доступны бесплатно, без регистрации и VPN — их удобно применять для разбора темы и проверки своих решений. Подробнее — нейросеть для учёбы.
Частые вопросы
Можно ли точно определить, что текст написал ИИ?
Надёжно — нет. Все существующие методы дают вероятность, а не факт. Водяные знаки снимаются переводом или лёгким переписыванием.
Вышел ли детектор OpenAI публично?
Нет. Компания разработала метод, но не выпустила его как открытый инструмент — в том числе из-за риска ложных срабатываний.
Почему OpenAI отказалась от первого детектора?
Из-за низкой точности: он слишком часто ошибался, а ошибочные обвинения вредят репутации и пользователям, и компании.
Как честно использовать ИИ в учёбе?
Как тренажёр: просить объяснить тему, разобрать ошибку, задать проверочные вопросы. Итоговый текст при этом пишете вы — тогда и защитить работу будет легко.
