Сегодня многие студенты используют искусственный интеллект в своей учебе, что является проблемой во многих колледжах, средних школах и университетах. Преподаватели задаются вопросом: «Как узнать, является ли работа подлинной или сгенерирована искусственным интеллектом?».
OpenAI может вскоре помочь решить эту проблему: компания рассматривает возможность выпуска инструмента для обнаружения текста, созданного Chat GPT.
Инструмент, который может широко использоваться учителями
Недавно OpenAI разработала инструмент, который может за считанные секунды определить, был ли текст сгенерирован ChatGPT. Однако эта новинка пока находится на стадии обдумывания, будет ли она доступна общественности. Компания не решается сделать этот инструмент доступным, опасаясь, что это оттолкнет студентов и профессионалов от использования ChatGPT. Снижение числа пользователей может замедлить развитие ИИ и повлиять на доходы компании. Ведь ИИ требует частого использования для оттачивания алгоритмов и постоянного совершенствования.
Исторически сложилось так, что попытки распознавания текста, созданного ИИ, были в основном неэффективными. В прошлом году OpenAI даже отказался от предыдущего ИИ-детектора текста из-за его низкой точности. Однако на этот раз OpenAI, возможно, удалось придумать что-то надежное. Представитель OpenAI подтвердил, что компания активно изучает метод нанесения водяных знаков на текст.
Водяные знаки OpenAI направлены исключительно на обнаружение текста из ChatGPT. Метод предполагает внесение небольших корректировок в выборку слов ChatGPT, что создает невидимый водяной знак. Согласно обновлению майской записи в блоге OpenAI, эта техника «высокоточна» и «эффективна против локальных подделок».
Однако у этого водяного знака есть ограничения. Он считается «менее устойчивым к крупномасштабной фальсификации», когда пользователь использует системы перевода, переписывает текст с помощью другой модели (например, Gemini) или вставляет и удаляет специальные символы.
В результате OpenAI признает, что этот метод может быть «легко обойден людьми, имеющими опыт использования ИИ».
