Сервис определения авторства текста временно приостановлен из-за многочисленных жалоб на ошибки

OpenAI прекратила предоставление доступа к своему классификатору текста - сервису, предназначенному для определения, создан ли контент человеком или искусственным интеллектом (ИИ). Этот бесплатный инструмент был запущен всего несколько месяцев назад, но из-за значительного числа ошибок в оценке текстов, его функционирование было приостановлено. Официальное заявление OpenAI указывает на возможную временную природу недоступности сервиса, так как они работают над его улучшением, учитывая отзывы пользователей и стремятся найти более эффективные методы определения происхождения текста с помощью ИИ.

Идея классификатора была основана на использовании большой языковой модели (LLM), обученной на текстовых парах, где один текст был написан человеком, а другой сгенерирован ИИ. Целью классификатора было определить вероятность автоматического создания текста при помощи программных средств. Но с самого начала сервис был признан ненадежным и подверженным ошибкам, особенно при обработке текстов, созданных и отредактированных людьми или в прозаической литературе, для которой не хватало достаточного объема образцов в обучающих данных.

Появление такого классификатора было вызвано растущим беспокойством в обществе по поводу возможного злоупотребления генеративными ИИ инструментами, такими как популярный чат-бот ChatGPT. Однако существующие аналоги этого инструмента также не обеспечивают абсолютной эффективности. Профессор Техасского университета A&M обвинил своих студентов в использовании ChatGPT для написания работ, что привело к понижению их оценок. Однако сервис Turnitin, предназначенный для выявления плагиата, заявляет о 98-процентной эффективности, хотя есть исследования, которые говорят о менее впечатляющих результатах.

OpenAI продолжает искать оптимальное решение для борьбы с сгенерированными ИИ текстами и дипфейками. Они работают над созданием технологии цифровых водяных знаков, чтобы помечать контент, созданный компьютерными алгоритмами, и таким образом облегчить определение его происхождения. Однако пока точные сроки перезапуска классификатора текста и его улучшенной версии не сообщаются.