OpenAI ищет эффективные методы обнаружения AI-контента

OpenAI тихо остановила разработку инструмента, который должен был различать тексты, созданные искусственным интеллектом, от текстов, написанных людьми. Это произошло из-за низкой точности работы алгоритма. Тем не менее, компания заверила, что учтет отзывы пользователей и сосредоточится на поиске более эффективных методов классификации контента.

Важной задачей для OpenAI является создание инструмента, способного выявлять аудио- и визуальные материалы, созданные искусственным интеллектом. В январе 2023 года компания выпустила платформу для анализа текстов и подчеркнула важность разработки систем, способных обнаруживать ложные утверждения, созданные искусственным интеллектом.

Однако возможности первоначального инструмента были ограничены и имели низкую точность. Его использование требовало ручного ввода текста длиной от тысячи символов, после чего система оценивала, был ли текст создан человеком или искусственным интеллектом. Он успешно определял 26% образцов как «вероятно созданные ИИ», но также в 9% случаев ошибочно относил тексты, написанные человеком, к искусственному интеллекту.

Не смотря на низкую точность, OpenAI сделала этот инструмент общедоступным. Однако 20 июля компания прекратила его работу, и сроки выхода улучшенной версии не были объявлены.

Одним из основных вызовов в области искусственного интеллекта стал риск целых дезинформационных кампаний, осуществляемых при помощи искусственного интеллекта. Исследователи из университетов Стэнфорда и Джорджтаун в партнерстве с OpenAI опубликовали статью, в которой отметили, что языковые модели сделали большой шаг вперед, и тексты, созданные искусственным интеллектом, становятся трудными для отличия от текстов, написанных людьми. Это представляет серьезную проблему, поскольку убедительные, но вводящие в заблуждение тексты могут быть созданы искусственным интеллектом и использованы злоумышленниками, включая нерадивых студентов и маргинальные политические силы. С учетом общедоступности технологий искусственного интеллекта, предотвращение таких инцидентов становится практически невозможным.

Таким образом, разработка эффективных инструментов для выявления материалов, созданных искусственным интеллектом, остается важным вызовом для OpenAI и всего сообщества искусственного интеллекта.