TikTok объявил о запуске новой системы автоматической маркировки контента. Видео, созданные с использованием искусственного интеллекта, будут отмечаться специальной меткой. Это относится как к контенту, созданному непосредственно в TikTok с помощью инструментов ИИ, так и к материалам, загруженным из других сервисов, например, из OpenAI.
Маркировка будет осуществляться с использованием технологии Content Credentials от Коалиции за происхождение и подлинность контента (C2PA). Эта система прикрепляет к файлам специальные метаданные, которые позволяют однозначно идентифицировать контент, созданный с участием ИИ. Благодаря интеграции Content Credentials в TikTok соответствующие видео автоматически получат метку «Создано ИИ».
По словам руководителя отдела операций, доверия и безопасности TikTok, Адама Прессера, нововведение направлено на повышение прозрачности для пользователей и помощь в различении контента с ИИ от обычного. Кроме того, компания надеется, что автоматическая маркировка снимет часть давления на авторов по поводу раскрытия использования инструментов ИИ.
Компания подчеркивает, что она стала первой видеоплатформой, внедрившей Content Credentials. Ранее о поддержке этой технологии заявляли Microsoft, Adobe и OpenAI. Ожидается, что вскоре к ним присоединится и Google.
Также в TikTok пообещали активно бороться с использованием инструментов ИИ для создания фейковых и вводящих в заблуждение видео, особенно в контексте выборов. Компания напомнила, что ее политика строго запрещает подобный контент, независимо от наличия маркировки.
В целом новая система автоматической маркировки выглядит многообещающе и поможет не только повысить прозрачность, но и выявлять потенциально опасный контент, созданный с помощью нейросетей.