Facebook опубликовал свои технологии по нахождению и удалению нежелательного контента

Буквально вчера на известной платформе GitHub появились сразу две разработки Facebook PDQ и TMK+PDQF. Обе разработки нацелены на маркировку фото- и видеоматериалов с изображением насилия, пропаганды терроризма или эксплуатацией детского труда.

Как уточняется в собственном блоге Facebook, чтобы сохранить свою платформу в абсолютной безопасности и удалять публикации с нежелательным контентом эффективнее кампания использует не только технологии и не только людей, а сочетает их работу вместе. На данный момент, инструменты работают следующим образом:

-Нахождение публикации с четкими изображениями насилия или пропагандой терроризма, насилия etc.
-Мгновенное удаление публикацию, определение ей хэша, или цифрового отпечатка, благодаря которому находятся похожие материалы без сохранения копий.
-При нахождении удаление и найденных, благодаря хэшу, похожих публикации тоже.

Что примечательно, на данный момент, эти алгоритмы находят нежелательную публикацию даже без исходного материала, а соответственно, шансы на своевременный поиск и успешное удаление нежелательного контента значительно повышаются.

После публикации на платформе, алгоритмы стали доступны не только партнерам, но и независимым разработчикам и некоммерческим организациям. В случае же, если заинтересованная в софте кампания на момент публикации уже использует иные инструменты или сторонние технологии для поиска и сопоставления нежелательного контента, инструменты предоставленные Facebook помогут лишь облегчить одни процессы и усилить системы.

Информация в блоге Facebook: https://newsroom.fb.com/news/2019/08/open-source-photo-video-matching/
PDF-файл с техническими подробностями: https://github.com/facebook/ThreatExchange/blob/master/hashing/hashing.pdf

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *