Meta* сделала подробный разбор алгоритмов Instagram* и Facebook*

Компания Meta представила подробный анализ алгоритмов, которые лежат в основе их социальных сетей, с целью объяснить процесс формирования рекомендаций контента для пользователей Instagram* и Facebook*. В рамках этой инициативы Ник Клегг, президент компании по глобальным вопросам, подчеркнул, что публикация информации о искусственных интеллектах, используемых в алгоритмах, является важной частью широкого этического принципа открытости, прозрачности и ответственности, которому следует компания. Он также обсудил, как пользователи Facebook* и Instagram* могут более эффективно контролировать контент, который они видят на этих платформах.

Учитывая быстрое развитие мощных технологий, таких как генеративный ИИ, понятно, что люди воспринимают их с восторгом и беспокойством. Мы считаем, что лучший способ ответить на эти опасения — это открытость.

написал Клегг в блоге.

Опубликованная информация описывает основные принципы функционирования алгоритмов социальных сетей Facebook* и Instagram*, представленных в виде 22 «системных карт». Эти карты охватывают различные функции, такие как Лента новостей, Истории, Ролики и другие способы поиска и потребления контента на платформах. Каждая карта содержит подробную информацию о том, как искусственный интеллект, работающий в этих функциях, классифицирует и рекомендует контент.

Например, рассмотрим функцию «Исследовать» в Instagram*, которая показывает пользователям фотографии и видеоролики от аккаунтов, на которые они не подписаны. В алгоритме этой функции присутствует трехэтапный процесс, который объясняет, как автоматизированный движок рекомендаций искусственного интеллекта работает.

• Первый этап — сбор контента: система собирает общедоступный контент на Instagram*, такой как фотографии и видео, соответствующий правилам компании.
• Второй этап — использование сигналов: затем искусственный интеллект учитывает, как пользователи взаимодействуют с аналогичным контентом или интересами, известными как «входные сигналы».
• Третий этап — ранжирование контента: наконец, искусственный интеллект ранжирует контент из предыдущего этапа и выдвигает наиболее интересный для пользователя контент на передний план в разделе «Исследовать».

Системные карты позволяют пользователям Instagram* оказывать влияние на этот процесс, например, сохраняя контент (что является непосредственным указанием системе показывать похожий контент) или отмечая его как «не интересует», чтобы система фильтровала подобный контент в будущем. Пользователи также могут выбрать опцию «Не персонализировано» в разделе «Исследовать», чтобы увидеть видео и фотографии, которые не были специально отобраны для них алгоритмом. Более подробная информация о предиктивных моделях искусственного интеллекта, входных сигналах, используемых для их управления, а также о том, как часто они применяются для ранжирования контента, доступна в Центре Прозрачности.

Помимо системных карт, упоминаются и другие функции на Instagram* и Facebook*, которые могут помочь пользователям понять, почему они видят определенный контент и как настроить свои рекомендации. В ближайшие недели компания Meta* планирует расширить функцию «Почему я это вижу?» для разделов Reels в Facebook* и Instagram*, а также для раздела «Исследовать» в Instagram*. Это позволит пользователям нажимать на отдельные ролики и узнавать, как их предыдущая активность могла повлиять на показ этого контента. Instagram* также тестирует новую функцию в разделе Reels, которая позволит пользователям помечать рекомендуемый контент как «Интересует», чтобы видеть больше похожего контента в будущем. Возможность помечать контент как «Не интересует» уже доступна с 2021 года.

Meta* также объявила о запуске своей Библиотеки контента и API, нового набора инструментов для исследователей, который предоставит доступ к множеству публичных данных из Instagram* и Facebook*. Исследователи смогут искать, изучать и фильтровать эти данные и подавать заявки на доступ через утвержденных партнеров, начиная с Межуниверситетского консорциума по политическим и социальным исследованиям Университета Мичигана (ICPSR). Meta* утверждает, что эти инструменты предоставят самый полный доступ к публично доступному контенту на Facebook* и Instagram* из всех исследовательских инструментов, созданных компанией, и помогут выполнять ее обязательства по обмену данными и открытости.

Обязательства Meta* в отношении открытости, вероятно, играют важную роль в объяснении того, как компания использует искусственный интеллект для формирования контента. Развитие и популярность искусственного интеллекта привлекли внимание регуляторов по всему миру, которые выразили опасения относительно сбора, управления и использования личных данных пользователей этими системами. Алгоритмы Meta* не новы, но способ, которым компания использовала данные пользователей во время скандала с Cambridge Analytica, а также ее реакция на усилия TikTok по открытости, стимулируют Meta* к большей коммуникации с пользователями.

В заключение, важность прозрачности и открытости в работе с искусственным интеллектом и алгоритмами социальных сетей становится все более явной. Meta* делает шаги в этом направлении, предоставляя пользователям и исследователям больше информации о работе ее систем. Это не только способствует лучшему пониманию процесса формирования контента, но и способствует ответственному использованию пользовательских данных.

* Внесена в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности».