RU
EN
Google вносит изменения в требования модерации контента для Android-приложений, работающих на базе ИИ. С начала будущего года создатели таких программ должны предоставить пользователям возможность жаловаться на спорный или оскорбительный контент прямо из интерфейса. Это касается не только ИИ-чат-ботов, но и приложений для генерации аудио и видео. Цель — борьба с нежелательным контентом, включая дипфейки и ложную информацию.
Google подчеркнула, что эта политика не распространяется на все ИИ-приложения. Она затрагивает чат-боты, программы для создания аудио, видео и изображений. Приложения, которые лишь хранят контент, созданный с помощью ИИ, или используют ИИ для анализа текста, не попадают под новые правила.
Особое внимание уделяется контенту, требующему особой модерации: фальшивым изображениям или видео, созданным без разрешения изображенных на них людей, и материалам, используемым в мошеннических целях.
Компания также будет активно следить за распространением ложной информации, особенно связанной с выборами, и контролировать приложения, где ИИ используется в основном для сексуальных целей или создания вредоносного ПО.
В заявлении Google указано, что область генеративного ИИ активно развивается, и в будущем компания может пересмотреть свою политику в этой сфере. Кроме того, Google обновила правила доступа к фото и видео в Play Store, ограничивая доступ приложений к этим данным.
Фотоматериалы и видеозаписи на устройствах пользователей являются их личной и конфиденциальной информацией, требующей максимально ответственного отношения. Такие данные создают потенциальную уязвимость для пользователей в случае утечек или других форм эксплуатации. Ограничение доступа к ним не только повышает уровень безопасности пользователей, но и снижает нагрузку на разработчиков в части обработки чувствительной информации
