Facebook внедрила новые обновления с целью борьбы с дипфейками на своей платформе, особенно сосредоточенные на предотвращении мошеннической рекламы, использующей изображения знаменитостей для обмана пользователей. Эта тактика, известная как "celeb-bait", представляет собой постоянную проблему для социальной сети, где мошенники создают якобы законные объявления с публичными фигурами, чтобы перенаправить на мошеннические веб-сайты и получить клики.
Вице-президент по политике контента Facebook, Моника Бикерт, объяснила, что компания внедрит технологию распознавания лиц для анализа изображений знаменитостей в объявлениях. Эта система будет использовать искусственный интеллект для сравнения фотографий публичных фигур в объявлениях с их профилями в Facebook и Instagram, чтобы определить возможные попытки обмана.
На круглом столе с представителями СМИ Моника Бикерт детализировала, как будет работать система: "Программное обеспечение проведет лицевую оценку. Оно посмотрит на характеристики лица, а затем сравнит их с известными изображениями на аккаунтах Facebook или Instagram знаменитости". Хотя они признают, что хорошо сделанные дипфейки могут обойти эту технологию, они уверены, что распознавание лиц значительно улучшит обнаружение и устранение этих мошенничеств.
Одной из существующих проблем является то, смогут ли дипфейки, созданные с помощью искусственного интеллекта, обмануть систему распознавания лиц. Бикерт подчеркнула, что хотя есть вероятность того, что чрезвычайно реалистичные дипфейки могут обойти эту меру, они уверены, что система со временем улучшится, чтобы идентифицировать такого рода контент.
Внедрение этой технологии находится в рамках более широких усилий Facebook по защите пользователей и знаменитостей от мошенничества на платформе. Кроме мошеннических объявлений, социальная сеть также стремится бороться с созданием фальшивых аккаунтов публичных фигур, используя распознавание лиц для более быстрой идентификации и удаления этих поддельных аккаунтов, тем самым обеспечивая безопасность публичных фигур и их подписчиков.
