在哈利斯科新一代集团(CJNG)领袖内梅西奥·塞古埃拉·塞尔万特斯(“埃尔·门乔”)的死讯得到证实后,社交媒体上充斥着大量虚假信息。其中一张虚假图片显示“埃尔·门乔”的遗体躺在一个镀金棺材里,佩戴着巨大的圣犹大塔德乌斯勋章。尽管这种水印肉眼看不见,但其设计目的是让SynthID技术能够识别,即使图片被裁剪或压缩也是如此。包含这张虚假图片的帖子写道:“这是鲁文·奥塞古拉·塞尔万特斯(‘埃尔·门乔’)在哈利斯科州瓜达拉哈拉的最后安息之地,躺在镀金棺材里,佩戴着巨大的圣犹大塔德乌斯金质勋章,这反映了他一生的奢华。”仅X平台(前身为Twitter)上,这篇虚假帖子的浏览量就达到了200万,获得了1.9万个赞、6000次收藏和1000多次转发。内容创作者和传播者,如埃沃迪奥·卡马雷纳,也分享了这张图片,并错误地认为它是真实的。这张虚假图片是CJNG领袖死后席卷社交媒体的虚假信息浪潮的一部分。其他例子还包括一张同样由人工智能生成的“埃尔·门乔”中弹身亡的虚假图片,以及一张据称在瓜达拉哈拉机场暴力事件中被烧毁的飞机的虚假照片。SynthID的分析显示,文件中存在数字水印,这是谷歌用于识别由其人工智能工具生成或修改的内容。SynthID是谷歌DeepMind的一项技术,用于标记和识别人工智能生成的内容。Aristegui新闻网证实,该图片是使用人工智能创建或编辑的。
“埃尔·门乔”虚假图片由AI生成
一张由人工智能生成的CJNG领袖内梅西奥·塞古埃拉的虚假图片在社交媒体上传播。谷歌的SynthID技术证实了数字水印,证明了该内容是由AI生成的。