AI合成图像泛滥且真假难辨 专家呼吁政策监管 _ 游民星空 GamerSky.com

最近网上出现了一些美国名人被警察逮捕的照片，引起了很多人的关注。然而，这些照片并不是真的，而是由人工智能 (AI) 技术生成的合成图像。

专家们提醒说，这些合成图像显示了一个新的现实：在重大事件发生时，社交媒体上可能会充斥着虚假的图片和视频，进一步混淆事实、误导公众，因此亟须部署相关技术并制订相关政策，对类似技术进行监管。

据了解，这些的照片是由荷兰的一家开源调查媒体“响铃猫”网站的创始人艾略特・希金斯用AI绘画工具 Midjourney 制作的。

希金斯说，他想要把消息可视化，于是用Midjourney这款文本到图像模型生成了一些看起来很逼真的照片，并在推特上分享。这条推文在两天内被浏览了近500万次，并获得了超过7.9万个点赞。

人工智能专家说，虽然制作和生成虚假图片的技术并不新鲜，但该领域技术的进步速度以及人们对技术的滥用值得关注。数字内容分析公司Truepic的穆尼尔・易卜拉欣说，“合成内容正在快速发展，真实和虚假内容之间的差距变得越来越难分辨”。

《财富》杂志指出，如今各种AI图像生成工具变得触手可及，它们可在用户发出简单指令后，迅速生成海量栩栩如生的图片。例如，Midjourney这款文本到图像模型现在可生成模仿新闻机构照片风格的图像，如此一来，这些AI生成的图片有望在混乱的新闻环境中“浑水摸鱼”，混淆视听。

希金斯认为，随着合成图像越来越难辨真假，对抗错误视觉信息的最佳方式是提高公众的意识并加强这方面的教育，社交媒体公司可把重点放在开发能够辨别AI生成图像的新技术上，并将这种技术融入自己的平台。