美国前总统唐纳德·特朗普遭到穿着防暴装备的纽约市警察的群殴。俄罗斯总统弗拉基米尔·普京在灯光昏暗的混凝土牢房的铁栅栏后身着灰色监狱服。

最近几天，这些非常详细、耸人听闻的图片已经淹没了推特和其他平台。

这些传播的图像，以及散布在社交媒体上的大量变体——是使用人工智能AI驱动的图像生成器制作的。

错误信息专家警告说，这些图片预示着一个新的现实：重大新闻事件过后，社交媒体上涌现出一波又一波的虚假照片和视频，并在社会的关键时刻进一步混淆事实和虚构。

虽然操纵照片和创建假图像的能力并不新鲜，但 Midjourney、DALL-E 和其他公司的 AI 图像生成工具更易于使用。他们可以快速生成具有详细背景的逼真图像，只需来自用户的简单文本提示即可。

最近的一些图像是由本月发布的 Midjourney 文本到图像合成模型的新版本驱动的，除其他外，该模型现在可以生成令人信服的图像，模仿新闻机构照片的风格。

在一个广为流传的 Twitter 帖子中，总部位于荷兰的调查性新闻团体 Bellingcat 的创始人Eliot Higgins使用该工具的最新版本创造出特朗普虚构被捕的大量戏剧性画面。

有一段被分享并点赞数万次的视频显示，一群穿制服的警察抓住这位共和党亿万富翁，并粗暴地将他拉倒在人行道上。

Higgins也是一组普京被捕、受审和入狱照片的制作者，他说他发布这些照片并没有恶意。他甚至在他的 Twitter 帖子中明确表示这些图像是 AI 生成的。

Higgins在一封电子邮件中写道：“特朗普被捕的照片实际上展示了 Midjourney 在渲染真实场景方面的好坏。” “当我将提示插入 Midjourney 时，这些图像开始形成一种叙事，所以我将它们串成一个故事。”

他指出这些图像远非完美：在一些图像中，奇怪的是，特朗普戴着警用腰带。而在其他人身上，脸和手明显扭曲了。

总部位于纽约、专注于视觉证据的人权组织 Witness 的媒体技术专家 Shirin Anlen 表示，像Higgins这样的用户在他们的帖子中明确声明这些图像是人工智能生成的并且仅供娱乐是不够的。

她说，很多时候，在没有关键背景的情况下，这些视觉效果很快就会被其他人转发。事实上，一篇 Instagram 帖子分享了Higgins的一些特朗普照片，就好像它们是真的一样，获得了超过 79,000 个赞。

专家说，随着合成图像越来越难以与真实事物区分开来，打击视觉错误信息的最佳方法是提高公众意识和教育。