在美国前总统特朗普“预告”可能于2023年3月21日被捕后，近日，几张特朗普在纽约街头遭警察围捕的图片在美国社交网络上疯传。虽然外媒很快辟谣称，这些照片只是由人工智能（AI）生成的图像，并非真实照片。但由于图片太过以假乱真，不但骗到了不少美国网民，也开始被一些有心之人利用。
除了特朗普，俄罗斯总统普京、美国总统拜登等人也同样“中招”。有人担心，AI技术的颠覆性发展和大规模应用很可能导致社交媒体被虚假信息“淹没”。当大量AI生成的图片和视频扭曲了人们对现实的认知时，会发生什么？
特朗普被捕，有图有真相？
据特朗普此前预告，他将于3月21日被捕，呼吁支持者举行大规模抗议。
但21日过去了，不仅特朗普没被捕，原定于22日举行的特朗普“封口费”案件的大陪审团闭门听证也遭取消。未来，特朗普是否将受到刑事指控，“悬疑”仍将持续。
就在案件推进的过程中，近日，多张特朗普被追捕的戏剧性图片却在社交网络上疯传。
在其中一张图片中，特朗普在前面跑得气喘吁吁，执法人员在后面紧追不舍。
图片截图自推特，为AI合成图像
另一张图片中，特朗普被多名纽约市警察围捕，被抓住双手摁倒在地，场面十分混乱。
图片截图自推特，为AI合成图像
这些图片是怎么来的？据悉，大部分“特朗普被捕”相关图片都由开源信息调查网站Bellingcat创始人、英国独立记者艾略特·希金斯(Eliot Higgins)发布。
近日，希金斯读到特朗普或被逮捕的文章，他灵机一动，想将这一事件“可视化”。为此，希金斯在AI绘图工具Midjourney上输入相应提示词，比如“特朗普在被捕时摔倒。新闻报道画面。”随后，他将AI生成的图像发布在社交媒体推特上，并在帖子中写道：“在等待特朗普被捕时，制作了特朗普被捕的图片。”
图片截图自推特，为AI合成图像
“我只是在胡闹而已，我以为大概也就5个人会转发。”希金斯说。但两天之后，该推文浏览量已突破500万次，并且仍在不断增加。受到大量关注后，希金斯还如法炮制了一系列图片，给“特朗普被捕”事件补上了一系列后续——被捕、入狱、受审、狱中生活、越狱、跑去麦当劳大吃一顿。
以上图片均截图自推特，为AI合成图像
其中，几张特朗普“铁窗泪”的照片也得到网友大量转发。
图片截图自推特，为AI合成图像
对于个人形象被处理成“假照片”，特朗普本人似乎不以为意。相反，他还亲自下场，在“真相社交”上分享了一张自己正在祈祷的AI合成图像。
图片截图自推特，为AI合成图像
以假乱真的AI图像
对于这些图片，美国媒体很快进行了辟谣，一些互联网“原住民”和AI爱好者也很快辨明真伪。然而，人们不得不承认，随着AI技术的不断更迭，这些图像正变得越来越以假乱真。
希金斯上传的图像在经由他人重新发布后，很快骗到了大群美国网友。有人在转发时，配上“突发新闻：特朗普今晨在曼哈顿被捕”、“震惊！特朗普被逮捕并押往联邦监狱”等文字。还有人在图片下提问：“为什么特朗普被捕的事没上新闻？”
对此，美联社认为，虽然处理照片和合成图像的能力并不新鲜，但近年来，随着AI技术的不断升级，Midjourney、DALL-E等图像生成工具正变得更易使用。用户只需提供一个简单的文字提示，这些工具就能迅速生成以假乱真的图像，背景中往往还包含大量令人信服的细节。
近日在网络引发热议的图像，都是由2023年3月Midjourney发布的最新版文-图模型生成的。该版本最“出圈”的一点在于，能够高度模仿新闻机构的照片。
对此，美国《福布斯》杂志网站称，AI生成图像现在已开始出现“危险信号”。
过去，AI在生成人手方面特别困难。有时候，图像上会出现缺失的、扭曲的四肢，以及多余的手指和牙齿，让人感到诡异甚至恐怖。但那已经是过去式了，大部分情况下，更新版本的Midjourney已能够生成正常的手部。
不过，如果仔细观察“特朗普被捕”的图片，仍能发现多余的四肢、畸形的手、特朗普身上不合理的警察腰带等。写实风格的AI图像也会有一种不自然的光泽和质感，看上去就像是把滤镜和美颜开到了最高一档。
图片细节仍失真，截图自推特
然而，《福布斯》指出，在“假新闻”海啸中，这些细节很难被察觉。这些AI生成中的小错误，也能够很容易地用PS等软件掩盖。
“假照片”泛滥，会发生什么？
分析人士认为，随着越来越多AI合成的假照片和视频“淹没”社交媒体，真实和虚假间的界限将会变得更加模糊。“在大量制作虚假但可信的图像方面，AI正在向前迈出巨大一步。”人权组织Witness的执行董事山姆·格雷戈里(Sam Gregory)说。
实际上，除了特朗普被生成AI图像，其他名人和政客也未能幸免。比如，一些俄罗斯总统普京受审的虚假图像正在网上流传，还有网友将美国总统拜登的“假照片”做成了“梗图”或其他图像。美国参议员沃伦的假音频和美国前众议长佩洛西的虚假视频也在网上流传。
图片截图自推特，为AI合成图像
对此，人们不禁发出疑问：过去说“无图无真相”，但现在，有图也不一定有真相。未来，当AI生成的大量照片和视频扭曲了人们对现实的共同认知，届时将会发生什么？
“（AI图像）在危机事件期间增加了噪音，也增加了人们愤世嫉俗的程度。”美国华盛顿大学教授杰文·韦斯特(Jevin West)认为，人们将开始对整个系统和接触到的信息失去信任。
《福布斯》则认为，“假照片”的泛滥将加剧偏见。面对大量难辨真假的图像，很多人可能只会相信符合自己偏见的信息，且将真实的证据视作虚假。AI很可能成为有心人的工具，并扩大潜在受害者的范围。
对此，专家认为，提高公众意识、加强相关教育将是打击虚假AI图像的最佳方式。韦斯特就表示，制作这些图像变得如此容易，成本如此低廉，应该尽一切努力让公众了解这项技术的进步。
此外，在监管方面也需加大力度。
《华盛顿邮报》称，目前在利用AI制造和传播虚假信息的问题上，仍缺乏企业标准和政府监管。比如，虽然因“特朗普被捕”图像，希金斯的账号被Midjourney封禁，但该公司并未告知其违反了哪些规定。
专注于新兴技术研究的卡内基国际事务伦理委员会研究员阿瑟·霍兰德·米歇尔(Arthur Holland Michel)称，他担心世界还没有为即将到来的“洪水”做好准备。米歇尔指出，涉及普通人的伪造图像将更难受到监管，“从政策角度来说，我不确定我们是否准备好应对如此大规模、涉及社会各阶层的虚假信息。要终止这一局面，可能将需要迄今无法想象的技术突破。”
本网站及其公众号为公益性网络平台，所发图文仅供传播信息、介绍知识、说明问题之用；相关版权归原作者所有，转载请务必注明出处和作者。
稿件一经选用，即视为作者同意本网免费将其使用于本网或与本网有合作关系的非赢利性各类出版物、互联网与手机端媒体及专业学术文库等。
由稿件引起的著作权问题及其法律责任由作者自行承担。
了解更多动态，请扫描二维码，关注我们的微信公众号：
