据《科学美国人》月刊网站3月31日报道。如何判断照片是否由人工智能生成。
近来，你可能在网上看到了不同寻常的照片。不过在现实中，美国前总统唐纳德·特朗普还没有被捕，教皇也没有穿着时的亮白色羽绒服。
最近这些网络疯传的图片是人工智能(AI)通过处理用户文本提示而生成的杰作。它们向人们展示，人工智能已经变得又快又好，其所具有的信服力足以感车不知情的吃瓜群众。
那么，持怀疑态度的观众如何能发现图片是由DALL-E、米德朱尼(Midjourney)或是稳态扩散模型(StableDiffusion)这种人工智能图像生成器生成的呢?
每一款人工智能图像生成器一以及来自任何特定图像生成器的每一张图像一一的说服力以及透露其算法的迹象都各不相同。
例如，人工智能系统一直难以模仿人类的双手，经常画出杂乱纠缠的一堆指头。然而，随着技术进步，像"米德朱尼V5”这样的系统似乎破解了这一难题——至少从某些例子看是这样。专家们说，整体而言，人们很难(当然不是不可能)区分出最棒的人工智能生成图像与真实图像。
最近的一项测试凸显出人工智能的强大欺骗能力。英国兰开斯特大学专门研究数字技术的心理学家索菲·南丁格尔参与撰写了一项研究，测试了网络志愿者能否区分名为StyleGAN2的人工智能系统生成的类似护照像的头像以及真实图像。结果令人沮丧南丁格尔说:“平均而言，结果在很大程度上是随机的。从根本上讲，人工能合成图像已经栩栩如生到人们已经无法可靠地感知合成面孔与真人面孔之间的区别了。”
虽然研究人员对StyleGAN2生成的图片进行了梳理，只选出最真实的图片这相当于为人工智能提供了一些帮助，不过南丁格尔说，那些目的不纯、心术不正的人可能也会这样做。
在第二项测试中，研究人员试图帮助受试者提高对人工智能生成图像的检测能力。在受试者回答问题后，他们会标记出每个答案的对错，并提前让受试者阅读关于如何分辨人工生成图像的建议。这一建议强调了人工智能算法经常会犯错的领域，例如人物耳环不匹配，或是将人物的牙齿搞得一团模糊。
南丁格尔还指出，算法往往很难创造出比普通背景更复杂的东西。不过她表示，即便事先打了预防针，参与者的准确率也仅仅提高了10%左右，而测试所使用的人工智能图像生成系统则升级到了更先进的版本。
具有讽刺意味的是，随着图片生成技术不断提高，人类不被人工智能系统愚弄的最佳防御手段可能是另一个人工智能系统:一个用来检测人工智能生成图像的系统。
专家们说，随着人工智能图像生成的进步，相比人类，算法能够更准确地检测出机留创造的微小的像素级痕迹。
美国威斯康星大学麦迪逊分校的计算机科学家李永宰(音)说，创建这些人工智能侦探程序的效果与其他机器学习任务相同。
李说:“你收集一组真实图像的数据，再收集一组人工智能生成图像的数据。然后就可以训练机器学习模型来区分这两种图像。”
不过，李和其他专家说，这些系统存在严重缺陷。大多数此类算法都是根据待定人工智能生成器的图像进行训练的，无法识别不同算法生成的图片。
李表示，通过训练侦探程序认识什么是真正的图像，他和一个研究团队正在研究如何避免这一问题。大多数侦探程序还缺乏人工智能生成系统的那种用户友好界面。
此外，人工智能侦探程序会一直疲于追赶人工智能图像生成器。因为其中些人工智能图像生成器将采用类似侦探程序的算法，将其作为学习如何让自己生成的图片更加不易察觉、不露马脚的一种方式。
南加州大学计算机科学副教授瓦埃勒·阿卜杜-马吉德说:“人工智能侦探程序系统以及人工智能图像生成器系统之间的斗争将演变为一场军备竟赛我不认为任何一方能在短期内胜出。"
