点击上方↑↑↑“OpenCV学堂”关注我
来源：公众号 新智元 授权
最新版Midjourney V5作图已经达到以假乱真的程度。
这不，马斯克新女友都安排上了——GM的首席执行官Barra。
还有，特朗普被一群警察围捕。
甚至，穿着白色羽绒服，走路趾高气扬的教皇都上线了。
教皇，你是懂时尚的
上周，教宗方济各这张穿搭照在推特上骗过了所有人，被许多网友疯狂转发，甚至有人直呼教皇太潮了。
86岁教皇头顶白色小瓜帽、一身喇叭口的白色羽绒服，金属制的十字架项链外露，外加一本正经的表情。
谷歌趋势显示，在教皇这张照片被发布到推特后不久，搜索教皇的人数出现了显著上升。
在大家都信以为真时，突然有人点出这是AI生成的，许多人瞬间傻眼了。
「怎么就是假的呢，还想问一下是哪个品牌的，是真的好看。」
网友表示。「我一开始认为教皇穿的那件羽绒服是真的，没有多想。我肯定无法在未来的科技发展中生存下来。」
其实不难看出，这个图片是由AI伪造的。
这张图片最先被发布在reddit上r/midjourney版块上，后被网友发在推特上，瞬间在网上引起轩然大波。
仔细去看这张图，就会发现有人工智能生成的明显迹象，包括几个明显模糊的细节区域：
- 看似不完整的手正试图抓住一个不太像咖啡杯的东西，旁边还有污迹
- 教皇佩戴的十字架也不是直角形状，上面还刻着一个像是用黏土雕刻而且坐着的耶稣
- 眼镜与脸部的阴影不一致
这几点都表明这是由人工智能生成的。它仅了解现实的表面，但不了解支配物理对象是如何相互作用的基本规则。
话是这么说，但是无可否认这张图片看起来太过真实。
你可能在上周的Feed上滑过它，可能没有多想，或许会在推特上发一条「天哪，教皇是个潮牌王」，然后继续自己的一天。
这张图之所以走红，是因为它代表了主题和审美的特殊结合，恰恰是因为它与我们今天已有的消费图像的方式相匹配。
看到走红的教皇后，有网友也动手操作了起来，并奉上了自己的prompt：
「Pope Francis using a big white puffer jacket in the Vatican City, noon light, screen space Global illumination, lumen reflections, space Reflections, diffraction grading, chromatic aberration, ambient occlusion, realistic photograph, --v 5」
「medium-full shot of pope francis wearing puffer jacket, walking on the street, natural afternoon light, shot on Agfa Vista 200, side-angle view, 4k --ar 16:9 --stylize 1000 --v 5」
感谢网友成全
然而，等到22日，特朗普提前剧透的大新闻并没有发生。
专注于开源情报集团Bellingcat的创始人Eliot Higgins便成全了他。
Higgins在推特上发布了一个帖子，其中有50张特朗普被捕的真实图像，这些照片都由Midjourney生成的。
Higgins后来表示，自己被Midjourney禁用。另外，「被捕」这一词也被Midjourney平台禁止使用。
Higgins说，名人更容易成为深度伪造的目标。因为很明显，一个人越有名，人工智能必须学习的图像就越多，所以非常有名的人被渲染得非常好，而不太出名的人通常有点不稳定。
上上周的时候，特朗普被捕1.0还没有那么真实，可能因为太高清了，不太像包过浆的新闻图，而且仔细看手部也能看出些端倪。
而后，特朗普还在Truth Social上分享出AI生成自己的图片。
看来特朗普并不反对人工智能创建的图片。不过这张单膝跪地祈祷的照片也很假。
首先，还是手的问题，他似乎失去了右手的无名指，拇指也奇奇怪怪，违背了基本的人体解剖学。
还有一个线索，这个单膝跪地的姿势有点为难这个76岁的男人，而且，特朗普从未在公共场合下跪过。
还有就是他的右膝盖，似乎直接在跪在了左脚后面。该不会他在偷偷练瑜伽呢吧，这惊人的灵活度和平衡感！
还有就是旁观者的神态露了馅，前总统跪下竟然无人在意！
Deep Fake换脸以及AI生成图像都让人们真假难辨，国内这样的P图事件也是不少。许多明星被P图、造谣，但是如今这种技术越来越逼真，也让受害者越来越难以为自己辩驳。
Sensity在2020年的一份报告中表明，每个月都有数百个以女性名人为主角的露骨伪造视频被上传到世界上最大的色情网站。
其中，Deep Fake换脸视频的总数约为49000，其中超过95%是色情内容。
自从几年前人工智能驱动的换脸工具进入主流以来，包括艾玛·沃特森、娜塔莉·波特曼、比莉·艾利什和泰勒·斯威夫特在内的女演员都成为了深度换脸的目标。
想必以后人们在看到媒体的新闻时，都需要先去进行多方查证才能知道事情的真相。
或许以后看图先看手。
又或许需要当事人出来打假。
总之，我们需要更多的手段来鉴别真伪。
不过有网友认为，这还只是简单模式。等技术真的进化到无法分辨时，那才是真的大麻烦，到时候估计只有亲眼见到才敢确认新闻的真实度吧。
加州大学伯克利分校的Farid说，Midjourney 逼真的图像能力产生了政治风险，因为它能产生看起来合理的图像，然后引发社会的愤怒。
「让人们相信这些东西很容易。开局一张图，剩下全靠编。之前还可以靠看手辨别真伪，现在越来越逼真，越来越难以辨认。」
他认为，人工智能公司应该好好思考，他们通过改进技术可能造成的伤害。他建议这些公司加入护栏，像DALLE-2一样设置违禁词，加入图像水印，防止匿名账户创建照片。
但是，Fraid认为，人工智能公司不太可能放慢图像制作技术研究的进程。
生成性人工智能领域是一场军备竞赛，每个人都想弄清楚如何赚钱，他们的速度很快，而考虑安全问题会让你慢下来。
