科幻电影《银翼杀手》描绘了一个真假难辨的未来世界:
谁是复制人?图片来自:《银翼杀手 2049》
人类制作的「复制人」有着和人类近乎一模一样面孔,除非用专业的仪器做情绪测试,或者找到其隐藏在体内的编号,否则人类根本无法从外观上辨认「复制人」。
这样的未来世界可能有些遥远,但如果只看脸的话,你可能真的无法辨认真假。
ai「假脸」已跨越恐怖谷
先来看一组图片,你有信心一眼分辨出「假人脸」吗?
以上哪张脸是假的?(答案请见文末,但是别着急,接下来还有很多脸)
这里提到的「假人脸」概念指的是由 ai 合成的人脸照片,而非真人拍摄,如果你觉得一时间很难判断真假,别担心,你并不是个例。
加州大学伯克利分校的 hany farid 教授多年来一直在从事 ai 图像合成技术的研究。
根据他近日发表在美国国家科学院院刊的一项研究显示,ai 合成的人脸已与真人没有区别,甚至看起来比真人更值得信赖。
这样的研究结果出乎了研究人员的预料。
共同参与此项研究的 sophie nightingale 博士称最开始开展研究的目的,就是为了借助真人对比找到提高 ai 人脸可信度的方法。
farid 认为目前 ai 图像合成技术发展和改进的速度非常迅速,比传统的 cg 成像还要快。
我们认为,我们已经跨越了静态面孔的恐怖谷效应
恐怖谷效应是一种心理学理论,人会对与人相似的物体产生好感,但当相似度达到了一定程度时(例如僵尸、拟人玩偶),人的反应便会变得极其负面和反感。
而当相似度进一步上升,达到与真人接近的相似度时,人的情感反应又会恢复正面,还有可能产生人类之间的移情效应。
从 farid 的实验结果来看,ai 合成的人脸很可能已经脱离了「行尸走肉」的阶段。
如此逼真的人脸是怎么合成的?
生成对抗网络(gans)是目前最主流的合成算法,名字听起来非常陌生,但其逻辑并不复杂。
简单来说 gan 里有一个「画家」和一个「鉴定师」,「画家」需要画出尽可能像人脸的图片,交给「鉴定师」评判。
「鉴定师」在评判之前要看非常多的真人照片,分析出人脸的特征,当「画家」的画能够骗过阅脸无数的「鉴定师」时,一张 ai 合成人脸照片就诞生了。
在这个过程中,「鉴定师」经过不断的学习准确度会不断提高,相应的「画家」的技艺也要随之增长,两者形成一种对抗关系,从而提高合成图像的质量,直到能够以假乱真。
farid 在实验中采用的是英伟达发布的 nivdia stylegan2 模型,为了研究其合成照片的可信度,研究人员组织了三场实验。
第一场实验,研究人员邀请 315 名参与者分别分辨 128 组(共 800 组)由真人和 ai 合成组成的照片组,结果参与者的平均正确率低于五成,只有 48.2%。
接着开展第二次实验时,研究人员邀请 219 位接受过培训的新参与者参加同样的实验,并在参与者每次分别后都给予正确与否的反馈。
在研究人员的帮助下,第二次实验正确率有所提升,但也只是稍稍超过五成,达到 59.0%。ai 合照的拟真程度并没有让 farid 和 nightingale 感到意外,但实验三的结果,却是他们始料未及的。
第三次实验是由 223 名新参与者为同一批照片的可信赖程度从 1-7 分进行打分,结果显示,ai 合成照片的可信度竟然比真人脸还要高 7.7%,这个微小的差距在统计学上有着重要的意义。
研究人员认为,已具备一定可信度的 ai 合成照片未来很有可能会被不法分子利用,在社交网络实施诈骗或引起混乱,这个问题需要得到社会的重视,并且图片合成技术的发展需要一些条约约束。
那么问题来了,既然 ai 合成人脸具有一定的社会风险,为什么人们还要投入精力研究呢?
ai 人脸很好,但是把「双刃剑」
2019 年 e3 电子游戏展上,基努李维斯在《赛博朋克 2077》预告片中的惊喜亮相瞬间引爆了所有场内外观众的情绪,随即其本人上场宣布将担任游戏中重要角色「强尼银手」的脸模,勾起了无数玩家的期待。
因为在虚拟世界中,一张逼真的人脸能给玩家带来强烈的沉浸感,随着游戏机能的提升,用真人作为脸模代替数字捏脸,成为了越来越多游戏厂商塑造角色的手段。
但使用真人脸模,往往意味着高昂的肖像授权费以及动作捕捉成本,这对一些小型工作室来说并不现实。
这时候一张免和记娱乐游戏的版权的 ai 合成人脸便能派上用场——由一个世界上并不存在的人来扮演虚拟角色,听起来合情合理。
例如免费 ai 合成照片项目 generated photo 就与动画软件公司 reallusion 合作,用 ai 合成的人像用作动画、游戏或者广告的 3d 形象上,开发者可以自由地选择人物的种族、年龄、性别,并且不会有和记娱乐游戏的版权问题。
可以试想一下,假如模拟人生或者 gta 等游戏的 npc 人脸都由逼真的人像制作,游戏的沉浸感和临场感将得到大幅提升。
除了游戏,一些客服类软件也需要大量的真人头像与客户沟通,如果将真人头像换用 ai 人像,既可以避免人像和记娱乐游戏的版权纠纷,又能保护个人隐私不被泄露。
不过,虽然 ai 合成照片有着合理的存在意义,但与此同时,也会对网络照片的真实性造成一定冲击,毕竟谁也不想在交友 app 被一个根本不存在的人迷得神魂颠倒。
farid 认为想要解决这个问题,唯一的办法就是为每张真实拍摄的照片加入一个「真实性」认证,这样人们在浏览和使用照片时,才能辨别其真实性。
这听起来就像是《银翼杀手》的逆向版本,电影里人们在复制人的眼球中刻入编号识别,现实中则相反地在真实照片标记,以对抗「假货」。
事实上,目前 adobe、微软等公司已经在推广相关的技术。
在 2021 年 2 月,adobe、微软、英特尔、arm 和 truepic 等公司与机构联合成立了一个名为「内容来源和真实性联盟(c2pa)」的项目,以打击虚假信息,建立一个可验证图片真实性和溯源的技术标准。
而验证的方法也很直接——将照片的拍摄、后期修改等信息用区块链技术原封不动的保留下来,无论照片怎么修改,都能直接查看。
经过认证的真实照片会在右上角多一个「i」的小角标,当你点击它时,你就可以看到由相机生成的拍摄日期、地点、镜头等详细信息,而如果有人用 photoshop 等软件修改过该照片,你还可以回退到照片的原图,得到完整图像。
c2pa 的认证手段能够在一定程度确保严肃新闻等领域的照片真实性,但由于成立时间较短,目前只在部分媒体或社交平台上使用,想要为互联网所有内容提供真实性保障还为时过早。
也就是说,在未来的一段时间里,ai 合成照片都有可能会是个社会安全隐患,目前类似 nivdia stylegan2 等图像合成模型都可以在 github 等平台上公开下载得到,这么做真的安全吗?farid 认为这需要技术人员平衡利益与风险后慎重考虑。
那么问题来了,文章出现那么多张脸,到底哪些是真人呢?
答案是:除特别标注外,全是假的
责任编辑:kj005