STYLE:真假难辨 AI捏脸能有多真?_Stickman Battleground

在未来世界,如果只看脸的话,你可能真的无法辨认真假。

在科幻电影《银翼杀手2049》中人类制作的“复制人”和人类的容貌近乎一致,除非用专业的仪器做情绪测试,或者找到复制人体内的编号,否则人类根本无法用肉眼分辨孰真孰假。

图片来自:《银翼杀手2049》

这样的未来世界对我们来说可能有些遥远,但如果只看脸的话,你可能真的无法辨认真假。

“AI脸”已跨越恐怖谷

先来看一组图片,你有信心一眼分辨出“假人脸”吗?

图片:以上均为AI合成脸

这里提到的“AI脸”指的是由AI合成的人脸照片,并非真人拍摄,以肉眼看,一时间很难判断真假。

加州大学伯克利分校的Hany·Farid教授多年来一直在从事AI图像合成技术的研究。根据他近日发表在美国国家科学院院刊的一项研究显示,AI合成的人脸已与真人没有区别,甚至看起来比真人更加真实。共同参与此项研究的Sophi·Nightingale博士称最开始开展研究的目的,就是为了借助真人对比找到提高AI人脸可信度的方法。Farid认为目前AI图像合成技术发展和改进的速度非常迅速,比传统的CG成像还要快。Farid称:我们认为,我们已经跨越了静态面孔的恐怖谷效应。

《华尔街日报》:FTX或免受美国法律制裁:11月14日消息,据《华尔街日报》披露,FTX的离岸地位可能会让该公司免受美国法律的制裁。曼哈顿美国检察官办公室正在调查FTX破产事件,但检察官面临的一项挑战是他们是否对位于巴哈马的FTX拥有管辖权。

律师警告说,如果所有行为都发生在海外并且与美国没有直接联系,美国执法机构可能没有强有力的管辖权要求。不过,SBF曾前往美国,包括会见美国立法者和监管机构,而且FTX US也是 FTX上周五提交破产申请中的一部分。

截至目前,美国曼哈顿检察官办公室发言人拒绝对此事置评、FTX发言人和FTX US总法律顾问Ryne Miller也没有回应置评请求。[2022/11/14 13:03:39]

恐怖谷理论是一个关于人类对机器人和非人类物体的感觉的假设,它在1970年由日本机器人专家森昌弘提出,由于机器人与人类在外表﹑动作上都相当相似,所以人类亦会对机器人产生正面的情感,直至到了一个特定程度,他们的反应便会突然变得极之反感,哪怕机器人与人类有一点点的差别,都会显得非常显眼刺目,让整个机器人显得非常僵硬恐怖,让人有面对行尸走肉的感觉。人形玩具或机器人的仿真度越高人们越有好感,但在相似度临近100%前,这种好感度会突然降低,越像人反而越反感恐惧,好感度降至谷底,这被称之为恐怖谷。可是,当机器人的外表和动作和人类的相似度继续上升的时候,人类对他们的情感反应亦会变回正面,贴近人类与人类之间的移情作用。

华尔街日报记者:美联储有推迟放缓加息步伐的风险:10月14日消息,华尔街日报首席经济记者,有新美联储通讯社之称的Nick Timiraos表示,美国9月CPI数据已将美联储在11月2日加息75个基点板上钉钉。

他在报告中写道,这份通胀报告还增加了一种风险,在下月加息75个基点之后,官员们将推迟放缓加息步伐,或者发出信号,表示他们可能在明年初将利率提高到高于政策制定者和投资者此前预期的水平。

注:市场目前预期美联储11月2日加息100个基点的几率为17%,对终端利率目前的定价为4.91%,这意味着联邦基金利率有可能在明年Q1突破4.75%-5.00%区间。(金十)[2022/10/14 14:27:28]

从Farid的实验结果来看,AI合成的人脸很可能已经脱离了“行尸走肉”的阶段。

生成模型为关键技术

如此逼真的人脸是怎么合成的?AI合成主要采用GAN生成模型技术。

GAN全称对抗生成网络,顾名思义是生成模型的一种,试图通过学习让模型尽可能生成逼真的输入分布。GANs的最终目的是预测给定标签的特征,而不是预测给定特征的标签。对生成对抗网络的一种直观理解是,想象一名造假者试图伪造红酒。一开始,作为一名小白,他非常不擅长这任务。他将自己造的假酒和真酒混在一起,并将其给品鉴师。品鉴师对每瓶酒进行真实评估,并向这个伪造者给出相应的反馈,告诉他怎么才是更真的红酒。造假者回到自己的作坊,根据品鉴师的反馈,开始制作一些新的假酒。随着时间的推移,二人一来一往的交流,造假者变得越来越擅长造假酒,品鉴师也变得越来越擅长找出假酒。最后,造假者终于造出了足以以假乱真的红酒。整个过程可以类似下图所示:

Beosin:Thoreum Finance项目被黑客攻击,被盗资金约58万美元:金色财经报道,据Beosin EagleEye 安全预警与监控平台检测显示,Thoreum Finance项目被黑客攻击,涉及金额约为58万美元。由于ThoreumFinance项目方创建的未开源合约0x79fe的transfer函数疑似存在漏洞,当transfer函数的from和to地址相同时,由于使用临时变量存储余额,导致给自己转账时,余额会成倍增加,攻击者重复操作多次,最终获利2000BNB。

Beosin安全团队通过Beosin Trace进行追踪,发现被盗资金已全部转入tornado cash。[2023/1/19 11:21:19]

同理,在“AI脸”方面可以想象GAN里有一个“画家”和一个“鉴定师”,“画家”需要画出尽可能像人脸的图片,交给“鉴定师”评判。“鉴定师”在评判之前要看非常多的真人照片,分析出人脸的特征,当“画家”的画能够过阅脸无数的“鉴定师”时,一张AI合成人脸照片就诞生了。在这个过程中,“鉴定师”经过不断的学习准确度会不断提高,相应的“画家”的技艺也要随之增长,两者形成一种对抗关系,从而提高合成图像的质量,直到能够以假乱真。

华尔街日报:CFTC要求几家比特币交易所提交综合交易数据:据华尔街日报报道,据知情人士透露,美国政府调查人员已经要求几个比特币交易所交出全面的交易数据,以帮助调查是否存在操纵扭曲了与加密货币相关的市场价格。知情人士称,芝加哥商品交易所(CME)于去年12月推出了比特币期货,该交易所从四家比特币交易所——Bitstamp,Coinbase,itBit和Kraken的价格中得到比特币期货的最终价值。CME要求四家交易所在1月份合约结算后分享大量交易数据。但有些交易所拒绝遵守,认为该请求是侵入性的。交易所最终在CME将要求缩减为几个小时的活动数据后,提供了一些数据。并非一整天的数据,也仅限于少数市场参与者。这使CME的监管机构CFTC(商品期货交易委员会)感到失望。作为回应,CFTC传唤这些交易所,要求上交数据。CFTC官员支持比特币期货,表示这是一个有风险但值得投资的项目。CFTC目前正在与美国司法部门进行协调,司法部正在调查其他加密货币是否存在潜在操纵。[2018/6/9]

图片:NVIDIAStyleGAN2

Outlier Ventures加入华尔街区块链联盟:华尔街区块链联盟(WSBA)今日宣布,风险投资公司Outlier Ventures作为企业成员加入了该区块链联盟。[2017/11/29]

Farid在实验中采用的是英伟达发布的NivdiaStyleGAN2模型。

2018年12月,美国芯片巨头英伟达开发的一款超逼真面部生成器。这个基于GAN的模型表现得非常好,以至于大多数人都无法分辨它是一张合成的“假脸”。2019年2月,英伟达宣布将开源这款漂亮的工具,并将其命名为StyleGAN。这一机器学习技术是为了生成模拟真实图像的新图像。使用StyleGAN,不同于大多数其他生成器,可以定制不同的因素来更改生成的图像的结果。StyleGAN生成的图像非常逼真,它是一步一步地生成人工的图像,从非常低的分辨率开始,一直到高分辨率。通过分别地修改网络中每个级别的输入,它可以控制在该级别中所表示的视觉特征,从粗糙的特征到精细的细节,而不会影响其它的级别。但是,StyleGAN还有一些缺陷,最明显的是生成的图像有时包含斑点似的伪影(artifacts),经过几个月的改进,这一缺陷也被完美解决了。NVIDIA的研究人员发布了StyleGAN的升级版——StyleGAN2,重点修复artifacts问题,并进一步提高了生成图像的质量。

图片:NVIDIAStyleGAN2

研究人员认为,已具备一定可信度的AI合成照片未来很有可能会被不法分子利用,在社交网络实施或引起混乱,这个问题需要得到社会的重视,并且图片合成技术的发展需要一些条约约束。

那么问题来了,既然AI合成人脸具有一定的社会风险,为什么人们还要投入精力研究呢?

AI脸或是?“双刃剑”

2019年E3电子游戏展上,基努李维斯在《赛博朋克2077》预告片中的惊喜亮相瞬间引爆了所有场内外观众的情绪,随即其本人上场宣布将担任游戏中重要角色“强尼银手”的脸模,勾起了无数玩家的期待。

图片:《赛博朋克2077》

因为在虚拟世界中,一张逼真的人脸能给玩家带来强烈的沉浸感,随着游戏机能的提升,用真人作为脸模代替数字捏脸,成为了越来越多游戏厂商塑造角色的手段。

但使用真人脸模,往往意味着高昂的肖像授权费以及动作捕捉成本,这对一些小型工作室来说并不现实。这时候一张免版权的AI合成人脸便能派上用场——由一个世界上并不存在的人来扮演虚拟角色,听起来合情合理。例如免费AI合成照片项目GeneratedPhoto就与动画软件公司Reallusion合作,用AI合成的人像用作动画、游戏或者广告的3D形象上,开发者可以自由地选择人物的种族、年龄、性别,并且不会有版权问题。可以试想一下,假如模拟人生或者GTA等游戏的NPC人脸都由逼真的人像制作,游戏的沉浸感和临场感将得到大幅提升。

除了游戏,一些客服类软件也需要大量的真人头像与客户沟通,如果将真人头像换用AI人像,既可以避免人像版权纠纷,又能保护个人隐私不被泄露。不过,虽然AI合成照片有着合理的存在意义,但与此同时,也会对网络照片的真实性造成一定冲击,毕竟谁也不想在交友app被一个根本不存在的人迷得神魂颠倒。

Farid认为想要解决这个问题,唯一的办法就是为每张真实拍摄的照片加入一个“真实性”认证,这样人们在浏览和使用照片时,才能辨别其真实性。这听起来就像是《银翼杀手》的逆向版本,电影里人们在复制人的眼球中刻入编号识别,现实中则相反地在真实照片标记,以对抗“假货”。

事实上,目前Adobe、微软等公司已经在推广相关的技术。在2021年2月,Adobe、微软、英特尔、Arm和Truepic等公司与机构联合成立了一个名为“内容来源和真实性联盟”的项目,以打击虚假信息,建立一个可验证图片真实性和溯源的技术标准。而验证的方法也很直接——将照片的拍摄、后期修改等信息用区块链技术原封不动的保留下来,无论照片怎么修改,都能直接查看。经过认证的真实照片会在右上角多一个“i”的小角标,当你点击它时,你就可以看到由相机生成的拍摄日期、地点、镜头等详细信息,而如果有人用Photoshop等软件修改过该照片,你还可以回退到照片的原图,得到完整图像。

C2PA的认证手段能够在一定程度确保严肃新闻等领域的照片真实性,但由于成立时间较短,目前只在部分媒体或社交平台上使用,想要为互联网所有内容提供真实性保障还为时过早。

也就是说,在未来的一段时间里,AI合成照片都有可能会是个社会安全隐患,目前类似NivdiaStyleGAN2等图像合成模型都可以在Github等平台上公开下载得到,这么做真的安全吗?Farid认为这需要技术人员平衡利益与风险后慎重考虑。

郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。

大币网

[0:15ms0-10:603ms