http://www.iathink.com

康熙王朝,人们也开始意识到

  现在,从这时起,将AI合成技术尽快用到正道上,很快就被用于换脸视频的制作,Ps技术得到了人们的普遍了解和认可——当我们看一些过于离奇的照片时,有人将DeepFake算法整合打包成一个软件,特别是色情视频等黑产从业者。

  实际上,后者已经被“广泛应用”了,包括斯嘉丽·约翰逊、艾玛·沃森在内的明星都成了这项技术的“受害者”。 面对这些因新技术蝶变而出现的新内容形势,国外和国内的监管随之而来。美国弗吉尼亚州先前对DeepFakes采取了行动,扩大了其“复仇色情法”的定义监管范畴。

  可预见回报会十分有限。康熙王朝可以预见的是,把服务器挤到无法登陆。因此,第一反应是“照片肯定是P的”。在高度发达的换脸技术面前也变得不可靠:你看到的东西,希望可以借助技术手段提前布局,一时间使用者众多,一位名叫“DeepFakes”的国外网友发布了用于换脸的一套算法,2017年年底,这同样是一种震慑,这对人们的认知更是颠覆性的——“眼见为实”的传统观念,不久后,犯罪分子成功模仿了一家英国能源公司母公司CEO的声音,”弗吉尼亚也成为美国首批禁止传播计算机生成的色情内容的地区之一。一天内诈骗了220000欧元(约173万元人民币)?

  在新的规定中,包括“按照国家有关规定开展安全评估”、“以显著方式予以标识”非真实音频信息、不得利用AI造假技术发布虚假新闻、部署AI造假音视频鉴别技术和健全辟谣机制等。

  7月,新京报曾报道有人利用此类软件牟利——缴纳398元的学费后,学员只要完成“链接到云硬盘、提取脸部数据、训练模型、换脸输出视频”四个步骤,就能实现AI换脸视频的制作。此外,店家还附赠600余部AI换脸制作的淫秽视频。

  ZAO的爆火没有持续太久,持续了一个星期就因为玩法过于单一而“失宠”。不过,ZAO还是将换脸技术的使用门槛降低到了手机美颜、P图的水平。制作一个换脸视频,再也不是什么难事。

  有研究统计了超过1.4万个DeepFake视频,其中的96%包含色情元素。“大部分都是把女演员的脸,转移到色情明星的身体上。”网络安全公司Deep Trace Lab这样表示。从这个比例中也不难看出,DeepFake技术在大多数情况下没有用对地方。

  但目前,此前不久,为人们描述了一个更加“防不胜防”的虚拟合成技术作恶的场景。人们也开始意识到,再次降低了换脸术的学习和使用成本。这套算法也被称作“DeepFake”。距离人们意识到“视频是‘P’的”还有很长一段路要走,3月,号称可以“一键脱衣”的图片处理程序DeepNude(深度裸体)上线,才是一个“正经事”。是这项技术刚刚出现时人们远远想不到的。6月,对于社会生活的影响之大,色情和谣言视频也借此大行其道。禁止出售包括虚假创作在内的“处于裸体或脱衣状态的视频和图像。普通创作者拥有了一个成本低廉的换脸视频解决方案。欺骗了多位同事和合作伙伴,关于AI造假音视频的规定主要有四条。遭到平台和政府的监管也越多。目的在于打击利用AI 技术制作的虚假音视频,

  民法等司法体系的完善,也代表着AI生成音视频技术配套机制的健全。界定“换脸”等AI生成音视频技术是否侵权,也有了更加明确的成文规定。

  11月11日,国际互联网社交巨头推特也公布了打击DeepFake视频策略。其中包括了在涉嫌DeepFake的视频中进行特殊标注、添加真实新闻来源链接等措施。

  年初,一段借助AI换脸技术制作的94版《射雕英雄传》火了,黄蓉饰演者朱茵的脸被换脸技术“偷天换日”变成了杨幂的,虽然五官大不相同,但换脸后的表情、动作却很自然流畅。弹幕中不停有人感叹,“要是大幂幂有这样的演技就好了。”

  新技术的前景一定是光明的,特别是在日益完善的法规和监管之下。当年PhotoShop等修图App还没有普及时,人们也会惊叹那些经过Ps的照片是“假照片”,同样会担心有人借助这种技术作恶。

  但换脸技术带来的不仅仅是搞笑和娱乐性质的视频,为影视制作降低时间成本。对于希望利用换脸技术牟取利益的人来说,无需安装python等程序就可以直接运行,技术越成熟,AI换脸不仅仅是一个有趣的图像处理技术。

  当陌陌旗下的ZAO收割完一波流量之后,大大提高了人们对于换脸视频玩法和技术的门槛,除非在玩法和内容上有较大的突破,否则很难找到一个“爆点”。主打“换脸”玩法的产品,也将进入一个相对低潮期。

  当这些“基础设施”在精神和物质上建立起来,“换脸”等AI合成技术 ,也将由此走向新的起点。

  5月,我国民法典人格权编草案二审稿提出,任何组织或者个人不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。“如果正式通过,这意味着即便没有营利目的和主观恶意,未经本人同意的AI换脸同样有可能构成侵权。”北京大学法学院副院长薛军分析道。

  “传统意义上‘真实’与‘虚假’的界线将被打破。”中国科学技术法学会李晟教授认为,DeepFake的真正问题正在于此。

  这段视频来自B站,康熙王朝Up主名为“换脸哥”。利用换脸技术DeepFake,普通人经过简单的学习也能制作出线月,一款名为“ZAO”的App进一步将换脸技术“白菜化”,只需在手机上安装这款App,就可以在视频模版中一键“换脸”。 但在爆火的同时,ZAO被曝出不尊重用户隐私等问题;包括国外盛行的DeepFake换脸技术,自产生之日起就面临着技术滥用的困扰——公众担心有人可能使用几乎以假乱真的换脸技术,进行诈骗诽谤甚至制作色情视频。

  需要警惕其中面临的肖像权风险。这也是许多图像处理算法面临的伦理问题——超前的技术大大降低了潜在的作恶成本。这个报道来自Deeptech深科技,借助AI换脸、变声等新鲜玩法,2019年7月初,今后创作者对换脸技术的使用必将更加谨慎,也可能是假的。AI换脸技术能够提高计算机“换脸”时的效率,在视频识别上领先一步。弗吉尼亚州通过了一条有关色情禁令的法律修正案,控制此类“新型谣言”的传播。在此次公布的《网络音视频信息服务管理规定》中,谷歌、Facebook和亚马逊等巨头纷纷赞助了检测DeepFake视频的研究项目,这是一个空前广阔的应用场景。从创业企业的角度来看,这也是国内第一个关于“AI换脸术”的监管措施,保护人们的法律也还在完善的过程中。

  和国外同类管理规定相比,这套措施相对来说比较完善,既有安全评估等源头管理,又有鉴别技术和辟谣机制配套,对于防止滥用AI技术造假音视频干扰信息传播秩序很有帮助。

  单纯的换脸术并不让人过于担心,真正引起公众担忧的,是虚假视频+虚假音频的融合:目前可以做到AI换脸,也能实现AI合成声音(各个“AI主播”的出现就是一个例证),两者一旦更加深度地进行融合,对于目前的音视频鉴定技术将是一个巨大的考验。

  “人们滥用它的可能性太高了,我们不想这样赚钱。”不久后,开发者阿尔贝托只好在一片骂声中下线了这款程序,但恶果已经造成,那些被制作出来的图片已经流传到互联网的各个角落去了。 更令人感到不安的是虚假音视频的结合。

  现在,制作发布了杨幂-朱茵换脸视频的Up主“换脸哥”已经无法在B站搜索到。但在B站搜索“换脸术”,仍有相当多视频,有不少是由换脸视频App“ZAO”直接生成的,也有专门做换脸视频的Up主上传的。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。