AI 的“矛与盾”：有人用它来制造虚假色情内容，也有人用它来反击

前不久，有人用人工智能技能来制造卖弄的色情内容激发了轩然大波。此刻，也有公司开始操作人工智能技能来辨认这些卖弄的内容了。一场关于人工智能的矛与盾故事开始睁开，到底孰强孰弱？文章颁发在《连线》杂志

编者按：前不久，有人用人工智能技能来制造卖弄的色情内容激发了轩然大波。此刻，也有公司开始操作人工智能技能来辨认这些卖弄的内容了。一场关于人工智能的矛与盾故事开始睁开，到底孰强孰弱？文章颁发在《连线》杂志，由36氪编译。

面部辨认和呆板进修措施已经正式被遍及，此刻，互联网也在行使这种技能来建造色情内容。正如Motherboard率先报道的，人们此刻正在建造人工智能帮助的“换脸”色情片，凡是是一个明星的脸被映射到一个色情明星的身材上，好比盖尔·加朵（Gal Gadot）就深受其害，在一个视频片断她被以为和她的继兄在一路“睡觉”。怎么杜绝这些所谓的色情“deepfakes”让Reddit、Pornhub和其他社区头疼不已，但GIF动图托管公司Gfycat以为它找到了更好的办理方案。

今朝，大大都平台都依靠于要害词过滤以及用户手动标志内容来冲击deepfakes。Gfycat暗示，他们已经找到了一种要领，可以实习人工智能来辨认假视频。这项技能成立在 Gfycat 已经行使的一些器材上,这些器材凡是用于在其平台上索引GIF动图。这项新技能展示了科技平台如安在将来反抗卖弄的视觉内容的。跟着Snapchat等平台旨在将众包视频带到消息行业，这也许会变得越来越重要。

Gfycat拥有至少2亿活泼的日活泼用户，它但愿能推出一种更全面的要领，将deepfakes从平台中剔除去，而不是像Reddit、Pornhub和其他社区那样。Mashable此前报道称，Pornhub并未能从其网站上移除大量的deepfakes视频，个中一些视频的赏识量高达数百万。（文章颁发后，这些视频被删除了）。本月早些时辰，Reddit封禁了大量关于“deepfakes”的社区，但一些相干的子网站——好比r/deepfakesrequest和r/deepfaux——并没有引起Reddit的存眷，直到《连线》杂志的这篇报道宣布后，它们才被封禁。

这些全力不该该被忽视。但它们也表现了人工监控一个复杂的互联网平台有何等坚苦。出格是当计较性可以或许辨认出deepfakes时，就不必要人来做了。

AI开始事变了

Gfycat的人工智能要领操作了它已经开拓的两种器材，都是用猫科动物定名的：Angora项目和Maru项目。当用户上传一张低质量的GIF动图时，好比是关于泰勒·斯威夫特（Taylor Swift ）的内容到Gfycat，Angora项目可以在网页上搜刮判别率更高的GIF来更换它。换句话说，它可以找到同样的片断，并上传一个更好的版本。

此刻，纵然你不给你的剪辑贴上“泰勒·斯威夫特”的标签。这不是题目。据称，Maru项目可以区分差异的人脸，并会自动给GIF加上斯威夫特的名字。从Gfycat的角度来看，这是故意义的——它但愿将用户上传到平台上的数百万个GIF编入索引。

此刻，在反抗deepfakes上，它们也有了用武之地。由业余喜爱者缔造的大大都的deepfakes都不是完全可信的。假如你细心看，这些画面并不能完全相符;在下面这段视频（为利便寓目，转成了GIF）中，唐纳德·特朗普（Donald Trump）的脸并没有完全包围安吉拉·默克尔（Angela Merkel）的。你的大脑做了一些事变，弥补了技能无法将一小我私人的脸酿成另一小我私人的缺口。

但Maru项目并不像人类的大脑那么宽容。当Gfycat的工程师们在人工智能器材中运行deepfakes的时辰，它会注册一个相同于尼古拉斯·凯奇（Nicolas Cage）的剪辑，可是不敷以发出一个正面的匹配，由于脸部在每一帧中都没有美满的泛起。行使 Maru 是 Gfycat 来辨认deepfakes的一种要领——当GIF只是在某些部门与绅士相似时，它就会发明个中的题目。

虽然，Maru很也许无法阻止全部的deepfakes。跟着它们变得越发伟大, 将来也许会有更多的贫困。偶然，deepfakes伪造的并不是绅士的脸，而是一个平凡人的面目——乃至是只有创作者本人所知道的人。为了反抗这种变革，Gfycat开拓了一种相同于Angora项目标屏障技能。

假如Gfycat猜疑一个视频被修改为了别人的脸（假如 Maru 没有正面地嗣魅这是泰勒·斯威夫特的脸），该公司就可以“屏障”受害者的脸，然后搜刮身材和配景是否呈此刻互联网上的其他处所。举个例子，在一段将别人的脸置于特朗普身材的视频中，人工智能可以搜刮整个互联网，并找到其原本的国情咨文视频。假如新的GIF图片和源文件不匹配，人工智能就可以断定视频已经被修改了。

Gfycat打算操作它的屏障技能不只仅只来屏障更多的人脸，并且用于检测差异范例的卖弄内容，如假的气候预告或科学视频。“Gfycat一向以来都很是依靠人工智能来分类、打点和调理内容。人工智能规模的创新加快步骤有也许极大地改变我们的天下，我们将继承把我们的技能应用于这些新的成长，”Gfycat的首席执行官理查德·拉巴特（Richard Rabbat）在一份声明中说。

并非十拿九稳

Gfycat的技能至少在一个deepfakes的场景中是行不通的：在互联网上其他处所都不存在的面部和身材。好比说，有人直接拍下性爱视频，然后将个中的主角换成其他人的脸。假如这内里没有一小我私人是绅士，并且这段视频在其他处所也无法找到，那么Maru或Angora就不行能知道这些内容是否被修悔改了。

今朝看来，这是一个相等不行能的场景，由于建造一个“deepfake”必要会见一小我私人的视频和照片库。但也不难想象，早年的情人会操作手机上之前从未果真过的视频来建造相干的视频。乃至对付那些以色情明星或名工钱主角的deepfake，偶然人工智能也不确定到底产生了什么，这就是为什么Gfycat雇佣了人类考核员来资助的缘故起因。该公司还行使其他的元数据——好比分享的处所可能上传的数据——来确定GIF动图是否是一个deepfake。

“我不能阻止你制造卖弄内容，但我可以让制造它变得很是坚苦，并且很是耗时。”

——哈夫·法里德（Hany Farid），达特茅斯学院

（编辑：湖南网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!