最新消息:
当前位置:逍遥网 > 科技 > 互联网

人工合成色情片流行后 几家互联网网站开始封禁

逍遥摘要:从2017年12月份起,互联网上开始流行一种用新的人工智能技术合成的色情片,将公众人物、明星的脸“贴”在色情片主演脸上,效果逼真。一批女明星的脸都被用作了素材,包括《神奇女侠》主演盖尔·加朵(GalGadot)、斯嘉丽·约翰逊、艾玛·沃森、麦茜·威廉姆斯等。

人工合成色情片流行后 几家互联网网站开始封禁

最初这种合成色情片就起源于在线论坛Reddit,一位ID是deepfakes的用户将盖尔·加朵的脸用作素材,合成了视频放在了帖子上。很多用户开始关注到该视频,用户deepfakes还专门建了个Reddit主题,吸引了9万用户关注。

更多类似视频的出现,推动力来自于Reddit用户deepfakeapp开发的一款名为FakeApp的电脑软件,可以更快速、便捷地制作这类合成视频。

本质上,这类合成视频在技术层面上没有特别的地方。对人脸特征进行定位,再将另外一张人脸贴合上去,如果找来的素材质量较高,合成效果很可能不错。类似的合成技术,和PS、阅后即焚Snapchat、FaceU、美图秀秀等差别其实不是太大,但合成的时间、效果可能都不会很理想。

但科技公司、科研机构近几年开发的人工智能技术,将这类合成视频的制作成本降到更低了,效果也更好了。

这次事件中,最主要的可能是Google在2015年开源的机器学习工具TensorFlow。用户deepfakes和deepfakeapp开发的FakeApp都用到了TensorFlow。素材方面,用户通过网络搜索、社交网站的照片都可以找到,确实有不少人在名人的Instagram上找素材。

用户deepfakeapp称,他开发FakeApp的目的是降低门槛,让任何没有技术背景、编程经验的人都可以使用这类合成视频的技术。有些用户用5小时左右就能做一个类似的视频出来。

例如,也有人用FakeApp这款工具恶搞了尼古拉斯·凯奇,让他成了《夺宝奇兵》主角印第安纳·琼斯、007等。像华盛顿大学也有类似的研究,通过抓取视频,就可以编造出美国前总统奥巴马在说一段他从未说过的话,效果都挺逼真。

人工合成色情片流行后 几家互联网网站开始封禁

尼古拉斯·凯奇的脸被用作了素材

人工合成色情片流行后 几家互联网网站开始封禁

左边是奥巴马的视频素材,右边是合成的

但最近1周,包括社交网站Twitter、在线论坛Reddit、gif搜索引擎Gfycat以及聊天工具Discord等开始封禁这些合成的色情片。Reddit调整了网站上的内容条款,禁止青少年非自愿型色情、有性暗示的内容出现,deepfakes主题在这周三也被封禁。

即便是色情网站也加入了封禁这类合成视频的行列。最大的色情网站Pornhub称,这种类型的色情片不是自愿,他们会禁止这部分的内容放在网站上。Pornhub有相当多的这类视频是用户上传上去的。Pornhub被看作是色情网站里引入新技术最快速的网站之一。

但彻底封禁这部分合成的色情视频可能没多少可行性。用户将这类视频制作成gif图片,托放在Gfycat、imgur等平台上,Twitter、Reddit等平台删除没法根绝这类内容的传播。事实上,即便这些互联网公司说要封禁,但还有不少内容留存。在技术上识别这类内容本身也相当难。

相关文章推荐 相关标签:合成视频用户
大家在看 换一换

精彩评论