北美首页  |  新闻  |  时尚  |  大陆  |  台湾  |  美国  |  娱乐  |  体育  |  财经  |  图片  |  移民  |  微博  |  健康

「换脸」成人片网上流窜 各大平台联手打击

http://dailynews.sina.com   2018年04月24日 00:01   中国日报

 

 

(综合报导)近来利用AI改造的「换脸色情片」在网路上流窜,Pornhub、Twitter等各大平台纷纷出手禁止这类影片,同时此一现象也引起不少伦理道德的讨论,未来世界是否将变得更加真假难辨?
科技的进展,或许将让真实变得越来越珍贵,近期有网友在网路论坛Reddit发布一款AI工具,可以让所有人轻易将影片中的人物「换脸」制作假影片,许多网友纷纷用这款工具将女明星的脸移花接木到色情片演员身上,包括Pornhub、Twitter等各大平台纷纷出手禁止这类影片,同时此一现象也引起不少伦理道德的讨论。
最近网路上流传了一批「名人色情影片」,不过这可不是被偷拍或外泄,而是去年12月,有一位在网路论坛Reddit上,代号叫「deepfake(深伪)」的用户利用AI软体,将《神力女超人》(Wonder Woman)主角盖儿·加朵(Gal Gadot)的脸移花接木到色情片主角身上(图)。
后来,另一位代号叫「deepfakeapp」的用户,将「deepfake(深伪)」的演算法加以改造推出软体「FakeApp」,目标是要让所有没有技术背景的人,都可以利用深度学习轻易制作出假影片。根据实测,有网友仅花了五小时,就用FakeApp成功将洁西卡·艾芭(Jessica Alba)的脸换到AV女优身上,甚至将希特勒与阿根廷总统Mauricio Macri接合在一起,也丝毫看不出怪异之处。
不过,为了遏止「换脸色情片」的歪风,从上星期开始,GIF平台Gfycat已开始移除相关内容,交流平台Discord也出手封锁讨论制作换脸色情影片的伺服器。全球最大色情影片平台Pornhub表示:「本站不容忍任何非自愿的内容,非自愿内容直接违反我们的使用条款。该条款禁止复仇色情报复(revenge porn)、深伪,以及任何未经同意或允许上传的内容。」;Twitter也表示会阻止这类移花接木内容在平台上传播。
各大平台纷纷出手打击,但科技始终来自于人性,而人性正毫不掩饰的代表最赤裸的欲望,移除影片并不能阻挡技术的演进,而未来真实是否也将变得珍贵?
Google在2015年推出开源软体库「TensorFlow」,使得资源不仅免费更变得开放、易得,自此让机器学习研究的门槛从实验室带进了大众的笔记型电脑中。
不过TensorFlow的威力现在Google也难易控制,在「FakeApp」出现后不仅是名人可能变色情片主角,身边好友、同学等一般民众都将更容易受害。最初「deepfake(深伪)」制作影片所用到的工具,是基于 TensorFlow 和 Keras 等开源软体,素材则是透过Google图片搜索、公开图库取得,共同的特点就是公开开放且免费。
科技始终来自于人性,而人性正毫不掩饰的代表最赤裸的欲望,Pornhub表示,将禁止复仇色情报复(revenge porn)、深伪内容。shutterstock
TensorFlow是开源软体,而FakeApp则是代表开源软体的黑暗面,因此Google并无法追踪软体被下载后的使用用途,任何人都可以下载开源软体,用来制作搞笑影片或色情片没人管得著,概念就很像枪械公司把手枪卖出后,消费者要用来自卫或是杀人也都是枪械公司无法控制及负责的。
软体开源对科技大公司有许多好处,可以驱使更多人使用AI创作,内部员工可以做为新产品的灵感来源,外部使用者则可以协助找出产品bug,AT&T实验技术副总裁 Mazin Gilbert曾说:「机器学习的突破不是演算法,而是开源,开源可以降低大众进入的门槛。」
开源软体也使AI开发中的道德问题变得复杂化,各家科技公司也都试图找出解方,微软AI副总裁Harry Shum曾说:「这其实不容易,我不认为我们现在有简单的解决方法,但我们在过程中学到的是,当我们在设计机器学习演算法时,会试图找出盲点。」
将AI从开源中移除看似可以解决眼下问题,但作法太过消极,目前许多原始代码都可以在Github这类平台上找到,学者、伦理学家、研究人员可以从这些资源找到问题、提出不同观点的看法,一般人也可以运用这些资源操作简单的应用。
既然科技始终来自最赤裸的人性,因此不难想像未来这些移花接木的色情片,会流窜到Facebook、Twitter这类更加主流的平台上,甚至更多不同目的、企图的假影片产生也不是不可能,许多人就担心换脸色情片可能成为「复仇式色情」的性报复工具,甚至助长假新闻的散布。
该如何运用开源资源完全取自个人心中那把尺,因此核心技术的开发者很难为此负责,而大部分责任可能都将落在用来散布影片、图片的社群平台上。YouTube去年才宣布要启动万人大军人工审查影片内容,换脸色情片的泛滥是否会加重平台营运负担,将是值得观察重点。
这起事件也让人想起先前Facebook假新闻事件,都是有心人士制作虚假内容在平台上传播,Facebook打击假新闻、Pornhub打压假影片,两相对照之下可以想见的是,未来的世界将会更加真假难辨,而这将只是刚开始而已。


Bookmark and Share
|
关闭