45位女星换脸视频卖49元 AI换脸产业链隐患令人担忧

1评论 2019-09-03 13:41:39 来源:中新经纬 300270还有几个板?

律师指出,制作、售卖AI换脸不雅视频已构成传播淫秽物品牟利罪,同时涉嫌侵犯他人肖像权和名誉权。赵占领进一步指出,除了将AI换脸技术用于制作淫秽视频,提供定制视频换脸服务若被不法利用可能造成更大的社会危害。

  近日,一款名为“ZAO”的换脸软件突然走红引发争议,“ZAO”热背后,AI换脸灰色产业链也开始浮出水面。中新经纬调查发现,目前在网络平台上,售卖明星换脸的淫秽视频、提供视频定制换脸服务、教授换脸技术等已经成为一门生意。

  律师指出,制作、售卖AI换脸不雅视频已构成传播淫秽物品牟利罪,同时涉嫌侵犯他人肖像权和名誉权。此外,律师还提醒,被换脸的视频有可能被用于诈骗或敲诈,造成更大的危害,应引起全社会重视。

  40多位女星被换脸,上百部视频卖49元

  卖家雨嫣(化名)对中新经纬说,他手里有45位女明星的上百部AI换脸视频资源可以出售。随后,雨嫣向中新经纬发来了上述视频的目录截图。“网盘发货,在线观看,打包价49元。担心不像可以免费试看,当红一线(明星)的内容更好点,三四线(明星)的内容一般。”

  另一位卖家也称,可以打包出售40多位女明星上百部AI换脸视频,价格为75元,可以免费试看,网盘发货。

  上述两位卖家均提出不要在二手交易平台上沟通内容,而是要求在QQ上聊。其中一位卖家对中新经纬说:“平台对这种信息监控比较严格,商品信息随时可能被删,我们也是抱着侥幸的心理,能卖一单是一单。”

  中新经纬注意到,9月2日晚间,上述两款商品的信息已被平台删除,但搜索“换脸”仍可看到其他众多相似的商品信息。

  换脸视频可定制,10元制作一分钟

  此外,在其他一些电商平台上,还有卖家表示,可以提供视频定制换脸产品。只需要买家提供一些被换脸人的照片,卖家便可以将照片中的人脸“转”到特定视频中特定人物上去。

  “提供被换脸人的五到十张照片和视频素材,收费是10元一分钟,五分钟起做,一到两个小时出货,如果视频比较长,还可以便宜。”该卖家表示,“你可以自己提供视频,也可以用我的,但视频要越清晰越好,不要侧脸、盖脸。”

  该卖家强调,视频是他亲自做,他手里有很多固定客户。“做视频的时候电脑什么也干不了,还损耗显卡,所以我这个价格算很公道。”该卖家说,“找我的有的是做‘小黄片’的,但更多的是做一些商品的宣传短片,大家各有各的用途。”

  此外,在一些与“AI换脸”相关的QQ群内,还有一些卖家称可以传授AI换脸技术,“包教包会,价格公道”,并且还可以赠送全套明星换脸视频资源。据了解,“学习”AI换脸技术的学费约在500元上下,最快四五个小时就能学会。

  有用户对此表达了担忧。网友“熙熙”表示:“会不会有人利用我发在社交平台上的自拍照去制作换脸视频呢?那样的话就太可怕了。”还有评论称,这个简单的应用可能会被居心叵测的用户利用,从而制作各种色情、暴力的虚假视频。

  律师:AI换脸被滥用的风险不容忽视

  ZAO APP的突然走红引发了这波对于AI换脸技术的关注与讨论,但实际上,这项技术并不是最近才出现的。今年年初,一段通过AI技术将《射雕英雄传》中演员朱茵脸部替换成杨幂的视频在网络引起热议。目前,在一些视频网站上,仍有大量AI换脸视频。

  AI换脸背后是Deepfake技术,Deepfake指的是用人工智能软件制作的虚假视频,由FakeApp程序创建而成,FakeApp则可实现AI换脸。

  在ZAO由于可能引发版权、隐私安全等问题引起用户广泛关注后,北京市安理律师事务所高级合伙人王新锐曾表示,ZAO这类利用深度学习技术换脸的软件,最大的问题还是大规模收集生物识别信息和“真假难辨”的Deepfake给社会带来的安全风险,而这种风险目前被公众广泛低估,但实际上已经在不断带来严重的后果。

  北京志霖律师事务所律师赵占领在接受中新经纬采访时表示,制造、销售AI换脸淫秽视频无疑已构成传播淫秽物品牟利罪,同时也涉嫌侵犯他人肖像权和名誉权。而对于购买AI换脸淫秽视频的买家来说,若对其加以传播或者以传播牟利,则也可能构成违法甚至犯罪。

  赵占领进一步指出,除了将AI换脸技术用于制作淫秽视频,提供定制视频换脸服务若被不法利用可能造成更大的社会危害。“对于普通人来说,别人拿你的照片去给视频做了换脸,这有可能是出于调侃目的,但也有可能会利用这种视频向被换脸者的亲属进行诈骗、敲诈。赵占领说,“我担心的是,这一技术被滥用,或者是被那些不法之徒及有恶意的人使用,便等于打开了潘多拉的魔盒。”

  赵占领认为,对于这种新型的违法犯罪行为,需要及时完善现有法律规则和技术手段,同时也应该通过更多的手段让民众知晓这种行为带来的危害性。

关键词阅读:AI换脸

责任编辑:张振江
快来分享:
评论 已有 0 条评论
精彩推荐
曹德旺:宁可把美国的厂子关掉也不接受工会制度

2019-09-16 07:47:18来源:金融界网站

全员卖房!有人降价促成交、有人因此丢工作 还有人开始讨薪了

2019-09-16 07:37:42来源:大猫财经

马云刚退休马化腾就要狙击支付宝 微信版"花呗"要来?

2019-09-15 18:36:28来源:中国基金报

两处石油设施遭袭 沙特日产量减少50%

2019-09-15 22:59:28来源:每日经济新闻

统计局:8月份国民经济保持总体平稳 稳中有进发展态势

2019-09-16 10:04:25来源:金融界网站

香港各界支持特区政府积极解决土地房屋等民生问题

2019-09-15 19:28:00来源:央视网

人民日报锐评:伦交所的拒信 香港该怎么读?

2019-09-15 09:27:52来源:人民日报

炒鞋币!一双鞋被炒到36600元 都希望别人是“韭菜”

2019-09-15 22:59:15来源:每日经济新闻

降价2个亿!河北银行股权再次拍卖 银行股权为何屡遭"嫌弃"?

2019-09-16 11:17:52来源:券商中国

叶檀财经:干脆利落!5亿神秘资金躁动 大戏开始了!

2019-09-11 09:11:30来源:金融界网站

餐饮究竟赚的什么钱?0.3%利润率 138亿美元身家

2019-09-16 11:18:32来源:券商中国

年内第二次全面降准今日落地 谁将受益?降准之后还有啥?

2019-09-16 07:54:49来源:中新经纬

特朗普授权释放战略石油储备以应对沙特石油设施遭袭

2019-09-16 11:46:44来源:新华网

新BAT大戏:拿腾讯的钱 找阿里变现 被头条搅局

2019-09-16 13:50:52来源:中国企业家杂志

有炒房资金开始赶往股市!打头江浙游资 8月初已进场!卖房炒股又来?

2019-09-15 11:14:12来源:券商中国

朱海斌:2020年后房地产将进入下行周期

2019-08-13 11:34:23来源:金融界网站

开发商“骨折价”卖房 每平米最高降近万元

2019-09-11 14:06:59来源:每日经济新闻

外卖不好吃了?泡面“起死回生” 去年平均每人吃了29包

2019-09-14 07:38:52来源:每日经济新闻

超级黑天鹅!沙特石油"心脏"遭轰炸:产能骤减50% 油价暴涨多少?

2019-09-15 12:08:02来源:中国基金报

底价成交增多 土地市场进入快速退烧阶段

2019-09-11 02:25:57来源:证券时报

加载更多

更多>> 以下为您的最近访问股
全网|财经|股票|理财 24小时点击排行