admin 最近，27岁的新加坡女孩Rose（化名）发现，她的社交账号粉丝莫名暴涨。
如果不是有人联系告知，Rose可能永远不会知道，一年前她在社交账号上发布的生活照片，被人改成了裸体照片，如今正在色情网站流传。
一套人工智能算法，数十张正常的生活照，二者结合，就能凭空生成一个女性的裸体照片，甚至把她的脸移花接木到淫秽视频女优身上。类似的事情正在中国发生，多位知名女明星也中招，成为不法卖家的牟利工具。
AI“脱衣”软件的宣传图片。图自网络。
今年6月下旬，一款名为“DeepNude”的AI软件现身网络。它以人工智能算法为基础，可以识别并“删去”照片中人物的衣服，从而把正常照片转为“裸照”。据外媒测试，原始照片的清晰度越高、女性裸露的肌肤越多，转换出的“裸照”就越逼真。
左侧为真实照片，右侧为DeepNude伪造的照片。图自Motherboard。
由于伪造女性裸照极具道德争议，DeepNude火了不到一个星期便被开发者下架。6月27日，开发者在推特发布声明称，“从未想到该软件会得到病毒式传播”。他承认，尽管软件生成裸照后会打上“伪造”等遮挡水印，人们滥用软件的可能性还是很大。“这个世界还没有做好接受DeepNude的准备。”开发者说。
开发者还表示，肯定会有DeepNude的部分副本在网上流传，如果有人从其他地方下载、分享这些副本，将违反DeepNude官网的使用条款——如今，这一判断成为了现实。对于盗版者而言，“违反使用条款”的警告丝毫没有震慑力。
南都记者检索发现，DeepNude官网关闭后，各种版本的软件先是在开源社区GitHub上流传。7月10日，GitHub全面封禁了类似项目的代码库。但DeepNude依然流入中国，并在各种社区和云盘内悄然扩散，甚至有电商平台商家打出“DeepNude破解版”“无水印”的名号售卖该软件牟利。
在某电商平台，“DeepNude破解版”“无水印版”的售价在3.99元到10元不等。但根据该电商平台社区规则，用户不得发布色情低俗信息，也不得发布侵犯他人商标权、著作权、专利权的信息。按这些规则判断，DeepNude无疑属于违规交易物品。
某电商平台上兜售DeepNude的商家。图/AI前哨站。
值得注意的是，部分卖家明显在用话术规避平台监管。一位卖家在商品介绍中提示，“直接拍，拍完私聊秒发货”。另一位卖家则声称“被禁言了”，在商品介绍中留下了微信号，要求买家加其微信号完成购买。还有的卖家将头像设置为二维码，提示买家通过“扫一扫”跳转进入其他平台的链接购买。
卖家用话术躲避平台监管。图/AI前哨站。
北京京都律师事务所律师金杰指出，使用软件把他人照片转为裸照，属于违法侵权行为。“利用软件将他人照片转为裸照扩散，既严重侵害他人肖像权，也严重侵害他人的名誉权，让公众误认为是他人‘春光泄露’，或者有其他不良行为、不良癖好，严重损害了他人的人格，也降低了他人的社会评价，是法律所严格禁止的。”金杰说。
出售软件是否构成违法？金杰认为，要具体情况具体分析。如果是仅限个人使用并不扩散，不会对他人造成损害，则不构成侵权。如果是出于恶意或者专门出售给某者些个人或组织，用于非法目的，则应该认定为违法或违规。
南都记者调查发现，与DeepNude相比，另一种使用了类似算法的人工智能技术，Deepfakes，在黑灰产中更受欢迎。不同于前者只能生成裸照，Deepfakes主打“视频换脸”。此前火爆网络的“朱茵变杨幂”视频，便应用了相关技术。
自2017年开始，就有基于Deepfakes的换脸视频在美国网站流传。渐渐地，包括“神奇女侠”扮演者盖尔·加朵、在《复仇者联盟》饰演“寡姐”的斯嘉丽·约翰逊、《冰与火之歌》中的“Arya”麦茜·威廉姆斯在内，诸多高人气女演员接连惨遭“毒手”，被合成到了色情淫秽视频中。尽管有网站宣布“封杀”，但此类视频仍然在网上层出不穷。
盖尔·加朵曾被Deepfakes换脸。图自网络。
如今，这一风气也传到国内。南都记者在电商平台发现，一些商家以“动作”“敏捷换脸”“成品”等隐晦关键词叫卖Deepfakes技术制作的淫秽视频，但视频中的女主角却变成了中国知名女星，涵盖一众80后到90后影视“大小花”。
一些卖家兜售的换脸视频合集。
有卖家放出部分视频截图招揽生意。
这些视频合集的售价从18.8元到199元不等。有卖家在商品介绍中写道，视频使用了深度学习技术，“误差在0.01甚至0.005”，共有 280个“精品资源”，总大小在40G左右。该卖家同时贴出的截图显示，有买家评论“做的没破绽”。南都记者注意到，为绕过平台监管，部分卖家会在发布一段时间后删除商品，并通过头像留下购买提示。
一些卖家通过“成品”“链接”等隐晦词语提示购买，以躲避平台监管。
除了电商平台，Deepfakes也在外国的色情网站上大行其道。某知名色情网站2018年便宣布禁止发布Deepfakes制作的视频，但至今仍有用户上传涉及中国女明星的换脸视频，并在标题中公然打出“人工智能换脸”“AI合成”等关键词。这些换脸淫秽视频均有数十万浏览量，有的甚至超过百万。
一家已宣布禁止传播换脸视频的色情网站，如今仍有中国女星的换脸视频。
北京莫少平律师事务所律师莫少平说，商家在网上兜售换脸淫秽视频，肯定属于违法行为。根据情节不同，轻则违反《治安管理处罚条例》，重则触犯《刑法》，构成犯罪。
按照《治安管理处罚条例》，制作、复制、出售、出租或者传播淫书、淫画、淫秽录像或者其他淫秽物品的，处十五日以下拘留。《刑法》中则规定了“制作、复制、出版、贩卖、传播淫秽物品牟利罪”与“传播淫秽物品罪”，对构成犯罪的追究刑事责任。
而从民事层面看，未经当事人同意，以营利为目的使用公民的肖像，则有侵犯肖像权之嫌。虚假的淫秽视频，也可能构成名誉侵权。
谈到暗中广泛流传的明星换脸视频，北京京都律师事务所律师金杰说，这些视频一旦流传出去，既是对女明星的人格侮辱，也严重损害了她们的名誉。对这类视频的扩散，应当引起重视。
种种新政表明，监管层已注意到以Deepfakes为代表的恶意的人工智能应用。今年4月提交十三届全国人大常委会第十次会议审议的民法典人格权分编拟规定，任何组织或个人不得以利用信息技术手段伪造的方式侵害他人的肖像权。
5月底，国家网信办会同有关部门发布《数据安全管理办法（征求意见稿）》，其中要求，“网络运营者利用大数据、人工智能等技术自动合成新闻、博文、帖子、评论等信息，应以明显方式标明‘合成’字样；不得以谋取利益或损害他人利益为目的自动合成信息”。
不过，这些尚未正式出台的法律法规，还无法有效阻止 DeepNude、Deepfakes及伪造裸照、淫秽视频的传播。
有技术人员告诉南都记者，从实践来看，用Deepfakes制作逼真度较高的换脸视频，至少需要千余张的照片。但是，目前已经出现了一些新的技术方法，即便只有一张照片，也可以制作出换脸视频。
至于DeepNude，本身便是针对单张照片的转换软件。
这意味着，不仅是女明星，任何曾在社交媒体上公开过生活照片的女性，都可能成为恶意应用的受害者。
正如前文所说的新加坡女孩Rose，她的伪造裸照在色情网站流传，本人却毫不知情。据新加坡媒体the Star Online 报道，过去几周内，有数个像Rose一样的受害者出现。有人盗取了她们的社交媒体照片，通过DeepNude篡改后发上色情网站。并且，这些照片还在被不停地重新编辑，变得越来越多。
Rose 被篡改的照片之一。图自the Star Online。
如果不是被媒体联系到，Rose可能还蒙在鼓里。“这非常令人恶心！太不尊重人了，也太变态了。如果有人对他们的母亲，姐妹，妻子或女朋友做这样的事呢？”Rose气愤地说。
美国民间组织Revenge Porn的创始人兼首席执行官Katelyn Bowden曾作出鲜明表态，认为DeepNude 这样的技术不应该向公众开放。“现在任何人，甚至在根本没有拍过裸照的情况下，都可能发现自己成了色情报复的受害者。”她对媒体表示。
“是的，这不是你真正的私处，但别人会以为他们看到了你的裸体。一个Deepfakes的受害者曾告诉我，她觉得有上千人看到了她的裸体，她的身体好像不再是自己的了。”马里兰大学法学院教授Danielle Citron在接受外媒采访时说。
全球执法者设法应对的同时，技术人员也在寻求破解之道。今年 6月初，有企业在 DEF CON CHINA 1.0大会上展示了“打假”成果，研究人员用深度神经网络来训练识别算法，识别伪造视频的准确率超过了90%。6月底，加州大学伯克利分校和南加州大学的研究者也发布了一项进展，据称“打假”正确率达到了92%。
技术似乎总是比伦理跑得快。在法律和技术都还无法有效阻止伪造裸照和淫秽视频传播的情况下，女性不得不更加保守和谨慎地对待社交网络。
Rose告诉媒体，她打算将社交账户设为“私密”。
采写：南都记者 冯群星