”等信息，实则在售卖“嫁接”了女明星脸部的淫秽视频记者分别与4位卖家进行了沟通，其一般会提供标有女明星姓名的目录截图，并以100部打包的形式售卖，价格从10元－38元不等卖家子君（化名）告诉记者，在他打包售卖的淫秽视频中，知名女性明星被恶意“嫁接”的最多此外，记者检索闲鱼发现，部分卖家还提供“定制换脸”服务，买家提供明星或私人照片，卖家可将照片中的脸“嫁接”到包括淫秽视频在内的任何视频之中，制作周期为1-2天，报价1分钟20元－50元不等卖家高尔（化名）表示，视频素材和照片需要买家提供“照片要多点，侧面等各个角度，至少需要提供二十张以上照片越多越像，没照片发视频也行”另一卖家要求，如果是“换脸”淫秽视频，3分钟起做该卖家的定制价为一分钟50元、二分钟95元、三分钟135元，也就是说，买家至少要花费135元才能定制换脸淫秽视频记者近日在闲鱼平台搜索“AI换脸”显示9个商品售出，包括“换脸软件”、“定制换脸”和“换脸教学”，有部分卖家在商品信息中注明，“本店仅负责服务配置环境和教授基础知识，不帮忙操作，请各位自觉遵守当地法律，否则后果自负”记者调查过程中注意到，闲鱼平台已将部分淫秽视频售卖链接删除此外，记者在淘宝搜索“AI换脸”，20多家店铺有相关售卖信息记者随机询问7家店铺，其中4家店铺提供定制服务，但有卖家明确表明“不做黄、不办证”该卖家还向记者默认曾有人要求他制售假证▲网上售卖AI换脸制作的淫秽视频信息━━━━━教学卖家称398元包教会，学生打七折记者在查看上述视频时注意到，部分视频有“合成联盟”的字样及其QQ号水印记者通过这一QQ号联系到昵称为“明星合成＋教学＋代做视频”的卖家，其称不仅售卖明星换脸视频和定制换脸服务，还提供教学服务“买教学送全套视频，600多部”该卖家表示，他提供AI换脸视频的制作教学服务，售价398元，包教会并附赠淫秽视频600多部“我们用的云电脑，做出来效果是Deepfake的几十倍”该卖家告诉记者，“买云电脑送FakeApp和DeepNude”卖家提供的教学内容显示，用户根据指引，完成“链接到云硬盘、提取脸部数据、训练模型、换脸输出视频”四个步骤就能实现AI换脸视频的制作“感谢你们的信任，（学员）昨天下午刚学的，不到3个小时全会，只要想学我都会尽心尽力的教你们”该卖家的微信朋友圈显示，已有多位学员学习了相关AI换脸技术记者翻阅卖家朋友圈看到，“AI智能暑假期间所有学生凭学生证一律7折，一学就会，不费劲”而卖家提供的截图显示已有学生提供学生证信息，并购买了该教学服务根据《纽约时报》报道，Deepfake指的是用人工智能软件制作的虚假视频，由FakeApp程序创建而成，FakeApp则可实现AI换脸而DeepNude可通过人工智能将照片中穿着衣服的人物实现“一键脱衣”的效果“随着科技的发展，大众一定会面临这样的问题，DeepNude生成的照片并不是本人，而是PS后效果”网络安全专家张百川在接受新京报记者采访时表示，目前网络上已存在部分人士开始研究类似的算法同时，针对网络安全，吴沈括指出，《网络安全法》确立了网络产品和服务的安全可控原则，将他人肖像用于制作淫秽视频或者利用网络技术“作恶”，是对他人合法权益的侵害▲卖家提供的网盘内容包括多个淫秽视频━━━━━争议换脸视频网络扎堆，个人难防中招其实，AI换脸技术，已经在各个领域沿用许久而运用最广泛的领域便是电影据新京报此前报道，中国科学院计算技术研究所张杰解释称，“这个技术简单可理解为，通过学习的方式让一个神经网络把李四扭曲过的人脸还原成真实的人脸”该神经网络在学习后，具备了将任意的人脸，还原成“李四”人脸的能力早在今年年初，一段通过AI技术将《射雕英雄传》中朱茵脸部替换成杨幂的视频在网络引起热议记者搜索发现，视频网站哔哩哔哩（B站）上存在大量AI换脸视频，且人气较高其中，一个将蔡徐坤脸部替换成前网络游戏主播卢本伟的视频，播放量达到253.1万不少网友在相关视频评论区留言称“毫无违和感”、“好笑哈哈哈”阿乐（化名）告诉者，出于猎奇和娱乐心态，自己喜欢在哔哩哔哩观看AI换脸视频“把外国人的脸换在古装人物身上，很新奇”但也有网友在相关评论区称“AI换脸（可能用于）敲诈勒索色情造谣，技术无罪，果然还是人本恶”律师、星娱乐法创始人李振武曾对新京报记者表示，视频制作者未经朱茵和杨幂许可，擅自使用其肖像，虽其抗辩未有营利行为，但在互联网语境里，流量变现以及粉丝倍增，都很难解释为非营利行为，因此，此举可能涉嫌侵犯肖像权有观点认为，AI换脸技术门槛正在不断降低对此，张百川称：“放在以前的话，技术难度非常大，已经有人开始研究这种算法了，如果算法公开，这种趋势将很难抵挡”张百川告诉记者，普通人可能不太容易学会AI换脸技术，但有人可能利用此项技术制成有类似功能的软件，那么普通人只要在APP上传照片即可针对个人如何防范，张百川表示：“很难，如果你有照片在互联网上，就会有（被利用）的风险”记者注意到，Deepfake和DeepNude在国外已引起热议，据《纽约时报》报道，随着越来越多的人利用FakeApp制作名人的色情视频，FakeApp正在引起恐慌《卫报》称此类软件为“对未来可怕的一瞥”，显示了对人工智能未来可能造成的伦理问题的担忧当地时间7月2日，美国弗吉尼亚州已通过一条有关色情禁令的法律修正案，成为美国首批禁止传播计算机生成的色情内容的地区之一根据修正案，未经许可传播或出售以任何方式创作的某人处于裸体或脱衣状态的视频或静止图像都是违法的，包括虚假创作的视频或静止图像在我国，根据《刑法》第三百六十三条规定，以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产联合国网络安全与网络犯罪问题高级顾问吴沈括表示，就中国法律来讲，售卖AI换脸淫秽视频，本身已经是传播淫秽物品牟利罪，同时在民事侵权领域，未经允许，将他人的肖像用于谋利的，也侵犯了肖像权针对AI换脸淫秽视频的购买者，吴沈括告诉记者，目前对于购买淫秽物品没有设置法律责任，主要集中在传播淫秽物品和传播淫秽物品牟利两种非法形式买家在购买AI换脸淫秽视频之后，加以传播或者以传播牟利，则可能构成违法甚至犯罪张百川认为，技术本身没有问题，是有人利用技术作恶，大众需在日常生活中，注重个人隐私保护“例如即时通讯软件，有人用它工作，有人用它诈骗”来源：新京报编辑：祁涵；版权归原作者，侵权联系删除
（图片来源网络，侵删）
0 评论