深度伪造近七千张淫秽图片在北京警方侦破的一起案件中，警方接到报案，有人在境外的网站上发广告，只需一张日常生活照片，就可以完成一键“去衣”的效果一名被警方抓获的犯罪嫌疑人白某某原本是一家互联网公司的技术员，他因为使用AI去衣技术，制作、贩卖淫秽物品而涉嫌犯罪北京市海淀区人民检察院检察官助理 郭树正：白某某用的这款人工智能软件，能很快对被害人的图片“一键去衣”，基本上几秒钟、几分钟就能批量生成相应的图片他在QQ上向351个人贩卖过相关图片，图片数量将近7000张那么，这些经过去衣的照片的受害者都是什么人？白某某为什么要制作这些照片呢？他又是如何进行牟利的呢？2023年6月，家住北京的白某某在境外的社交媒体上接触到了这项“一键去衣”的技术，于是他动起了歪心思，打算利用这项技术来赚钱白某某发布的广告帖，上面写着“电脑AI去衣，白菜价”“身边人、网红、明星皆可”他的广告发布后，有不少人联系白某某，给他发送照片并购买这项“去衣”服务那么，“AI去衣”究竟是怎样的一种技术呢？据白某某供述，这项技术并不是真的“去衣”，而是一种伪造、重绘的技术郭树正：其实我们可以把它理解为深度的图片伪造，它并不是真的去掉别人照片上的衣服，其实都是针对已有的模型和已有的模组进行图片重绘而且，这项技术操作起来十分简单，去衣只需要一键就能完成，因此白某某定价不高，一张照片只需要1.5元，却可以利用低价吸引更多的订单检察机关认为，被告人白某某以牟利为目的，制作、贩卖淫秽物品，情节严重，其行为触犯了《中华人民共和国刑法》的相关规定，应当以制作、贩卖淫秽物品牟利罪追究其刑事责任公诉人：人工智能技术兴起之后，已经成为当今科技领域备受瞩目的技术之一，正在深刻改变我们社会、经济以及生活方式，为社会带来更多的便利同时我们也打击治理运用AI技术实施犯罪，任何利用新技术实施犯罪的行为必将受到严惩“换脸”伪造不雅照实施敲诈勒索一键去衣、AI换脸技术，还会被不法分子利用，成为敲诈勒索的工具近期，这类案件又有抬头趋势前不久，深圳警方打掉一个团伙，这个团伙从网上等各种渠道收集被害人图片信息，然后进行合成处理，用来敲诈勒索前不久，深圳市民吴先生突然收到一个陌生手机号码发来的彩信，点开一看竟然是他和一名陌生女子在酒店房间内的不雅照片当事人 吴先生：当时我收到一条彩信，里面是我的一张裸照，他当时威胁我，在几点之前要跟他联系给他转钱，我当时一想不对劲，就报警了深圳警方接到报案后，立即对吴先生提供的线索进行侦查通过梳理报案记录，警方发现全市有同样遭遇的不止吴先生一人，犯罪嫌疑人的敲诈勒索方式都如出一辙于是警方立即对相似的案件进行串并处理调查后，一个通过换脸技术合成不雅照，实施敲诈勒索的犯罪团伙逐渐浮出水面随着侦查工作的深入，警方发现这是一个以王某为首的犯罪团伙，团伙内分工明确，有人负责修图，有人负责寻找作案目标，有人负责发短信打电话联系收款深圳坪山警方兵分多路，展开统一收网行动，在多地警方协助下成功抓获以王某为首的十多名犯罪嫌疑人在犯罪嫌疑人的电脑里，警方发现了大量经过合成换脸后的不雅照片目前，王某等人已被检察机关提起公诉案件正在进一步审理当中以合成照威胁受害人并准确说出个人信息在山东威海，也有当事人遭遇到骗局，在收到伪造的不雅照后，没有多加核实，就向敲诈团伙转账20万元前不久，威海警方接到了反诈中心的一条资金预警信息，有市民正在向涉诈账户进行转账，民警立即与当事人取得联系，核实情况威海市公安局经济技术开发区分局皇冠派出所民警 刘羿：我们看到他的手机收到了一条短信，短信上的内容大概就是一张图片，上面有一男一女的裸照，还附了留言，说“我有你全部的影像资料，赶紧跟我联系”，并附上了一个电话王先生说自己当时看到这张照片，当时就有点蒙没有来得及多想，他拨打了信息上面的电话由于对方准确地说出了自己的姓名以及工作单位，并且告诉王先生只要向他们转账68万元就可以买断这些视频，如果王先生不给钱就把视频公开在对方的恐吓下，王先生信以为真然而，先后转账的20万元，根本满足不了对方的胃口正当王先生惊慌失措时，民警联系到了王先生刘羿：当我们跟王先生一同看这张照片的时候，我们发现虽然脸部有相似的地方，但是他的脸型以及身形完全不是他本人之后，民警赶紧通过国家反诈大数据平台对王先生转账的两个银行账户进行紧急止付操作经过研判分析，警方锁定了犯罪嫌疑人郑某和钟某的身份信息今年1月22日，威海警方赶赴浙江乌镇将两名犯罪嫌疑人抓获归案，为王先生挽回了损失警方提示：遇到此类情况要及时留存证据，拨打110报警转自：央视新闻来源： 红网
（图片来源网络，侵删）
0 评论