随着人工智能等新技术的落地应用，类似AI换脸诈骗、“一键脱衣”等乱象层出不穷
据央视新闻近日报道，北京一程序员通过研发“一键脱衣”的AI软件，仅两个月批量制作了近7000张裸图，并以每张1.5元售卖牟利
日前，该程序员已被北京海淀区检察院提起公诉
如何防止有人利用AI技术作恶？人工智能发展需要怎样的法治保障？昨日下午，在国新办举行的一场新闻发布会上，国家网信办副主任王崧专门回应了人工智能法治的热点问题
“注重发展和安全并重” 王崧表示，要着眼于新技术、新应用的发展规律和未来趋势，充分发挥法治的引领、规范和保障作用
为了遏制“换脸”“变声”等深度伪造带来的危害，相关立法建立了深度合成应用标识制度，帮助网民分辨真假、防止上当受骗
王崧强调，“在推进人工智能法治的过程中，我们注重发展和安全并重，注重专门性立法和综合性立法相结合，推动人工智能健康有序发展
” 具体而言，一方面，制定互联网领域基础性法律，对人工智能发展涉及的网络安全、数据安全、个人信息处理等基础性问题作出规定
另一方面，围绕人工智能技术应用制定专门立法
近些年，国家网信办会同有关部门，先后制定了互联网信息服务深度合成、算法推荐等专门性立法
去年7月，中国率先制定《生成式人工智能服务管理暂行办法》
这些立法施行后，国内一大批生成式人工智能服务，陆续完成备案
推进新技术、新应用法治 总结中国网络法治三十年的建设经验，王崧说，首先要坚持立足中国国情
立足中国是全球最大的发展中国家和网民数量最多的基本国情，针对网民规模巨大、应用场景丰富的实际情况，运用法治思维和法治方式，解决新技术、新应用发展治理难题
其次，要坚持统筹高质量发展和高水平安全，法治建设的目的是促进新技术、新应用的健康有序发展
例如，在人工智能相关立法中，鲜明地提出“国家坚持发展和安全并重、促进创新和依法治理相结合”的原则
同时王崧表示，要坚持继承和创新并重
推进新技术、新应用法治，不仅要注重吸取网络法治建设的历史经验，还需要推进理念、制度、方式等的全方位创新，推动传承发展
聚焦视频号出重手 限制数字人带货数字人在腾讯视频号遭遇“闭门羹”
腾讯近日拟修订平台规则，限制主播采用数字人进行直播
按照《视频号橱窗达人【发布低质量内容】实施细则》的修订文本，使用插件、AI等工具生成虚拟形象进行直播；提供、售卖、教学或展示平台不提倡传播的内容：如讲解和售卖虚拟人代播软件等做法，将被列为低质量内容，并视情节严重程度予以分级处罚
这份修订方案曾于6月3日至13日公开进行意见征求，当前处于公示阶段，预计6月21日正式生效
隐患数字人直播易出现虚假宣传等问题一位视频号知情人士告诉南都记者，目前规则修订还在汇总整理意见
根据拟修订的内容，平台的限制举措主要包括减少直播推荐、减少账号推荐、限制直播带货能力等
视频号此举是为了鼓励真实的真人主播，能跟观众进行实时的互动
直播电商业务建设正成为视频号的发力方向
公开信息显示，2023年微信视频号直播带货GMV（交易总额）同比大增3倍
腾讯在2024年第一季度财报中提到，视频号总用户使用时长同比增长超80%，通过激励更多内容创作者参与直播带货来加强带货生态
数字人和直播带货的结合原本被市场看好
据艾媒咨询今年2月发布的《2024年中国AI电商行业研究报告》，电商产业已是AIGC核心商业应用场景之一，其中，数字人成为各方布局AI电商的重点
但数字人在多个内容电商平台接连遭遇挫折，视频号成为目前为止限制力度最大的一家
2023年5月，抖音发布的一份人工智能生成内容平台规范提到，虚拟人背后的真人使用者，必须进行实名注册和认证
使用已注册的虚拟人形象进行直播时，必须由真人驱动进行实时互动，不允许完全由人工智能驱动进行互动
今年3月，快手也对外公告，针对未规范使用数字人能力的电商直播间进行专项治理
网经社电子商务研究中心网络零售部主任、高级分析师莫岱青分析说，真人主播可以实时回答观众的问题，提供个性化的购物建议
但数字人直播真实互动相对弱，可能降低用户的购物体验，也更容易出现虚假宣传、误导消费者等问题
“站在平台角度而言，这是一个正常的选择
”数字人公司硅基智能CEO司马华鹏告诉南都记者，AIGC产业目前良莠不齐，大量低端的内容充斥网络，使得平台对AI数字人的认知比较负面
但司马华鹏又对平台的做法表示遗憾，他说随着大模型技术的能力升级，数字人直播的成熟度日渐提升，希望平台能够以更开放的态度面对新技术，支持生成式AI产业的应用创新和落地
现状传统电商平台对数字人开放度更高合规风控是平台顾虑重重的另一重原因
金杜律师事务所合伙人唐丽子等人曾撰文分析，相较于真人主播而言，AI虚拟主播的直播内容不可控风险更高，直播“翻车”风险更大，这也导致了目前部分直播平台为了规避AI驱动的不稳定性，限制或完全禁止“AI驱动型”虚拟主播进行直播
与短视频平台的不鼓励或禁止态度相比，传统货架电商平台对数字人的开放度更高
京东在今年4月中旬上线刘强东数字人，5月末又在618发布会上推出京东集团CEO许冉的AI数字人
而淘宝早在2020年就宣布对虚拟主播进行重点扶持
数字人遭受的待遇为何两极分化？艾媒咨询CEO张毅向南都记者分析，视频号和抖音等，本身是强社交属性的平台，需要人与人之间的互动参与以完成内容的分发和变现
但京东和淘宝仅作为卖货的渠道，所以对于发展数字人电商没有顾虑
莫岱青同样指出，平台属性、定位、用户群体等因素决定了不同平台对待数字人的取向
京东和淘宝的用户群体更加聚焦于购物，对于商品信息的要求更高，数字人主播可以提供高效的商品介绍和服务
而司马华鹏认为，京东和淘宝在电商竞争中逐渐处于劣势，对新技术的拥抱来自于本能的驱动力
采写：南都记者 李玲 见习记者 杨柳