有的案件中，不法分子利用国外大型语言模型开发虚拟恋人互动软件，并利用创作者生态功能和私聊内容监管缺失等手段进行推广，吸引用户创建“AI陪玩”，与其他用户进行一对一淫秽文字聊天。
部分AI色情聊天软件用户超过50万，“AI陪玩”虚拟角色多达数万个，大量注册用户为在校大学生。
当前，人工智能已经越来越融入人们的生活。
“AI角色”不仅可以成为个人助理、教师助手，还可以参与部分医疗患者的康复咨询。
对于生活中感到孤独或存在社交障碍的人来说，人工智能陪伴可以及时提供情绪反馈和心理安慰，帮助用户缓解压力和孤独感。
但与此同时，人工智能技术应用发展的底线和界限也不能模糊。
从法律角度看，提供AI色情聊天服务无疑是传播淫秽物品的犯罪行为；从道德伦理角度看，AI色情破坏了社会秩序和道德，且可能导致用户对虚拟色情交流产生过度依赖，引发身心健康问题。
打击人工智能涉黄，监管必须铁腕，要进一步加大对人工智能产品中越界、涉黄内容的整改清理力度，防止不法分子非法接入海外大型人工智能模型，利用技术手段让人工智能不受控制地向用户输出色情内容。
企业应警惕将色情从AI中剔除。
对于AI开发运营企业来说，运营和开发必须建立在遵守法律法规的基础上。
AI领域不是法外之地，不容许任何侥幸心理和灰色地带。
试图利用色情牟利的行为必将受到法律的制裁。
治理人工智能色情，行业需齐心协力。
近年来，除了人工智能生成的文字色情，人工智能“换脸”色情、人工智能生成色情图片等手段也层出不穷。
针对人工智能商业化过程中出现的违法违规行为和滥用现象，行业需警惕“入错行”和“入错路”，加强信息技术共享，及时将解决方案嵌入技术运行的机制、流程和准则中，加强对特殊群体的保护。
人工智能技术的发展离不开法律和伦理的轨道，需要在人工智能数据保护、人工智能伦理规范、人工智能安全标准等方面做更多工作，构建适应人工智能时代的法律法规体系，确保人工智能技术真正实现向善、为人本的目标，更好地服务社会。