(图片来源网络,侵删)
生成式AI技术正在改变更多行业,当国内大模型产品在B端深入垂直行业时候,更靠近C端用户的小程序妙鸭相机,一经推出迅速走红。近日,一款在线生成专业质感大片的AI相机“妙鸭”掌握了引爆社交圈的流量密码,只需9.9元,上传21张照片,用户可以生成一套可媲美天真蓝、海马体的AI写真,并可将图片上传微信朋友圈、微博等社交平台。上线不足半月,秒鸭相机团队发布公告,近期网络上出现多个假冒“妙鸭相机”的产品、仿造“妙鸭相机”官方渠道的账号、软件和小程序,给消费者造成严重的信息安全隐患。同时,用户发现,随着使用人数增多,用户生成照片时间需等待数小时,妙鸭相机的火爆可见一斑。火速蹿红之后,妙鸭相机遭遇“隐私”争议,争议背后,是网民对于个人隐私安全的担忧:用户上传的照片如何处理?应用方是否会将用户照片挪作他用?若上传的照片被用于AI模型训练,那用户的一些面部特征是否会出现在其他地方的生成图片?而这些不仅仅是妙鸭相机,也是更多需要上传照片的相机应用所面临的问题。收费9.9元,数千人排队近半年来,以ChatGPT为代表的大模型产品甚嚣尘上,国内企业也掀起“百模大战”,在此背景下,妙鸭相机于6月开始内测,打出的口号是“让每个人拥有一个属于自己的AI摄影师”。打开妙鸭相机小程序,首先需要上传一张正面照片,随后补充至少20张照片,在该步骤,系统会提示照片是否达标,已上传照片的质量超过多少百分比的用户,用户可以选择补充更多照片,让“数字分身”效果更棒。上传照片后,用户需关注妙鸭相机公众号,完成付费流程,标准价是29.9元,限时特惠9.9元,一旦购买成功,不支持退款。从用户的分享来看,上传照片后,用户可以得到不同风格的写真,如商务写真、时尚海报、证件照、旅游大片等,生成的照片均带有水印,想要下载高清照片或照片原图需支付额外费用。而当澎湃新闻记者试用该程序后,发现生成照片预计需要3小时25分钟,前面有1308人。随着使用用户的增多,等待时间较长被付费用户诟病,用户对需上传21张照片、模板效果不是很好也略有不满。有网友指出在晚上高峰期间,曾碰到4000至5000人排队,等待时间需十几个小时,另有网友表示:“美颜美到不像本人,但又依稀有本人的影子。”在记者的朋友圈,一位关注互联网行业的研究员分享了自己的三点体会:“一是妙鸭相机后台算力算法应该一般,用时长、精度差;二是模板少,尤其对于男性而言,参与度低,但这应该是一个未来很好的应用场景;三是经过这一波走红,妙鸭积累了数据与收入,未来可以继续讲故事融资。”针对网友的声音,妙鸭相机曾在7月17日表示,写真的效果还远没达到团队的理想状态,会继续优化“提香”的能力;妙鸭相机并不是摄影师的敌人,将很快开启对摄影师邀请制的内测合作,通过妙鸭,摄影师可以将自己的风格和审美制作成模板,从而让更多人享受到他们的创意。妙鸭相机的背后公司是谁?天眼查APP显示,妙鸭相机的主体公司是成立于2006年的未序网络科技(上海)有限公司,该公司是一家从事软件和信息技术服务为主的企业,注册资本为5520万美元,其法定代表人张龙名下有多家公司,张龙也是优酷视频(西安)传媒科技有限公司的法定代表人、执行董事兼总经理;而未序网络科技(上海)有限公司的监事冯云乐也同时担任了多家阿里系公司的监事。未序网络科技(上海)有限公司与阿里有何关系?一位阿里文娱方面人士告诉澎湃新闻记者:“是(阿里)大文娱参投的创业团队。”据澎湃新闻记者了解,该创业项目组从今年1月开始做妙鸭相机,7月份完成妙鸭的1.0版本,随着妙鸭相机的走红,团队在开心的同时希望保持“低调”。是否保障用户隐私和数据安全引发争议妙鸭相机的走红,让用户再次讨论起AI软件所带来的风险问题。有安全研究员曾告诉澎湃新闻记者,类似于AI换脸软件从用户处获得的信息主要是肖像图片,从技术角度而言,它并不比其他上传照片的App有更多风险,但若该类软件向用户索取了更多的肖像使用授权,这意味着用户会暴露更多的风险。对于妙鸭相机, 国内知名白帽子公司KEEN公司联合创始人、独立安全研究员宋宇昊告诉澎湃新闻记者,看一项应用是否正规,可以从两个方面来看,一是用户上传的照片是否会被存储、存储多久、照片和用户信息在传输和存储过程中,是否存在泄露风险;二是上传的照片是否会被用于AI模型训练。“第一种情况,一旦由于外部攻击或内部不法人员导致泄露,那么用户的照片与相关的用户信息可能流入黑产,被用于针对性的诈骗,或者其他犯罪行为。第二种情况,如果用户的照片在用户不知情的情况下,被用于模型训练,那么用户的一些面部特征可能会出现在其他地方的生成图片中,这可能是用户不希望发生的。”宋宇昊说。澎湃新闻记者查看妙鸭相机的隐私政策发现,对于储存期限,隐私政策并没有直接给出明确的时间期限,而是“我们只会在达成本政策所述目的所需的期限内保留您的个人信息,除非法律有强制的留存要求”。妙鸭相机指出,在中华人民共和国境内产生或收集的个人信息,存储在中国境内的服务器。除非取得用户的单独同意,或为了履行与用户订立的合同,或为了遵循法律法规规定的义务,应用方不会向境外提供用户的任何个人信息。值得关注的是,此前有网友在社交平台指出,在妙鸭相机最初版本的用户协议中,用户需授权妙鸭相机在全世界(包括元宇宙等虚拟空间)范围内享有永久的、不可撤销的、可转让的、可转授权的、免费的和非独家的许可,使得妙鸭相机可以任何形式、任何媒体或技术(无论现在已知或以后开发)使用用户的内容。这一“霸王条款”引发网友不满。对此,妙鸭相机团队7月20日发布回应:“已经收到用户关于妙鸭用户协议的反馈,原协议内容有误,我们第一时间根据妙鸭的实际情况进行了修改,在这里郑重地向大家承诺,您所上传的照片只会用于数字分身制作,不会提取也不会用于识别和其他用途,且分身制作完成后自动删除。”即便如此,一位不愿具名的安全人士向澎湃新闻记者表示,其在使用妙鸭小程序时,在第一步就已决定不使用该程序。“我在使用中发现,首先要上传的图片要求是五官清晰的正面,这几乎是证件照的要求水平,社交媒体上,我们都没有上传过如此高清无码的照片;其次,未来,AI技术会越来越强大,你不知道以后一张照片会被利用到什么程度,也不知道对方或好或坏的目的;最后,我对新生的公司做的这种应用,持非常谨慎的态度,不会上传自己的高清照片,更何况该小程序此前就有‘霸道协议’。”据澎湃新闻记者了解,对于互联网应用在用户隐私保护、用户信息保存方面已有诸多规定。比如,《中华人民共和国网络安全法》规定,网络产品、服务具有收集用户信息功能的,其提供者应当向用户明示并取得同意;涉及用户个人信息的,还应当遵守本法和有关法律、行政法规关于个人信息保护的规定;《中华人民共和国个人信息保护法 (草案)》明确个人信息处理者的合规管理和保障个人信息安全等义务,要求其按照规定制定内部管理制度和操作规程,采取相应的安全技术措施,并指定负责人对其个人信息处理活动进行监督;《中华人民共和国消费者权益保护法》规定, 经营者及其工作人员对收集的消费者个人信息必须严格保密,不得泄露、出售或者非法向他人提供。经营者应当采取技术措施和其他必要措施,确保信息安全,防止消费者个人信息泄露、丢失。此外,《生成式人工智能服务管理暂行办法》将于2023年8月15日起施行,该《办法》既是促进生成式人工智能健康发展的重要要求,也是防范生成式人工智能服务风险的现实需要,其中明确生成式人工智能服务提供者应当依法开展预训练、优化训练等训练数据处理活动,使用具有合法来源的数据和基础模型;涉及知识产权的,不得侵害他人依法享有的知识产权;涉及个人信息的,应当取得个人同意或者符合法律、行政法规规定的其他情形。不过,有法律人士向澎湃新闻记者指出:“以上规定只是作为参考,相关法规的适用需要根据具体情况进行判断。”
0 评论