8月30晚间，一款名为“ZAO”的App刷屏朋友圈。
大量用户使用这款App，上传自拍照片，将自己“变成”影视片段的主角，并将这些“改头换面”过的视频片段，上传微信朋友圈等社交平台，引发“病毒式”传播。
8月30日晚间，“ZAO”官方微博称，“这个月花700万租的服务器，今晚已经消耗1/3了。
明天如果继续火爆，我们只能做严格一些的限制。
”8月31日14时，“ZAO”在苹果应用商店App Store的在免费App的下载排名中已跃居第二。
华为应用市场截图直到现在，朋友圈仍疯狂传播着“ZAO”合成的小视频，无数朋友处于自嗨状态，也沉浸在影视剧的美好片段之中。
用自己的脸替代李现、蔡徐坤、章子怡、黄晓明等艺人的脸，成为“霸道总裁”、“公主小妹”和“韩剧男女主角”，然后就走上人生巅峰了？怕没那么容易，虚拟终究是虚拟，其的作用只不过是博君一乐罢了，本质还是虚假的。
当然，若这样的AI换脸，其对现实的影响仅仅是博君一乐，那也没啥，只要玩的人分得清虚拟与现实即可。
但事情其实没有这么简单，用“ZAO”换脸确实一时爽，但爽过之后，你的脸的肖像权很可能就不属于你自己了，甚至还有可能被非法使用。
比如，犯罪分子可以替你和你家人通话了，你的脸还可能出现在色情视频之中，甚至还可以代替你进行人脸识别、实名认证，个体的信息便可能透明，生活就会处于极大风险之中。
不仅如此，你在朋友圈传播着的视频，也可能侵犯着相关明星的肖像权以及相关影视作品的版权。
可以说，这背后的隐私安全风险极大，也很有可能衍生犯罪行为，给民众带来实质性损失，加剧社会恐慌。
这些隐忧从“ZAO”的霸王条款上就能看出来。
“ZAO”的用户协议显示：在您上传及/或发布用户内容以前，您同意或者确保实际权利人同意授予zao及其关联公司以及zao用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利，包括但不限于可以对用户内容进行全部或部分的修改与编辑。
同时还规定，如果把脸换成自己或其他人的脸，意味着同意或确保肖像权利人同意授予“ZAO”及其关联公司以上权利。
什么意思呢？简单来说，上传内容之后，这个软件以及背后的公司可以使用甚至贩卖相关内容，而且，如果内容被相关影视作品的所有方告侵权，那承担责任的也只是用户。
也就是说，用户可以尽情玩“ZAO”，但用户不仅要分享内容的使用权，还得自担风险，这锅甩的真是漂亮，把“ZAO”自己摘得干干净净。
还有，“ZAO”这种公司从用户那里获取的相关内容，又很容易泄露和被盗，一旦流到社会上，民众的合法权益将受到极大挑战。
所以，看了这款软件的霸王条款后，你还敢玩吗？其实，真正问题的关键不在于霸王条款本身，这些条款即使修正了，很多风险隐患可能既然存在，这源于相关企业没有做到相关技术的“可控”实践，真正的板子还是要打在企业身上。
我们不否认，技术本身是无罪的，但对于一家企业而言，引导技术向善，符合伦理道德的要求，则是立身之本，也是社会的底线要求。
民众和社会想从技术那里获取的是解放，是幸福，而不是荆棘，是枷锁，是无休止的困扰和痛苦。
我们要看重技术的社会价值，追求“可知”、“可控”、“可用”、“可靠”，而不能被一时的趣味所裹挟，进而迷失在恶的深渊之中，难以脱身。
对于这种看得见的风险和隐患，一定要将其扼杀在摇篮之中。
因此，ZAO刷屏之后，相关政府部门也该出手了。
在整治规范的同时，全社会还需要进一步思考技术在使用层面的道德伦理问题以及法理问题，相应的制度规范也亟待出台。
我们要活在一个由人性之善为主导的世界，而绝非一个由冰冷技术主导的世界，一切都应是有规则规范的，而绝非依靠技术可随意乱为。
若不想活在被技术支配的恐惧中，不想让《黑镜》的场景在现实中上演，那请个体与社会，主动与无底线，无价值观的技术实践绝缘。
红星新闻签约作者 默城编辑 余孟祥