“AI换脸”不能罔顾企业社会责任

由于缺乏社会责任意识和消费者权益保护观念，部分如“ZAO”一样快速兴起的科技企业，给消费者个人信息安全带来隐患的同时却企图推卸平台责任。这对企业的生存和发展可能是致命性的错误。科技企业家们只有未雨绸缪地制定符合公众利益的技术开发守则、信息安全规范、消费者权益保障措施和法律风险控制方案，才能确保“科技向善”、实现开发者及其利益相关方的“共赢”。

随着移动互联网和智能手机的普及，新型经济形态在我国快速发展，新的网络应用（APP）雨后春笋般涌现。但是，由于部分APP经营者、开发者的社会责任意识和法律意识欠缺，新产品或服务推向市场后往往会出现一些漠视用户权益、对社会造成负面影响的行为，进而引起社会舆论的口诛笔伐。

近日，一款叫做ZAO的“AI换脸”应用突然火了起来。用户向该软件上传自己的正脸照，并选中软件中的图片或视频素材，就可以把图片或视频中人像的脸（例如某位明星偶像）换成自己的脸，过一把“演戏当明星”的瘾；或生成各种有趣的表情包。这款应用了人工智能技术（AI人脸识别）的软件一经推出大受用户欢迎，用它制作的视频迅速在朋友圈热传、并蔓延至整个互联网。据统计，8月31日上午，该APP在苹果商店下载量攀升至娱乐类第二位。

但是，软件大热之后马上引发社会舆论反弹。其最令人诟病之处在于其用户协议中包含的可能伤害用户的“霸王条款”。根据用户协议，ZAO平台无需对用户上传的内容负责；用户要使用软件就必须免费、无限制地授权给ZAO及其关联方，并任由ZAO及其关联方修改和编辑……

此外，用户担心人脸图像被恶意传播、生物特征被收集或被不怀好意的人经过AI软件处理后用来作恶：包括用来刷脸支付、制作色情小视频、欺骗亲友钱财……8月31日下午，ZAO修改了用户协议，删掉或修改了部分不合规的条款；9月3日，工信部网络安全管理局对ZAO所属的北京陌陌科技有限公司相关负责人进行了问询约谈，要求其开展自查整改，依法依规收集使用用户个人信息，规范协议条款，强化网络数据和用户个人信息安全保护。

这是一起典型的在产品或服务研发中缺乏企业社会责任意识的案例。为了企业将来可能的各种潜在商业需求，诱导用户无限授权个人信息并企图推卸平台治理责任，这是对企业社会责任的无知和对用户权益的漠视。

首先，ZAO无法推卸平台治理责任。

ZAO原用户协议中关于用户内容所有权、知识产权等责任的规定如下:“您的必要授权:除非另有约定，您使用‘ZAO’上传及/或发布的用户内容的所有权、知识产权及其他法律权利，归您、您的许可方、或者您的关联方所有，责任亦由您承担。”如果所有的责任都由用户承担，那么ZAO作为平台提供者的责任在哪里？网络平台有责任对用户上传的内容进行鉴别，去伪存真，避免侵权行为、欺诈行为，保护用户的个人隐私不受侵犯。

2017年生效的《网络安全法》第9条规定：网络运营者开展经营和服务活动，必须遵守法律、行政法规，尊重社会公德，遵守商业道德，诚实信用，履行网络安全保护义务，接受政府和社会的监督，承担社会责任。”今年8月份，国务院办公厅发布的《关于促进平台经济规范健康发展的指导意见》明确要求科学合理界定平台责任，要“明确平台在经营者信息核验、产品和服务质量、平台（含APP）索权、消费者权益保护、网络安全、数据安全、劳动者权益保护等方面的相应责任”。 ZAO试图撇清平台治理责任的条款显然是违法的。

畅销书《平台革命：改变世界的商业模式》的作者之一马歇尔W.范·埃尔斯泰恩（Marshall Van Alstyne）在去年接受媒体采访时表示：“平台促成的交易或服务如果演变成恶性事件，不论是服务提供方还是被服务方遭受损失或伤害，平台型公司都应该承担责任。平台型公司应该利用数据和技术、更好地制定规则，以保证危害不再发生。”ZAO作为一家AI影像技术公司，应该对可能存在的技术风险、社会风险、法律风险进行全面评估，提出更加切实可行的用户信息安全防控措施，制定尊重用户隐私，保护用户权益的平台治理规则。

其次，ZAO违背国际主流社会责任标准和指南。

国际上有许多保护个人隐私的标准，包括ISO 27001、CSA STAR、ePrivacy Seal等。在ISO26000《社会责任指南》、GRI《可持续发展报告标准》和港交所ESG报告指引中也有关于合规、道德、人权和安全相关议题，旨在鼓励企业尊重消费者个人权益、保护消费者隐私。ZAO的服务协议与这些标准都是背道而驰的，ZAO利用了中国用户普遍比较淡泊的肖像权和个人隐私保护意识，诱导用户无偿提供人脸信息。

按照ZAO的用户协议，用户的照片等个人信息有可能被转卖（转授权）到更多互联网平台、机构或个人，亦有可能被用户未知的第三方修改、使用，诸如被刷脸、被制作成色情视频、被模仿成用户诈骗等现象便有可能变成现实。用户是ZAO的最大利益相关方，如果发生用户信息被滥用，用户利益和公众利益受损害的事件，进而受到政府管制，对企业的生存发展可能是致命性的。快播被禁、滴滴顺风车下架便是很明显的例子。

再次，ZAO的商业模式与国际互联网公司社会责任发展趋势不符。

作为一项刚刚兴起的技术，人脸识别产业这几年在中国的发展顺风顺水。据统计，中国人脸识别产业市场规模正以年均30%复合增长率扩大，到2018年达已达到了131亿元。但是在隐私保护越来越受关注的今天，这项技术在欧美国家的境遇就大为不同，且已开始面临严厉监管。今年年初，微软CEO就警告要防止人脸识别助长市场的恶性竞争。微软近期删除了全球最大公开人脸识别数据库——MS Celeb；而Facebook、Google、Amazon等科技巨头也面临来自立法者和其他利益相关方对其隐私保护实践的特别关注。欧盟在2018年出台的GDPR（《通用数据保护条例》）规定，公司在收集用户包括面部等生物特征数据之前，必须经得个人同意，否则被罚金额可以达其全球收入的4%。因此，作为创新型产品和服务，ZAO应该探索开发更符合国际社会责任发展趋势的商业模式和产品。

希望ZAO“AI换脸”事件能让更多的互联网创新企业意识到，科技创新绝不能忽视社会责任。希望企业家们在策划和推出互联网新产品和服务的时候，能够邀请企业社会责任专家、安全专家、法律专家以及不同利益相关方共同参与，制定符合公众利益的技术开发守则、信息安全规范、消费者权益保障措施和法律风险控制方案，真正确保“科技向善”。