人工智能与数据保护第三期：阿联酋《负责任的元宇宙自治责任框架》要点与思考
文|王彩玉 公安部第三研究所网络安全法律工程师
张滢文 公安部第三研究所网络安全法律研究中心实习生
全文共计6000字，阅读约需25分钟
第三期10月9日，阿联酋人工智能、数字经济和远程工作应用办公室发布《负责任的元宇宙自治责任框架》，旨在通过采取积极主动的治理方法，在支持虚拟经济发展、促进创新的同时，为蓬勃发展的元宇宙生态中的用户和企业提供安全保护。迪拜经济部总干事指出，框架有助于构建全面、安全并值得信赖的元宇宙集成系统，在推动阿联酋向新数字经济转型方面发挥重要作用。
阿联酋的元宇宙野心和布局
元宇宙英文为Metaverse，Meta意为“超越”，verse源于universe，即“宇宙”，直译为“超越宇宙”。元宇宙是一个以人工智能技术为主要基石、在汇聚各种技术基础上构建的庞大、互联的虚拟空间网络（包括2D和3D），以实时方式强化、促进并协调与现实世界的互动。有研究指出，从“赋能性”上升到“赋智性”是元宇宙Web 3.0区别于Web 2.0的主要特征——“通过脑机接口、区块链等技术创建的虚拟空间是人们在元宇宙的生活空间，用户在现实空间与虚拟空间中穿梭，信息在现实空间与虚拟空间中流动，用户与信息的互动促进了虚实相生相融。用户在元宇宙虚拟空间的生活不仅是被技术赋予更多能量，更重要的是赋予智力智慧的生成与展示”。
近年来，阿联酋积极致力于经济多元化发展，大力推广元宇宙、区块链等数字经济。据报道，2021年数字经济贡献约272.5亿美元，占阿联酋GDP的4.3%。阿联酋的迪拜成为元宇宙、区块链等企业的聚集地之一，已有1000多家行业企业开展运营。2022年5月，迪拜虚拟资产监管局宣布在元宇宙平台“沙盒”成立总部，探索在元宇宙中的安全监管方案；2022年7月，迪拜推出《元宇宙战略》，目标是在五年内成为世界前列的“元宇宙国度”，将与元宇宙、区块链相关的公司数量增加五倍，同期创造40000个与元宇宙相关的工作岗位，主要分布在增强现实、虚拟现实等元宇宙战略支柱领域。
当前，元宇宙应用逐步从游戏行业扩展至制造业、医疗、旅游业、零售和创意经济、教育、金融服务等多领域，阿联酋经济部等政府机构也开始在元宇宙中通过公务人员虚拟化身、还原现实场景等，让公众获得更具有体验感的数字政务服务。充分发挥元宇宙潜力需在现实世界中建立控制措施，保护元宇宙用户和利益相关者。然而，元宇宙“技术无国界”特性带来复杂的法律和监管挑战。作为与现实世界平行的数字空间，针对元宇宙及相关技术的规范全球范围内尚未沉淀形成具有通约性与共识性的伦理体系与统一、明确的监管框架和规定。考虑到元宇宙的“革命”性质，政府需要时间来跟上这一领域的技术创新——这意味政府着对元宇宙的治理存在不足，引发各方担忧。
2020年12月，阿联酋、加拿大、丹麦、意大利、日本、新加坡和英国在经合组织和世界经济论坛小组会议上签署“敏捷国家”（Agile Nations）协议，旨在促进政府和产业合作，共同创建一个全球性的监管环境，释放各国新兴技术潜力。为解决元宇宙治理面临的紧迫挑战，2022年4月，阿联酋总理办公室主持建立敏捷国家元宇宙监管工作组，制定关于元宇宙负责任使用和运营的共同最低自治原则和标准，《负责任的元宇宙自治责任框架》即为工作组的重要成果。
《负责任的元宇宙自治责任框架》要点
（一）元宇宙治理要关注的重点事项
（1）在线伤害和犯罪预防。元宇宙可能导致的损害包括个人精神和物质损害、社会偏见、知识产权侵权以及国家安全威胁。这些损害不仅体现在线空间，还会影响现实世界。然而，目前的法律并未考虑到在线伤害，此外，元宇宙在现实空间的损害可能是跨境的，目前法律还可能存在难以执行的问题；
（2）数据保护和隐私。元宇宙在数据隐私方面缺乏监管。元宇宙的隐私和数据安全需要考虑多个利益相关者、平台、设备之间的海量数据共享以及用户的多重角色身份保护；
（3）主权和网络安全。大多数国家都有保护网络安全和国家主权的法律，但是跨司法管辖区监督和实施很困难。元宇宙的跨界性需要各国在网络安全和国家主权保护方面开展更多国际合作；
（4）数字健康和成瘾。针对元宇宙空间的数据健康存在以下挑战：没有足够的医疗设施来诊断或治疗在线健康、没有足够的保险保护在线健康、在线内容审查困难；
（5）知识产权保护。在元宇宙中，需要考虑用户的虚拟内容知识产权所有权问题，以及个人的执行成本问题。此外，逆向工程或反编译并不总是非法的，因此，政府需要通过代码透明构建信任基础；
（6）可持续性。为了实现可持续发展，需要考虑元宇宙的可持续供应和问责制；
（7）广告。媒体和广告行业已深度参与数字世界。随着元宇宙的不断发展，广告的发展也会不断增长。广告领域的挑战包括，如何克服数字鸿沟为全世界公民提供参与元宇宙的平等机会、如何保护广告投放中的全球公民数据隐私。
（二）元宇宙行业九大自治原则
（1）访问互操作性（Interoperability for Access）——允许用户跨平台转移数据、数字资产和数字身份，无论潜在的技术或地域挑战如何。
互操作性是元宇宙发挥技术潜力所必需的关键原则，意味着用户能轻松克服技术、法域或地区障碍，跨平台自由传输数据、数字资产和数字身份。互操作性在提高元宇宙可用性的同时，也会导致各平台之间竞争加剧。
实现互操作性需要大量投资平台架构和运营，制定全球通用的标准和运营协议，并出台激励措施促使公司执行。当前国际立法中互操作性规范包括GDPR第20条对数据可移植性的要求以及《数字市场法》中要求守门人实现互操作性的规定。元宇宙中的互操作性还应重点关注如何减少不当竞争行为。
（2）设计并默认隐私保护（Privacy by Design and Default）——确保用户权利和个人数据随着虚拟宇宙扩展都受到保护。
设计并默认隐私保护是元宇宙中确保用户隐私和数据得到保护和尊重的重要原则。个人身份信息以及生物识别等敏感数据将在推动元宇宙拓展和运营方面发挥重要作用，平台需要利用用户的个人信息及敏感数据提供互操作、沉浸式的定制体验。
具体而言，“设计隐私”要求任何个人数据处理活动都应从设计到整个产品生命周期考虑数据保护和隐私，而“默认隐私”则要求任何向公众提供的产品或服务都必须默认采用最严格的隐私设置，而无需个人手动设置。在元宇宙空间中，用户的任何体验活动都可能涉及多个运营商提供的支持。因此，元宇宙中的数据保护是所有利益相关者的共同责任。
（3）可持续性设计（Sustainability by Design）——确保从元宇宙设计伊始就考虑到能源效率和环境可持续性问题。
可持续性是元宇宙持续发展的重要原则。元宇宙严重依赖算力和技术，必须考虑与之相关的能源消耗问题。解决这个问题的一种方法是政府为元宇宙“节能设计”提供指引，如要求使用可再生能源等节能技术，或通过云计算、边缘计算和数据服务器等环保设计减少能源消耗。此外，应强化政企沟通，对可持续技术研究和投资提供激励、补贴和监管鼓励。
（4）互惠（Reciprocity）——营造用户与利益相关者相互合作、共享资源和想法并朝着共同目标努力的文化氛围，促进信任和公平。
互惠是指用户与创造者、开发者和提供商之间交换数字资产和想法，且双方都从交换中受益。互惠能够帮助元宇宙创建信任、公平、创新的社区文化，这对培育健康、充满活力的元宇宙生态至关重要。
实现元宇宙空间的互惠需要制定共同的规范和价值观，并通过激励措施确保所有利益相关者承诺以互惠互利的方式行事。具体来说，元宇宙开发者可通过共享开源代码、安全漏洞，等措施促进跨平台间的互惠合作；元宇宙运营者可为分享有价值的见解、创建新内容或主动帮助他人的用户提供奖励；监管机构可通过数据隐私和安全法律法规帮助建立用户和平台之间的信任，从而激励互惠。
（5）信任且透明（Transparency for Trust）——技术开发考虑用户体验和期望，强化产品信任。
透明度可确保用户了解元宇宙的运作及其收集数据方式。该原则鼓励元宇宙开发者在设计时确保产品和服务的工作原理符合用户的透明度期望，鼓励元宇宙运营者确保用户权利和数据收集实践是透明的。
在元宇宙中实现透明度的方法包括：（1）元宇宙产品设计和部署阶段：确保任何自动化或人工智能驱动的产品、服务的工作原理透明度，即个人能够了解他们何时受到自动化系统的影响以及自动化系统何时与他们交互；（2）元宇宙产品投入使用前阶段：阐明产品和服务负责任的使用方式；促进多利益相关者共同参与政策制定；制定清晰明了的平台使用条款；（3）元宇宙产品使用阶段：建立适当的机制让个人在发现违反数据保护、平台治理或其他政策的行为时，能够安全、保密地向组织内部或行业监管机构上报问题。
（6）公正、平等、包容（Fairness, Equality and Inclusiveness）——确保所有人都有平等体验元宇宙世界的机会。
公平、平等、包容对于元宇宙合乎伦理的运行至关重要。平等意味着所有个人都有平等的机会进入元宇宙，公平意味着元宇宙的系统和技术能够确保对个人的公平对待，包容意味着元宇宙系统不应歧视任何人或任何人的虚拟化身，并允许所有不同社会经济背景、能力、种族、族裔、性别、世代、宗教、国籍的个人进入元宇宙。
（7）多样性（Commitment to Diversity）——确保元宇宙生态具有包容性并可呈现现实世界的多样性。
促进多样化的性别、种族、代际和民族参与对于元宇宙具有包容性并代表现实世界的多样性是必要的。
为实现上述原则，应当：（1）采用包容性设计。元宇宙的设计应考虑到不同人群的需求和观点，确保每个人都能进入元宇宙并在元宇宙中运作；（2）制定鼓励和支持代表性不足群体参与的政策，包括数字素养计划、指导和培训投入以及为专注于增加虚拟世界多样性和包容性的项目和初创公司提供资金等举措。
（8）问责（Accountability）——确保元宇宙系统、技术及相关后果的责任和问责。
问责制是元宇宙的一项基本原则，确保元宇宙运营者及其他相关利益相关者应当且能够对任何损害或意外后果承担责任。实现问责的措施包括：（1）要求运营者制定并定期监控的内部治理和控制框架；（2）定期组织外部审计元宇宙的运作和治理框架；（2）为个人提供必要且有意义的控制，使用户和创作者能够对元宇宙中的行为负责；（3）为用户提供可访问、易理解的关键信息，确保用户在受到有害或非法活动的影响时，能够及时寻求问责。
（9）安全设计（Safety by Design and Beneficence）——确保元宇宙世界对每个人来说都是一个安全、积极的空间，保护用户免受伤害。
安全设计是元宇宙的基本原则，安全包括用户个人数据、数字身份、数字资产等硬件安全以及心理健康等软件安全，需要通过包括年龄和身份验证、家长或监护人控制功能以及调查和防止虐待活动等在内的措施共同实现。（1）年龄和身份验证对于确保儿童、青少年和弱势群体在虚拟世界中的安全非常重要，平台应当建立必要机制验证用户的年龄和身份；（2）平台审核。平台需要考虑用户的所有行为，包括语音、非语言和行为内容，并据此建立完整的内容审核机制。同时，平台也应当通过技术辅助手段保护内容审核者的心理健康。
相关思考
（一）元宇宙越“虚”，监管越要“实”
目前，“元宇宙”在我国并无直接对应的监管概念，广义上是包含人工智能、区块链、5G、物联网、虚拟现实等技术的集大成应用。有研究指出，元宇宙成为万众追捧的概念不完全是因为炒作和操纵，而是其回应人类进入数字化时代后的核心需求，即拓展人类生存、感官维度，打破线上赛博空间与线下物理世界之间界限，让网络空间成为一个可在主观真实意义上走进去、看得见、摸得着、听得见的空间，让物理空间能像数字空间那样可搜索、可点击、可标注、可识别。在此意义上，“存在感”是元宇宙的重要特质，这种转变改变人们看待世界的方式，也将改变现实世界的治理方式。
经济、社会、文化等领域“脱实向虚”可能会导致一系列复杂的治理问题，如：1）在元宇宙世界中，数据将成为社会和个人财产的核心，成为利益冲突与规则重构的焦点，伴随个人数据作为支撑元宇宙运转的底层资源不断更新、扩张，数据治理体系构建与权责划分将更为复杂，如何提升数据透明度、防范数据过度收集并限制高风险的应用？2）参与者越来越多地通过虚拟方式访问数字商品和服务，数字资产将成为Web 3.0生态的重要组成部分，如何进行虚拟资产保护？如何防范元宇宙形态下基于虚拟币的洗钱、诈骗等犯罪形式？3）虚拟社群的道德伦理价值取向、虚拟世界的公共安全如何处理？2023年8月，我国工业和信息化部办公厅等五部门印发《元宇宙产业创新发展三年行动计划（2023－2025年）》，发展目标为到2025年元宇宙技术、产业、应用、治理等取得突破，长期看要形成安全高效的元宇宙治理体系——明晰元宇宙监管主体职能，完善内容审查、风险处置、违规处理等规则流程；加强元宇宙安全技术研究，常态化开展安全风险评估，建立安全风险事件处置机制；指导元宇宙企业加强信息安全管理，建立健全违法信息监测、识别和处置机制，遏制虚假有害信息传播，切实防范网络诈骗等违法活动；建立元宇宙数据治理框架，加强数据安全和出境管理，规范对用户信息的收集、存储、使用等行为，提升数据安全治理能力和个人信息的保护水平。值得关注的是，我国对虚拟资产相关业务的监管态度较为严厉，从2013年《关于防范比特币风险的通知》，到2017年《关于防范代币发行融资风险的公告》，再到2021年《关于进一步防范和处置虚拟货币交易炒作风险的通知》，都否定虚拟货币的货币属性，NFT在国内更倾向于无币化探索，强调NFT作为数字资产的凭证属性。（二）多安全要素的动态、系统化治理
安全风险治理的本质是对技术运用的限制。阿联酋《负责任的元宇宙自治责任框架》涉及元宇宙设计、使用、交互、管理、维护等各环节，一方面以信任且透明、多样性、问责等现实世界中的伦理规制为参照、映射，另一方面针对互操作性、设计并默认隐私保护、安全涉及等数字世界中新的伦理问题进行建设性构建，力求合理控制技术限制范围与力度，在避免抑制元宇宙技术发展的同时降低治理成本。
对于我国而言，传统的监管形式、技术条件、人才储备对元宇宙全球化特点难以适应，应贯彻系统治理思维，践行动态治理原则，畅通伦理规范、技术标准与法律法规间的衔接通道——持续完善元宇宙政策法规，加强元宇宙风险跟踪研判，开展元宇宙伦理研究，将主流价值和伦理要求贯穿技术研发应用全过程，加强元宇宙行业自律，提升企业合规能力和社会责任意识，充分发挥各安全要素的治理效能，将抽象的元宇宙相关伦理要求、法律规范真正落地到元宇宙行业实践中，落实到元宇宙相关技术、产品和应用中。
富兰克林在《技术的真相》中指出，即使人们已有基本政治权和社会经济权，现代社会依旧没有摆脱工具理性“铁笼”命运，生活在其中的人们，当如何面对这些命运。在残缺的人性和不够坚强的道德理性面前，元宇宙、区块链等技术如何坚持对一个好生活的塑造，值得深思。
参考文献：
1.Responsible Metaverse Self-governance Framework
链接：
https://ai.gov.ae/wp-content/uploads/2023/09/Responsible-Metaverse-Self-governance-Framework-2023-EN.pdf
2.Dubai Metaverse Strategy
链接https://u.ae/en/about-the-uae/strategies-initiatives-and-awards/strategies-plans-and-visions/government-services-and-digital-transformation/dubai-metaverse-strategy
3.The UAE AI Office Publishes "Responsible Metaverse Self-Governance Framework" with OKX Contribution
链接：https://www.fintechfutures.com/techwire/flash-news-the-uae-ai-office-publishes-responsible-metaverse-self-governance-framework-with-okx-contribution/
4.Dubai's Metaverse Strategy: Paving the Path to Excellence
链接：https://www.linkedin.com/pulse/dubais-metaverse-strategy-paving-path-excellence-rafal-siejca
5.皮勇,张明诚.总体国家安全观视域下人工智能安全风险治理研究[J].中国科技论坛,2023(06):86-96.DOI:10.13580/j.cnki.fstc.2023.06.003.
6.夏佳雯.元宇宙的特征、风险及治理原则[J/OL].求索,
2023(05):68-73[2023-10-19].https://doi.org/10.16059/j.cnki.cn43-1008/c.2023.05.007.
7.阿联酋积极探索元宇宙技术
链接：http://world.people.com.cn/n1/2022/1101/c1002-32555993.html
8.元宇宙的虚与实及其法治化路径
链接：https://www.jfdaily.com/sgh/detail?id=852897
9.NFT在中国的政策与路径探讨，链接：https://mp.weixin.qq.com/s/nk6Xo9u3vpHDg0WjM3oN4A人工智能与数据保护第二期：《澳大利亚安全和负责任的人工智能讨论文件》要点与思考
国内数据治理资讯（2023.9.25-2023.10.15）
国外数据治理资讯（2023.9.25-2023.10.15）