以大模型为代表的生成式AI，掀起全球AI技术进步新浪潮。然而，这也引发公众担心：AI生成的图片、影像、声音是否会产生安全问题？AI生成内容的法律边界在哪儿……关于AI范围的封控非常或许会成为将来一段时间内各国规范与立法的重点。2024年3月21日，联合国大会通过首个关于AI的全球决议《抓住安全、靠谱和值得信任的AI系统带来的机会，促进可持续进步》。“决议”部分内容如下：

大会认识到，安全、靠谱和值得信任的AI系统——就本决议而言是指非军事范围的AI系统，其生命周期包含前期设计、开发、评价、测试、部署、用、销售、采购、运行和淘汰等阶段——需要以人为本、靠谱、可讲解、符合道德、具备包容性，充分尊重、促进和保护人权和国际法，保护隐私、面向可持续进步和负责任，这类系统可以加速和推进在达成所有17项可持续进步目的方面获得进展与通过平衡和统筹兼顾的方法从经济、社会和环境这三个方面达成可持续进步；推进数字化转型；促进和平；克服国家之间和国家内部的数字鸿沟；促进和保护每人享有人权和基本自由，同时坚持以人为本。

又认识到，不当或恶意地设计、开发、部署和用AI系统——比如在没适合保障手段或不符合国际法的状况下——构成风险，可能妨碍在达成《2030 年可持续进步议程》及其可持续进步目的方面获得进展，不利于从经济、社会和环境这三个方面达成可持续进步；扩大国家之间和国家内部的数字鸿沟；强化结构性不平等和偏见；致使歧视；有损于信息的完整性和获得信息的渠道；削弱对人权和基本自由的保护、促进和享有，包含个人隐私不受非法或任意干预的权利；增加发生事故的潜在风险和来自恶意行为者的多重威胁。

还认识到AI系统的设计、开发、部署和用速度加快，技术变革日新月异，对加快达成可持续进步目的具备潜在影响，因此强调指出迫切需要就安全、靠谱和值得信任的AI系统达成全球共识；推进拓展包容性国际合作，拟定和用有效、具备国际互操作性的保障手段、做法和标准，以促进革新，预防对安全、靠谱和值得信任的AI系统的治理不成体系；认识到现在存在AI和其他数字方面的鸿沟，国家之间和国家内部的技术进步水平参差不齐，进步中国家在跟上这一飞速加速的节奏方面面临独特挑战，这对可持续进步导致障碍，需要消除发达国家与进步中国家之间在条件、可能性和能力方面的现有差距，因此，又强调指出迫切需要在能力建设及技术和财政方面加大对进步中国家的援助，以消除国家之间和国家内部的数字鸿沟，支持进步中国家有效、公平和有意义地参与AI系统治理方面的国际进程和平台并拥有代表权。

又认识到，AI系统治理是一个不断进步变化的范围，需要伴随技术和大家对技术的认识不断提升，继续讨论可能采取的适合治理方法，这类方法需要以国际法为基础，具备互操作性、灵活性、适应性、包容性，可以满足发达国家和进步中国家的不同需要和能力，并使所有人受益。

1.决心弥合国家之间和国家内部的AI鸿沟和其他数字鸿沟。

2.决心促进安全、靠谱和值得信任的AI系统，以在全方位达成《2030 年可持续进步议程》 方面加快获得进展，进一步弥合国家之间和国家内部的AI鸿沟和其他数字鸿沟；强调指出需要拟定安全、靠谱和值得信任的AI系统标准，以促进而不是妨碍数字化转型和公平获得这类系统所带来的惠益，从而达成所有17项可持续进步目的和从经济、社会和环境这三个方面达成可持续进步，并应付其他一同的全球挑战尤其是进步中国家面临的挑战。

3.鼓励会员国并邀请来自所有地区和国家的多利益攸关方，包含私营部门、国际和地区组织、民间社会、媒体、学术界和研究机构、技术界及个人，在各自角色和职责范围内，拟定和支持与安全、靠谱和值得信任的AI系统有关的监管和治理方法和框架，在各国创造一个有利的生态系统，包含根据一同商定条件促进革新、创业和常识与技术传播，同时认识到各国政府和多利益攸关方之间的有效伙伴关系和合作对于拟定此类方法和框架是必要的。

4.促请会员国并邀请其他利益攸关方采取行动，与进步中国家合作并向其提供援助，以达成包容和公平地获得数字化转型与安全、靠谱和值得信任的AI系统所带来的惠益，包含为此。

(a) 扩大所有国家尤其是进步中国家对数字化转型的参与，以借助安全、靠谱和值得信任的AI系统所带来的惠益并有效参与其开发、部署和用，包含为此拓展与AI系统有关的能力建设，同时认识到促进常识共享活动和根据一同商定条件出售技术是能力建设的一个要紧方面，并强调指出需要消除AI鸿沟和其他数字鸿沟，提升数字素养；

(b) 通过强化伙伴关系，增强数字基础设施的连通性和技术革新的获得，帮助进步中国家在AI系统的整个生命周期内有效参与，加快AI系统对社会的包容性和积极贡献，包含全方位达成《2030 年议程》及其可持续进步目的，同时确保世界各地的AI系统在其整个生命周期内都是安全、靠谱和值得信任的；

(c) 增强进步中国家、尤其是最不发达国家的能力，以应付主要的结构性障碍，消除在获得新技术和新兴技术与AI创所带来的惠益方面存在的障碍，达成所有17项可持续进步目的，包含以加大伙伴关系等方法扩大用科学资源、可负担的技术、研究和开发；

(d) 力求提供更多资金，促进在数字技术和安全、靠谱和值得信任的AI系统方面拓展与可持续进步目的有关的研究和革新，并在所有地区和国家拓展能力建设，以促进这项研究并从中受益；

(e) 打造基于革新的国际环境，以提升进步中国家进步技术专长和实力的能力，借助数据和计算资源与国家监管和治理办法、框架和采购能力，并在各级打造包容有利的环境，提出基于安全、靠谱和值得信任的AI系统的解决方法；

(f) 紧急动用各种实行方法，比如根据一同商定条件进行技术出售，拓展能力建设以消除AI鸿沟和其他数字鸿沟，依据进步中国家的国家需要、政策和优先事情，向进步中国家提供与AI系统有关的技术援助和筹资；

(g) 促进获得安全、靠谱和值得信任的AI系统与这类系统的设计、开发、部署和用，以期从经济、社会和环境这三个方面达成可持续进步；

5.强调需要在AI系统的整个生命周期内尊重、保护和增进人权和基本自由，促请所有会员国并在适用状况下促请其他利益攸关方不要用或停止用没办法根据国际人权法运作或对享受人权构成过度风险的AI系统，尤其是对于那些处于弱势的人而言，并重申大家在线下享有些权利也需要在线上得到保护，包含在AI系统的整个生命周期内。

6.鼓励所有会员国酌情依据本国优先事情和具体状况与在推行本国独特的监管和治理方法和框架时，并在适用状况下鼓励其他利益攸关方，以包容和公平的方法促进安全、靠谱和值得信任的AI系统，造福所有人，并为这类系统打造有利环境，以应付世界上最大的挑战，包含从经济、社会和环境这三个方面达成可持续进步，同时具体考虑到进步中国家与不让任何一个人掉队，办法是：

(a) 依据各自的国家政策和优先事情与国际法规定的义务，并酌情依据国家以下各级政策和优先事情和义务，促进拟定和推行国内监管和治理方法和框架，以支持负责任和包容各方的AI革新和投资，促进可持续进步，同时推广安全、靠谱和值得信任的AI系统；

(b) 鼓励采取有效手段，促进革新，以便在AI系统的设计和开发期间与在部署和用之前，对脆弱性和风险采取具备国际互操作性的辨别、分 类、评估、测试、预防和缓解手段；

(c) 鼓励纳入反馈机制，以使最后用户和第三方可在开发、测试和部署AI系统后，以循证方法发现和报告技术漏洞，并依据状况发现和报告滥用AI系统的行为和AI事件，以解决这类问题；

(d) 提升公众对AI系统的核心功能、能力、局限性和适合民用范围的认识和知道；

(e) 在AI系统的整个生命周期内，促进打造、推行和披露风险监测和管理机制、确保数据安全机制（包含个人数据保护和隐私政策）与适合的影响评估；

(f) 加大对拟定和推行有效保障手段的投资，包含实体安全、AI系统安全与AI系统整个生命周期内的风险管理；

(g) 鼓励开发和部署有效、可获得、适应性强、具备国际互操作性的技术工具、标准或做法，包含靠谱的内容认证和来源辨别机制——比如在技术上可行和适合的状况下用水印或标签，以用户可以辨别信息操纵行为，区别或确定真实数字内容和由AI生成或操纵数字内容——并提升对媒体和信息的认知度；

(h) 促进拟定和推行有效、具备国际互操作性的框架、做法和标准，用于培训和测试AI系统，以加大决策，帮助保护个人免受所有形式的歧视、 偏见、滥用或其他伤害，并防止在AI系统的整个生命周期内强化或固化具备歧视或偏见的应用程序和结果，比如，为此剖析和减轻数据集中存在的偏见，并以其他方法打击算法方面的歧视和偏见，同时又不会无意或过度地影响其他用户和受益方的正向进步、获得和用；

(i) 在适合和有关的状况下，鼓励推行适合的保障手段，以尊重常识产权，包含受版权保护的内容，同时促进革新；

(j) 在测试和评估系统时保障隐私和保护个人数据，并遵守有关国际、国家和国家以下各级法律框架中规定的透明度和报告需要，包含关于在AI系统整个生命周期内用个人数据方面的需要；

(k) 对于作出或支持作出影响最后用户的决定的AI系统，在其整个生命周期内促进透明度、可预测性、靠谱性和可理解性，包含提供公告和讲解；促进人类监督，比如，通过审察智能化决定和有关步骤，或在适合和有关状况下，为那些遭到AI系统智能化决策不利影响的人提供人类决策替代策略或进行有效弥补和问责；

(l) 在AI系统的整个生命周期内，加大对拟定和推行有效保障手段的投资，包含风险和影响评估，以保护人权和基本自由的行使，并减轻对充分和有效享受人权和基本自由的潜在影响；

(m) 推广可以促进、保护和保全语言和文化多样性的AI系统，在其培训数据中与在AI系统的整个生命周期内考虑到用多种语言，特别在大语言模型方面；

(n) 根据一同商定条件，与在AI系统的整个生命周期内发挥用途的每个实体加大信息共享，以确定、理解AI系统的最好科学和循证做法、政策和办法并借助这类做法、政策和办法采取行动，达成效益最大化，同时在AI系统(包含先进AI系统)的整个生命周期内减轻潜在风险；

(o) 鼓励拓展研究和国际合作，以知道、平衡和解决与AI系统在弥合数字鸿沟和达成所有17项可持续进步目的方面所发挥用途有关的潜在利益和风险，包含扩大开源AI系统等数字解决方法有哪些用途；

(p) 促请会员国采取具体手段，消除性别数字鸿沟，确保特别关注借助、可负担性、数字素养、隐私和在线安全，加大数字技术(包含AI系统)的用法，并将残疾、性别和种族平等视角纳入决策和决策指导框架的主流；

(q) 鼓励拓展研究和国际合作，以拟定手段确定和评估AI系统的部署对劳动力市场的影响，支持减轻对劳动力的潜在负面影响，尤其是对进步中国家，特别是最不发达国家劳动力的潜在负面影响，与促进旨在拓展数字培训和能力建设的策略、支持革新并让更多的人享受AI系统带来有哪些好处；

7.又认识到数据是AI系统开发和运行的根本；强调公平、包容、负责和有效的数据治理，数据生成、获得和基础设施的改变，与数字公共商品的用法，对于借助安全、靠谱和值得信任的AI系统的潜力促进可持续进步至关要紧，并敦促会员国推荐数据治理最好做法，促进数据管理方面的国际合作、协作和援助，以在可行的状况下提升各种办法的一致性和互操作性，从而推进安全、靠谱和可信的AI系统达成可信的外贸数据流动，使其进步愈加包容、公平、有效和惠及所有人。

8.确认需要继续讨论AI治理范围的进步动态，以使国际做法跟上AI系统及其作用与功效的演进；并鼓励国际社会继续努力促进包容性研究、摸底和剖析，以知道AI系统和迅速技术变革在现有技术、新技术和新兴技术的开发方面与对加速达成所有17项可持续进步目的的潜在影响和各种应用，使所有各方受益，并且为AI设计方、开发方、评估方、部署方、用户和其他利益攸关方拟定、促进和推行有效、具备国际互操作性的保障手段、做法、标准和工具提供信息，以使AI系统做到安全、靠谱和值得信任；强调指出各国政府、私营部门、民间社会、国际和地区组织、学术界和研究机构及技 术界和所有其他利益攸关方需要继续酌情一同努力；确认所有社区尤其是进步中国家的社区需要以愈加一致、有效、协调和包容的方法，参与安全、靠谱 和值得信任的AI系统的包容性治理。

9.鼓励私营部门遵守有关国际和国内法律，并根据《联合国工商企业与 人权指导原则：推行联合国“保护、尊重和弥补”框架》行事；确认需要以愈加包容和公平的方法获得安全、靠谱和值得信任的AI系统带来的惠益；认识到需要加大合作，包含公共部门、私营部门、民间社会、学术界和研究机构与技术界之间和内部的合作，以在安全、靠谱和值得信任的AI的整个生命周期内提供和促进公平、开放、包容和没歧视的营商环境、经济和商业活动、角逐性生态系统和市场；鼓励会员国拟定政策和法规，以促进在安全、靠谱和值得信任的AI系统和有关技术方面拓展角逐，包含支持和为小企业、企业家和技术人才创造新的机会，并通过重要投资尤其是对进步中国家的重要投资促进在AI市场拓展公平角逐。

10.促请联合国系统各专门机构、基金、策略、其他实体、机构和办事处与有关组织在各自任务和资源范围内，通过适合的机构间机制，继续评估和加大对策，以协作、协调和包容的方法借助AI系统带来的机会并应付这方面的挑战，包含就潜在影响和应用拓展研究、摸底和剖析，使所有各方受益；报告在解决问题方面获得的进展和遇见的挑战；与进步中国家合作并帮助它们进行能力建设，获得和推荐安全、靠谱和值得信任的AI系统带来的惠益，以达成所有17项可持续进步目的和从经济、社会和环境这三个方面达成可持续进步；强调指出需要消除国家之间和国家内部的AI鸿沟和其他数字鸿沟。

11.回顾其题为“将来峰会的方法和范围”的2022年9月8日第76/307号决议和2023年9月1日第77/568号决定，并在这方面期待拟定一项全球数字契约。

12.期待大会在2025年全方位审察自信息社会世界峰会以来获得的进展。

13.一定联合国系统依据其任务规定，通过促进包容各方的国际合作和促进进步中国家在审议中的融入、参与和代表性等方法，在依据国际法，尤其是 《联合国宪章》《世界人权宣言》和《2030 年可持续进步议程》就安全、靠谱和值得信任的AI系统达成全球共识方面作出独特贡献。

来源丨联合国数字图书馆

Tags：人工智能