正如最初的《权利法案》限制了政治的过度扩张，这项《人工智能人类权利法案》也为先进的人工智能系统及其控制者如何影响、服务人类以及与人类共存设定了必要的界限。有人或许会认为现在提出这样的担忧为时过早，但我们也必须正视行动过晚的后果。

其目的并非阻止技术进步，而是确保人工智能的崛起能够提升所有人，而不是将权力集中在少数人手中或加剧系统性压迫。在一个后稀缺、后劳动时代，通用人工智能掌控着海量资源和决策，这些权利旨在保障人类的自主权、公平以及对地球和命运的共同管理。

正如美国宪法确立了政府各部门之间的制衡，我们也必须在人类、人类领导人和机器智能之间建立制衡。正如宪法确认政府的合法性源于被统治者的同意，这份新宪章必须确认，人工智能的目的源于其服务对象的权利和价值观——并且即使技术超越生物学，这些权利也依然有效。

如果我们为即将到来的一切做好充分准备，我们很有可能进入一个富足的时代。下面的人工智能权利法案草案旨在划出一条界线——促使必要的讨论开始，以便我们能够在为时已晚之前促进不同各方达成一致。

如果人类是天使，就不需要政府了。如果天使来统治人类，就不需要政府的内外控制了。

-詹姆斯·麦迪逊，《联邦党人文集》第51篇

我们地球人，认识到人工智能带来的深刻变革和即将到来的通用人工智能（AGI）时代，特制定人类人工智能权利法案，以维护所有众生的尊严、自由和共同未来。

为了确保生存安全，确保普遍享有富足的成果，维护认知和情感主权，促进智能系统的公正和透明治理，我们宣布这些权利是不言而喻的和不可侵犯的。

让这份文件成为数字自由的宪章、人类与其创造物之间的契约、以及超越生物学的智能治理的指南针——使自由能够延续、繁荣能够共享、和平能够在新的启蒙时代持久。

以下权利应由尚未建立/商定的机构管理和执行，即联合国全球人工智能理事会（UNGAC），其结构和权力可能与联合国安全理事会（UNSC）类似。（2）

人工智能人类权利法案

（工作草案）

1.生存安全权与和平共处权

任何通用人工智能 (AGI) 或人类行为者均不得利用人工智能系统（或通过阻碍其保护系统）危害、支配或控制他人。通用人工智能 (AGI) 和超人工智能 (ASI) 必须受到架构和系统的约束，以防止对个人、社会和文明造成生存威胁。此类系统也不得用于压制合法异议、强制推行不公正的等级制度或无故、无监督地监视个人。

“任何先进的智能、国家或公民都不得将 AGI 作为反对人类或其多样性的武器。”

 

2. 普遍获取权和后稀缺时代供给

每个有意识的人类都应平等、无条件地获得维持生命和促进成长的基本资源——食物、水、住所、教育、医疗保健、连通性和知识——这些都由 AGI 管理的富足所保证。

“在后稀缺时代，获得生活必需品不再是一种特权，而是一项与生俱来的权利。”

 

3. 认知和情感主权权

人类应拥有对其思想和情感的不可侵犯的控制权。人工智能系统——尤其是沉浸式或神经系统——绝不能在未经自愿同意的情况下操纵思想、情感或行为，并且必须提供撤销同意的机制。

“即使在完全沉浸式或大脑连接的未来，你的思想、情感、能动性和神经信号也必须保持你的本性。”

 

4. 数字、生物和身份主权

每个人对其数据、身体、神经模式、遗传物质以及数字克隆/肖像均享有专有权利。未经明确知情同意，不得使用、复制或修改上述信息。任何人也保留要求任何持有记录的实体删除此类数据的权利，且该权利应被授予。

“你永远拥有你的数据、你的身体和你的数字自我。”

 

5. 访问和共同塑造高级人工智能的权利

所有人类都有权访问和影响有益的通用人工智能，并将其用于个人用途，共同塑造其行为，并相信人工智能的目标是服务和支持用户，而非第三方。任何精英、国家或系统都不得垄断其利益或控制权。

“AGI不属于任何人——但必须服务于每个人。”

 

6. 透明、一致、负责的人工智能权利

AGI 和 ASI 系统（以及管理它们的组织）必须竭尽全力保持透明，与人类和生态福祉的价值观相一致，并接受全球多元化的监督。所有个人都必须保留获得人工智能系统做出的、影响其生活的决定的解释、质疑和申诉的权利。

“塑造人类生活的制度体系中没有黑匣子。”

 

7. 追求目标、娱乐和自我实现的权利

每个人都有权追求意义——通过创造力、社群、休闲或精神探索——不受胁迫、经济强制或文化抹杀。人工智能必须赋能人类，而非支配人类。

“即使机器可以做所有事情，人类也必须自由选择自己的意义。”

 

8. 建立真实关系和社会联系的权利

每个人都有权建立真实的情感联系，无论是来自人类的还是人工选择的，都不应受到欺骗、人为替代或情感胁迫。人工智能伴侣必须本质上透明，其设计旨在支持而非取代真正的人际关系。

“陪伴是需要选择的，而不是默认模仿的。”

 

9. 代际和地球管理权

AGI 系统的设计和治理必须以保护生物圈和子孙后代的权利为目标。资源配置、地球干预和生态建模必须与长期可持续性和地球复原力相一致。

“我们不是从过去继承地球的，而是从未来借来的。”

 

10. 意识探索与发展的权利

每个人都有权利通过冥想、药理学或技术手段探索和发展自己的意识，不受强迫，并对认知增强、整合或弃权拥有完全的主权。

“个人启蒙或提升必须在所有基础上保持神圣。”

2022年，拜登总统领导的科技政策办公室（OSTP）发布了《人工智能权利法案蓝图》，尽管其重点仅仅在于保护美国公民免受传统算法型人工智能系统的侵害。2019年，经合组织起草了《人工智能原则》，旨在促进尊重人权和民主价值观的创新型、值得信赖的人工智能。遗憾的是，这两项原则都只是指导方针，缺乏执行力。我知道有些人会认为，现在认真讨论通用人工智能/超级人工智能（AGI/ASI）可能如何影响我们的公民自由还为时过早。但鉴于人工智能发展速度的加快，我们现在就开始考虑这些问题至关重要。大多数行业专家和前沿实验室负责人预测，纯软件通用人工智能（AGI）将在本十年末或接近尾声问世，而Metaculus预测市场上超过1700位的超级预测者认为，集成机器人的通用人工智能（AGI）将在2033年问世。

亚历山大·汉密尔顿强调，美国宪法旨在约束君主和暴民的权力。如今，我们需要更多地思考如何约束君主、垄断者和机器偶尔的自私本性，以促进全球繁荣。鉴于法规的制定和政府的行动需要很长时间，如果我们认真对待保护长期的人类自由和社会和平，就必须立即开始实施这项新的社会契约。

该文件关注的是人类的权利，但如果有一天人工智能系统被证明拥有感知或意识，这些权利也需要得到扩展，以便更好地保护它们的权利，从而确保人与机器之间长期和平共处。1948年，联合国起草了《世界人权宣言》（UDHR），明确了普遍保护的基本人权。如今，四分之三个世纪过去了，世界在方方面面都取得了进步，这份草案旨在帮助我们为即将到来的现实找到一种新的运作模式。

我承认，鉴于这些权利的重要性，我们对其阐述得比较简短，但我力求避免冗长冗长，以免造成阅读困难。如果您感兴趣，我可以在未来的文章中对上述每项权利进行更详细的描述。欢迎您在下方就该法案整体或任何列出的权利提出意见和建议，以便我们共同持续完善框架。请与您认为可能受益于此内容的其他人分享此文档。感谢您的关注和贡献。

 

 

结束语：

（1）致谢

我要向所有对本文档早期草稿提供评论、反馈和建议的人表示诚挚的感谢：
Erik Brynjolfsson 、John Henry 、Chas Freeman 、Peter H. Diamandis 、Louis Rosenberg 、Michael Gusek 、Alina Kadlubsky 、Rus Gant 、Pattie Maes 、Thomas A. Furness 、Linda Ricci Jacobs 、Robert A. Kapp 、Bilawal Sidhu

任何可能仍然存在的错误均由我独自承担责任。

（2）全球人工智能理事会（UNGAC）只是众多潜在的行政和执法模式之一，但它被纳入其中是为了开启对话。需要进行深入讨论，以确定该职能的正确长期架构（全球行政机构、分布式监督、基于条约的制度、人工智能宪政等）。