自主系统正在做出具有后果的决策。
以开放、可验证的形式治理它们的架构,目前并不存在。
我们来构建它。
泰睿基金会(英文名:Terrene Foundation)是一家在新加坡注册的非营利机构,面向自主人工智能系统的治理问题,发布开放标准、开源软件与教育项目。
标准。软件。教育。治理。以及将四者贯通的方法论。
人类在治理中究竟担当什么角色?
人工智能伦理框架在高层价值上趋同,在实现路径上分歧。CARE 将信任与执行分离:信任平面(问责、价值、边界)永久属于人类;执行平面则由人类与人工智能在五个约束维度内共享。
CARE · 哲学 · v2.1阅读规范(英文)→谁对什么负责?
组织部署人工智能时,缺乏问责语法。PACT 提供这一语法:通过 D/T/R 模型(部门、团队、角色)进行位置寻址;约束包络沿委派链只能收紧、不能放宽;治理体系可扩展至 500 人以上的组织。
PACT · 治理 · v0.1-WA阅读规范(英文)→你能证明是谁授权了这个行为吗?
自主系统中的信任通常被假定,而非被验证。EATP 将其密码学化:每一个自主行为都附带一份签名决策记录,可追溯至授权该行为的人类。信任状态只能单调升级,被标记的行为不能被悄然降级。
EATP · 协议 · v2.2阅读规范(英文)→组织如何保存它所知道的事情?
机构知识在人工智能会话之间消散。规范被侵蚀,安全规则被遗忘。CO 通过五层架构在上下文窗口、人员更替与工具迁移之间保存组织所知。已存在七个领域应用,覆盖软件、研究、学习者、金融、教育、治理与合规。
CO · 方法论 · v1.1阅读规范(英文)→基金会使用它所发布的标准治理自身。规范、SDK、章程、课程、论文均基于 CO 方法论产出。这就是检验:如果这套架构行得通,发布它的组织就应当是其第一个实施者。
参见 我们如何工作(英文)。
中文站点说明
Section titled “中文站点说明”本站点的中文版本目前覆盖基金会的身份、使命与核心问题框架。具体规范、开发者文档、学术出版物、治理深度内容与章程全文,目前仅以英文发布。英文是基金会所有规范(CARE、PACT、EATP、CO)的权威语言版本。
未翻译的深度页面将以英文原文呈现;每个未翻译页面顶部会有标注。
产出的质量揭示思考的质量。