CARE 规范（完整文本）

CARE：核心论纲

Collaborative Autonomous Reflective Enterprise（协作自主反思企业）

约束型组织作为企业 AI 的治理架构

做更好的事，而不仅是把事做得更好

作者：洪博士（Dr. Jack Hong），新加坡管理大学

版本：2.1 | 2026 年 3 月

许可：CC BY 4.0

摘要

企业 AI 治理面临一项结构性困境：若要求人类审批每一次 AI 行为，自主性的目的便被抵销；若移除人类问责，则带来无法接受的风险。本文提出约束型组织——一种基于三项相互咬合的概念之上构建的新型组织形态。双平面模型把信任（问责、价值、权威，永久属于人类）与执行（任务完成、协调，与 AI 共享）分离。镜像命题主张，构建能够执行组织角色的 AI 会形成一种诊断工具，从而揭示此前与任务执行纠缠在一起、为人所独有的贡献。人在回路之上则把人类定位为包络的界定者，而非审批瓶颈。这套架构由两项配套机制承载：用于以密码学方式可验证地建立信任谱系的企业代理信任协议（EATP），以及用于结构化机构知识的认知编排（CO）。本文以泰睿基金会为案例：这是一家新加坡的标准制定机构，其知识库的运营由 AI 代理在章程约束之内承担，从而展示该模型在实践中的形态。本文明确给出可证伪条件，并对若干限制——约束博弈、权力不对称，以及通过人类自身设计的框架界定”人的价值”所带来的循环性——加以分析。

利益披露

我开发了 CARE 并构建了实现 CARE 的 Kailash 平台。整套 Kailash 技术栈（Core SDK、DataFlow、Kaizen、Nexus）以 Apache 2.0 开源许可发布。这在实务上意味着：源代码公开可得，任何人都依法有权使用、修改、构建商业产品并与我竞争——永久且不可撤销。这一授权无法收回。

已提交两项专利申请：PCT/SG2024/050503，覆盖工作流编排（国际初审报告对全部 18 项权利要求结论均为肯定）；以及 P251088SG，作为临时申请提交。根据 Apache 2.0 第 3 条，所有许可代码的使用者均获得永久、全球、免版税的专利许可；若使用者发起专利诉讼，则该许可依照防御性终止条款终止。所有开源知识产权已完整且不可撤销地转让予泰睿基金会。贡献者保留各自的著作权，并按 Apache 2.0 授予许可。

第一部分：企业 AI 宁愿回避的问题

当 AI 把执行做得更快更好，人还能做什么？

每一家部署 AI 的企业都会遇到这个问题。多数企业不愿正面提出。常见的回避方式有几种。

“人审批 AI 的输出。“这是”人在回路中”式的回答，听上去负责，直到你在实际场景中观察它。一位合规官每天审阅两百份 AI 生成的评估，并不是在行使判断，他们是在盖章放行。“人在回路中”沦为一个人形瓶颈，提供监督的外观，而无监督的实质。

“AI 自主运行。“这是”人在回路外”式的回答，听上去高效，直到出事为止。当一个自主代理做出伤害客户、违反法规或与组织价值相悖的决策时，“AI 干的”并不是董事会、监管机构或法庭能够接受的回答。问责要求一个人——曾就边界、权威与价值做出决定，并由此导向最终结果。

这两种路径都把人当作系统中的零件，而不是系统权威与目的的来源。

CARE 提出第三条路径，其核心洞见是：信任属于人，执行可共享，系统揭示出唯有人能提供的部分。

本文给出这一洞见，把它置于我能想到的最强反对意见之下，明确说明在何种情况下应当放弃它，并对仍未得到证明的部分保持坦诚。本文写给当下就要对 AI 治理做决定的从业者，而不是等学术共识成形之后才行动的人。

第二部分：治理困境

困境是结构性的：传统治理预设决策由人作出。每一套审计框架、每一套合规体系、每一套问责结构，都把人的能动性置于决策点之上。AI 打破了这一假设。要求对每一次 AI 行为进行人审批，便抵销了自主性的目的；移除人的问责，则带来无法接受的风险。两种路径都失败。

有三种压力使这一困境变得紧迫：AI 能力的演进快于治理框架的演进；经济竞争惩罚那些未能捕获 AI 生产力增益的组织；且其中关乎人的利害极大。组织如何回答”当 AI 把执行做得更快更好，人还能做什么”这个问题，将决定 AI 是抬升还是替代人的贡献。

本文要谈的是”做更好的事”：构建对 AI 的机构性方法，使其在创造经济价值的同时，保住人类工作中真正重要的部分。不是”把事做得更好”，不是更快的处理或更便宜的运营。组织当下做出的治理选择，未来很难逆转。

既有治理框架

多套框架触及 AI 治理的若干侧面，但都未能在组织层面给出”如何构建人机关系”的架构性范式。

EU AI Act（2024）要求高风险 AI 系统具备人类监督（第 14 条），但规定的是法律义务，而非组织架构。NIST AI Risk Management Framework（2023）提供一套流程模型（GOVERN、MAP、MEASURE、MANAGE），刻意对治理结构保持不预设立场。OECD AI Principles（2019，2024 年更新）在 47 个签署国之间确立了基于价值的原则，但承认原则与落地之间存在持续差距。新加坡 IMDA 的 Model AI Governance Framework（2020）给出实务层面的组织指引，但并未规定人机关系的架构。

Jobin、Ienca、Vayena（2019）分析了全球 84 份 AI 伦理指南，发现各方在原则层面（透明、公平、不作恶、责任、隐私）趋同，在落地层面分化。Hagendorff（2020）指出抽象伦理原则与技术实践之间存在”深沟”。Floridi 与 Cowls（2019）从全球 AI 伦理文献中梳理出五项原则，论证了价值层面的趋同，同时承认落地层面的难题。CARE 试图回应这道落地缺口，给出的是治理架构，而不是又一套原则。

自动化层级与人类控制

人类控制与自动化之间的关系已被广泛研究。Sheridan 与 Verplank（1978）确立了从完全人类控制到完全自动化的 10 级基础分类。Parasuraman、Sheridan 与 Wickens（2000）将其拓展为覆盖四个信息处理阶段的二维模型。Bainbridge（1983）记录了”自动化的反讽”：系统越自动化，所剩人类技能就越关键，也越容易退化。

Santoni de Sio 与 van den Hoven（2018）基于”追踪”（系统响应理由）与”溯源”（行动可追溯到负责的主体）两条维度，提出”有意义的人类控制”。Methnani、Aler Tubella 与 Dignum（2021）证明可变自主性既可改进系统性能，也可改进人类控制。Shneiderman（2022）提出高自动化与高人类控制可同时实现的论点——这一立场 CARE 同样持有，只是通过双平面模型以不同方式加以操作化。

组织理论与 AI

社会技术系统理论（Trist 与 Bamforth, 1951；Emery 与 Trist, 1960）确立了组织是人与技术的联合系统、需要联合优化的观点。CARE 的双平面模型继承自这一传统，并将其中的”技术成分”调整为 AI 代理。Humberd 与 Latham（2026）近期借助代理理论分析了”AI 何时获得足够自主性，可以被视为公司的代理人”——这是 CARE 在架构层面回答的问题。Kolbjornsrud（2024）提出设计智能型组织的六项原则，但未定义新的组织形态。Kellogg、Valentine 与 Christin（2020）记录了”算法管理”——算法管理人类工人——CARE 反过来：人类通过架构性约束管理 AI。

Rahwan（2018）将”人在回路中”扩展为”社会在回路中”，主张对 AI 系统进行民主治理。这一视角点出了 CARE 的真实缺口：本框架假定组织价值是给定的，并未回答这些价值如何由民主程序决定。

与既有框架的比较

维度	EU AI Act	NIST AI RMF	OECD Principles	Shneiderman HCAI	CARE
范围	监管合规	风险管理	伦理原则	设计哲学	组织架构
人的角色	监督提供者	风险评估者	价值制定者	平等伙伴	信任平面架构师
信任模型	监管认证	风险分类	原则性信任	双向	可经密码学验证
执行机制	法律手段（罚款）	自愿	自愿	无	分级（建议 → 由基础设施强制执行）
知识模型	静态文档	框架文档	原则文档	学术框架	持续累积的机构知识
可证伪？	不适用	否	否	否	是（明确给出 5 项判据）

第三部分：第三条路径

双平面模型

我主张把组织视作运行在两个概念上可分离的平面之上。

信任平面承载问责、权威委派、价值与边界。它永久属于人类——并不是因为 AI 永远不能参与信任关系，而是因为把它当作”属于人”，能够以替代方案做不到的方式保住问责。一旦出问题，信任平面会告诉你：是哪个人界定了允许这种结果发生的边界。

执行平面承载任务完成、信息处理与协调。它可以与在人类定义的约束之内运行的 AI 共享。

这种分离是一种规范性选择，而非本体论上的发现。某些组织理论家认为信任与执行在最深层上本质纠缠，他们也许是对的。我接受这一批评，并主张：把分离作为一种治理设计，是有用的。把信任与执行视为可分离，我们就能构建在保住人类对边界的权威同时、以机器速度执行的系统。这种分离在实践中也许并不完美，但它把当前其他方案做不到的”可行的近似方案”操作化了。

这一分离模式有先例：软件定义网络把控制平面与数据平面分开；Kubernetes 把编排与执行分开；航空把飞行规划与自动驾驶分开（Bainbridge, 1983）。业界分析人士在代理型 AI 治理上已趋同于”控制平面”用语。新意在于：把这一模式用作组织治理的形式架构模型，并配以信任验证协议。形式化论证由 Hong（2026）给出，文中证明：当自主委派达到某一阈值之上时，分离式治理在严格意义上优于合并式治理（命题 2）。分离的价值可分解为信息成分（关于判断质量的更清晰信号）与去污染成分（消除评估者职业生涯与被评估单位绑定时产生的激励污染）。合并式治理不仅是次优的：在临界自主阈值之上，它在结构上可能是不稳定的（命题 5）。

传统系统把两个平面混为一体，迫使人类对每一步执行进行审批，作为信任的代用。CARE 把它们分开：人类在初始设置环节投入判断，使得 AI 能以机器速度执行，问责则通过可验证的信任谱系保住。Hong（2026）指出其机理：当委派对象从人类下属（承担财富效应）转向自主系统（不承担）时，治理问题从”监督努力”变为”筛选人在界定边界时的判断质量”。双平面模型即是对这一转变的架构性回应。

镜像事件分类体系：CARE 规范定义三类信任事件：执行记录（ExecutionRecord，AI 在其约束包络之内自主行动）、升级记录（EscalationRecord，AI 抵达边界并需人类判断）、介入记录（InterventionRecord，人类主动介入）。这一分类体系将观察流结构化，使得审视执行模式的人能够区分自主行动、边界事件与自身的介入——这是知情地优化约束的前提。

约束诊断：实现应当提供诊断信息——约束利用率、边界压力、解决模式——以支持人类对约束做出优化决策。这些诊断是决策支持工具，而不是优化目标。一旦利用率得分变成目标而非判断的输入，古德哈特陷阱（原则 8）便会瓦解诊断本身的目的。

三级强制执行模型：约束的强制执行分为三级，保障力度递增。第一级（语境引导）把约束注入 AI 的语境中——有用，但并非确定性的，因为 AI 可能偏离。第二级（执行前校验）在动作执行前介入程序化检查，提供独立于 AI 是否合规的过程级强制。第三级（传输层介入）确保 AI 在不经过约束评估基础设施的情况下，无法触达外部工具或服务。更高级别提供更强保障，但并非天然更优——所选级别应取决于部署的风险画像与违反约束的后果。

人在回路之上

“人在回路之上”一词源自军用自主系统文献，描述的是对自主车辆与武器的监督性控制。我把它引入企业 AI 治理，并对其原始含义做了适配。

模型的运作方式如下：

人类界定运行包络：AI 可以做什么，不可以做什么，何种情况触发升级，适用何种价值
AI 在该包络之内以机器速度执行
人类观察执行模式，识别包络在何处契合现实、在何处不契合，并据此优化边界
该回路是连续的：观察催生优化，优化改进执行，改进后的执行又生成新的可观察模式

飞行员的类比恰好捕捉这一点。飞行员不会手动操控跨洋航班的每一寸航程。自动驾驶承担持续巡航。飞行员设定飞行计划，监控状况，并在判断认为需要时接管手动控制。飞行员的价值在于识别那一刻：自动驾驶的参数已与现实不再吻合。

Parasuraman 与 Riley（1997）记录了这种关系崩坏时会发生什么：自动化的滥用、弃用与误用。人类过度信任自动化而漏掉故障（滥用）、欠信任而制造不必要的瓶颈（弃用）、或设计者实施时无视操作者的工作负荷与权威（误用）。CARE 的分阶段采纳模型（先观察，再有限自主，再扩展）旨在建立可避免这些失败模式的”已校准信任”。

一项关键告诫：为复杂 AI 行为定义有效的约束并不容易。关于”规格博弈”（specification gaming）与涌现行为的研究表明，约束定义可能以人类难以预料的方式失效。“人在回路之上”是一种向往的架构，并非有保证的控制。Hong（2026）指出一种特定失败模式：约束作秀（constraint theater）——组织在精心制作治理文档上耗费精力，代价是侵蚀使治理真正有效的实质性判断。当治理表态与战略判断争夺认知带宽时，管理评估中赋予治理文档的最优权重为负（命题 1）。这一结论贯穿 CARE 的架构选择：判断质量优先于文档体量，独立评估优先于自我评估。

多方利益相关者监督：在实践中，“人在回路之上”中的”人”，往往是多个具有维度划分的人。CFO 界定财务约束；CISO 界定数据访问边界；部门主管界定运营上限。CARE 规范允许将监督权委派给多位人类，前提是每一次审批行动都能追溯到一位可识别的人类权威。观察与优化的回路以同样的方式运转：每位人类只在其专业的约束维度内进行观察与优化，但整套回路分布在与各维度判断相匹配的多位人类身上。

第四部分：镜像命题

这是本框架中最重要、也最有争议的一项理念。

当你构建一个能够执行某一人类角色全部可度量任务的 AI 时，会发生意料之外的事。你不会发现”人变得多余”。你会以惊人的清晰度发现：人在任务执行之外贡献了什么。

在 AI 出现之前，这些贡献不可见。不是因为它们不重要，而是因为它们与执行纠缠在一起，无法分离。客户经理的关系能力与他们起草的提案密不可分；分析师的语境智慧与他们维护的电子表格密不可分；管理者的伦理判断与他们撰写的报告密不可分。

AI 把它们解开。当 AI 承担提案、表格与报告时，剩下的就是判断、关系、智慧——而这些突然显形，正是它们一直以来真正承担的价值之源。

六项人类胜任力

这面镜子揭示出当前 AI 系统无法复现的六类人类贡献。这些类别将关于隐性知识（Polanyi, 1966）、社会资本（Nahapiet 与 Ghoshal, 1998）、自然主义决策（Klein, 1998）以及道德直觉（Haidt, 2001）的研究成果，应用于人机分工的问题——而上述研究本身并未直接处理这一问题。这一应用是我提出的，需要经验证据加以验证。

伦理判断：感知”在技术上正确、却在道德上错误”的能力。不是规则遵循——AI 也能遵循规则。它是相互竞争的价值的整合、对语境的理解、以及把信贷官导向”虽然满足全部技术条件、但因情境的某种感受被认为伦理上不当而拒绝放贷”的道德推理。Haidt（2001）证明道德判断在很大程度上通过直觉而非审议运作：这一过程当前的 AI 架构尚未复现。

关系资本：通过共同的脆弱与历史所建立的信任。当利害高、情境又模糊时，客户会打电话给与自己有关系的那个人。这份资本积累于多年共同度过的难处，不存在于任何数据库中。

语境智慧：来自亲历经验、超越可得数据的知识。那位高管之所以知道某位董事会成员会反对”以削减成本为框架”的提案，是因为十五年前的一次经历——而这件事并未被任何地方记录。Polanyi（1966）称之为”隐性知识”：我们所知多于我们所能道出。Nonaka（1994）则描述了把这种知识显性化的组织难题。

创造性综合：评估并落地新颖方案。AI 擅长组合性创造，能在其庞大的训练数据中迅速重组各种模式，连接此前从未被连接的领域。它做不到的是：判断这些综合在实践中是否真的成立，或做出真正具有变革性的、能够整体性重构问题的跃迁。

情绪智力：察言观色、感受张力、以真诚的关怀回应情感。AI 可以从文本中检测情绪信号。它感受不到。

文化导航：理解不成文的文化规则，在仅靠数据分析无法跨越的文化语境之间穿行。

镜像命题不主张什么

这些是当前 AI 的局限，而非原理上的不可能。我描述的是一张快照，而不是永久的边界。其中一些类别也许会被证明可被自动化。胜任力图谱必须随 AI 能力推进而被持续重估。

镜子也可能被滥用。同一种揭示人类独有价值的诊断，也可能被用来识别”应当被淘汰”的角色，而不是”应当被发展”的角色。把镜子对准员工的是管理层，反过来则不会发生。这造成了权力不对称，本框架虽提出若干保障——员工同意、数据透明、镜像配置的民主治理——却无法在架构上加以阻止。组织可以把镜子用得很好，也可以用得很差。CARE 提供诊断；至于组织如何使用它，本身就是最属于”人”的决定。

循环性问题

我会直接回应这一点，因为这是镜像命题面临的最强哲学反对意见。

该命题主张，AI 的执行揭示出唯有人才能提供的价值。但”人独有价值”的类别本身，是由本就具备这些能力的人来界定的。这里存在循环：我们把”人的价值”定义为镜子所显示的东西，而镜子显示的，又是我们已经定义为”人的价值”的东西。

我接受这一批评。镜像命题并非由独立前提推导得出的结论。它更接近一条公理：我之所以采纳它，是因为它能生成有用的治理架构，而不是因为它能从第一原理被证明。其辩护是实用主义的：把这六类能力视作”人的价值之所在”，比把人视作可与 AI 互换、或把所有人类工作视作同等可被自动化，能产出更好的组织成果。

如果这条公理被证明缺乏成效——比如这些类别在不同部署中无法被稳定识别，或组织在投资这些类别上得不到收益——那么这条公理就应当被放弃。我在第八部分明确给出放弃的条件。

第五部分：约束型组织

前面几节描述的是一些独立组件：把信任与执行分离的模型（双平面）、识别人类贡献的诊断（镜像命题）、以及一种监督性架构（人在回路之上）。本节主张：把它们整合在一起，所产生的东西在性质上不同于一个改良的治理框架——它定义了一种新的组织形态。

定义

约束型组织指这样一类企业：在由人类权威所定义的、以密码学方式可验证的边界之内，AI 代理承担运营性执行。其特征由五项性质刻画：

架构性分离：信任决策与执行在结构上分开。这不是政策选择，而是基础设施的设计。
可验证的信任谱系：每一次代理行动都能通过密码学链条追溯至授权它的那位人类权威。企业代理信任协议（EATP）将五项要素——起源记录、委派记录、约束包络、能力证明、审计锚——串成一条在密码学意义上不可伪造的（在标准密码学假设之下；详见 Hong, 2026b 的形式化规范）问责链。
结构化的机构知识：AI 代理在组织积累的判断之上运行，这些判断被编码为一套五层架构（认知编排）：专业代理角色、机构知识库、架构性护栏、结构化工作流，以及随时间复利积累知识的学习系统（Hong, 2026c）。
分级自主：五种命名的信任姿态——伪代理（Pseudo-Agent）、监督式（Supervised）、共同规划（Shared Planning）、持续洞察（Continuous Insight）、已委派（Delegated）——为组织风险偏好提供形式化词汇，姿态间的转换由实绩证明所约束。这把”自动化层级”传统（Sheridan 与 Verplank, 1978；Parasuraman 等, 2000；Methnani 等, 2021）从”按任务”的描述拓展为”按组织”的治理。
持续累积的知识：与从零开始的无状态 AI 交互不同，约束型组织积累机构性智能。每一次成功交互都使知识库更深一层。这把 March（1991）的探索与利用之间的平衡，以及 Nonaka（1994）的知识创造理论，落地为面向人机协作组织的实践。

与既有组织形态的关系

约束型组织区别于每一种既有的组织形态：

维度	传统企业	AI 辅助型企业	DAO	约束型组织
人的角色	执行 + 决策	执行 + 决策；AI 辅助	代币加权治理	界定边界、价值与问责
AI 的角色	工具	增强	智能合约执行	在人类定义的包络之内运行
信任来源	层级	人类监督	算法（代码即法律）	密码学信任谱系
知识模型	隐性、个人	训练数据 + 隐性	仅链上	机构知识复利
否决机制	管理层权威	人的否决	链分叉	信任平面介入

不是 DAO。去中心化自治组织（DAO）整体取消了信任平面。2016 年的 The DAO 攻击事件展示了后果：当智能合约存在漏洞时，没有任何人类权威能够介入，唯一的选择是让整条链分叉（DuPont, 2017；Hassan 与 De Filippi, 2021）。约束型组织反过来：把人的权威作为在架构上优先于算法执行的存在加以保留。

不是算法管理。Kellogg、Valentine 与 Christin（2020）记录了一类组织：算法管理人类工人。约束型组织把这一关系颠倒过来：人类通过架构性约束管理 AI，而不是 AI 通过不透明的算法管理人。

Humberd 与 Latham（2026）借助代理理论分析”AI 何时获得足够的自主性、可被视为公司的代理人”。约束型组织为这一过渡提供治理架构。Harre（2025）借助制度经济学建模 AI 治理，确立了一种约束型组织所填补的理论需求。Engin（2025）提出三维度（决策权、过程自主性、问责）的人机治理框架，描述的是”该度量什么”；约束型组织提供的是落地架构。

Hu 与 Rong（2026）研究”主权代理”（Sovereign Agents）——在去中心化基础设施上具有密码学自托管能力的 AI 代理。这是约束型组织在概念上的对立面：主权代理研究的是”人类控制被移除之后会如何”，约束型组织提出的是”如何把人类控制保住”。

案例研究：泰睿基金会

泰睿基金会——一家维护企业 AI 治理开放标准的新加坡担保有限公司——其运行方式即为约束型组织。这并非事后赋予的标签，而是有意为之的运行模式。

信任平面（人类定义）：

一部 77 条章程（含 11 条固化条款）定义了组织边界
反俘获机制确保任何单一利益不能主导治理
强制性的创始人交接，确保机构能够长于其创立者
全部开源知识产权完整且不可撤销地转让

执行平面（AI 代理运行）：

20 个专业 AI 代理覆盖 7 个类别，承担知识库运营
研究、起草、交叉引用、质量保证与治理检查均由代理执行
本系列每一篇论文都通过这一流程产出

信任验证（EATP）：

代理行动可追溯至主指令（组织的权威之根）
约束包络界定边界：命名规范、安全规则、内容标准
完整对话历史作为审计轨迹保留

机构知识（CO 五层架构）：

第 1 层（意图）：20 个具备领域专业能力的代理
第 2 层（语境）：规则、技能、参考文档——一份在用的机构手册
第 3 层（护栏）：10 段挂钩脚本（执行前、执行后与生命周期），含反健忘机制
第 4 层（指令）：14 套结构化工作流，含审批节点
第 5 层（学习）：观察日志、模式分析、知识演化

本论文的产出过程本身即为佐证。AI 代理产出了能用的初稿。我界定了”诚实”的含义（去除无法核实的主张）、“有用”的含义（向从业者而非学者解释）、以及应当被拒绝的内容（营销、夸大、虚假的精确）。代理无法做出这些判断；我也无法以这种速度产出初稿。约束型组织即是这种合成。

第六部分：本框架为何存在

当前路径的缺口

新加坡在 AI 全生命周期上拥有强健的机构，但存在一道既有机构都没有填补的特定缺口。

新加坡人工智能（AI Singapore）做基础研究；IMDA 的 AI Verify 提供部署后测试；新加坡企业发展局（Enterprise Singapore）为中小企业提供数字化补助；新加坡全国职工总会（NTUC）与 SkillsFuture 提供个人培训；大型科技公司提供商业平台。每一方都把自己的工作做得不错。

缺位的是研究与实践之间的连接组织，具体而言：

部署前的治理架构：AI Verify 在系统建成之后做测试。没有什么帮助组织从一开始就建出”治理就绪”的系统。CARE 与企业代理信任协议（EATP）填补这一缺位：把信任架构在设计阶段嵌入，而不是部署之后再外挂。

开放的开发者社群：新加坡培训个人，但没有把他们连入一个能在不同组织之间复利知识的社群。受训的从业者毕业后陷入孤岛。一个共享模式、指导后辈、共同推进实践的开发者社群，目前并不作为一项有组织的基础设施而存在。

开源的企业级构件：企业级 AI 能力一直是企业级定价。新加坡的中小企业承担不起大型组织能消化的平台费用。Kailash 技术栈（以 Apache 2.0 发布）以零许可成本提供企业品质的构件。

可持续的开源模式：开源面对可持续性问题。Kailash 技术栈以 Apache 2.0 应对：任何人都可使用、构建、围绕它做生意。当构件真正开放时，开放的经济学才能成立：因没有锁定，采纳得以扩散；由此涌现的实施者与使用者生态，远比任何单一公司能制造的更广阔。

开源对 CARE 为何重要

仅以白皮书形式存在的治理框架是理论。理论不足以应对组织当下就要做出的部署决定。

Kailash 技术栈提供具体落地：用于工作流编排的 Core SDK、用于数据库操作的 DataFlow、用于多渠道部署的 Nexus，以及作为 AI 代理框架的 Kaizen。全部 Apache 2.0。它们都按”与 AI 辅助开发工具协作”为前提设计，使具备领域专业能力的小团队能够基于预制构件，组合出企业品质的应用。

这一点之所以重要，是因为 AI 时代根本性地改变了软件创造的经济学。CARE 提供治理架构；Kailash 技术栈提供构件；社群提供知识。

为何选择开源而非专有

我本可保留这套技术为专有。市场逻辑会建议如此：专有平台溢价更高、能锁定客户，并使被收购更具吸引力。

但专有平台与其公司同生共死。开放标准比公司更长寿。Apache 2.0 许可证就静静躺在项目仓库中，是最简单的信任信号：代码在那里，许可不可撤销，没有人需要相信我的承诺。

Autor（2015）记录了自动化在淘汰旧任务的同时也创造新任务。我所追问的是：谁来获取这些新任务带来的价值。封闭平台把它集中起来；开放基础设施把它分散开来。这是一项选择，我已做出。

第七部分：本框架不解决什么

诚实的限制

CARE 不主张当前的人类胜任力永远超出 AI 的边界。六类胜任力是 2026 年的快照，不是永久边界。如果 AI 出现真正的道德能动性、真实的情感能力或真正的创造性综合，这些类别就需要修订。本框架承诺的是再评估，而不是为现有主张抵御反证。

CARE 不解决”被替代”的经济学问题。本框架主张以角色再设计取代裁撤。但主张并非强制。经济压力可能压过伦理承诺。竞争压力下的组织也许会用镜子来识别”应被裁撤的角色”，而不是”应被发展的角色”。AI 大规模部署在宏观层面带来的总劳动力替代、工资压力与不平等，超出任何组织级框架可解决的范围。它们需要政策回应——CARE 可与之互补，但不能替代。

CARE 不保证监管合规。本架构旨在支持遵循 EU AI Act（2024）、NIST AI RMF（2023）以及 OECD AI Principles 中关于人类监督的要求，但”旨在支持”不等于”必然满足”。某一具体 CARE 部署是否满足监管要求，取决于落地细节、辖区与用例。组织需要独立的法律评估。

CARE 不消除权力不对称。把镜子对准员工的是管理层，反过来则不会发生。本框架提出保障，但无法在架构上阻止滥用。

CARE 不处理民主合法性问题。如 Rahwan（2018）所论，“社会在回路中”治理需要决定 AI 应当编码何种价值的民主机制。CARE 假定组织价值是给定的，不回答这些价值从何而来。

CARE 不提供模型层面的对齐。Constitutional AI（Bai 等, 2022）研究在模型层面让 AI 遵循约束。CARE 的信任平面假定 AI 会遵循其约束；如何在模型层面做到这一点，是与本文互补而独立的问题。

约束博弈

任何基于约束的系统都可能被博弈。一个在技术上对每一项约束都合规、却违反其精神的 AI，并不是被治理，而是在博弈系统。这不是理论顾虑，而是 CARE 模型的核心运营风险。本框架以”透明原则”（一切行为皆可审计）和”演化式信任”（一旦发现博弈则收紧边界）加以应对。这些机制在大规模下是否充分，仍待证明。

可能被低估的替代方案

红队评审指出四种值得更多关注的替代方案：分层审批系统（按行动类别审批，而非全有或全无的约束）、协作式人机决策（联合审议，而非平面分离）、基于保险的治理（让精算分析设定治理要求）、分布式问责（将问责分散于多个委员会，而非个体信任谱系）。

我承认这些替代方案各有其价值。CARE 最终也许只是若干路径之一，而非”那一条”路径。

第八部分：更广泛的影响

劳动与替代

镜像命题具有双重性。用得好，它识别人独有的贡献并对其加以投资；用得坏，它识别”应被裁撤”的角色。把镜子对准员工的是管理层，反过来则不会发生。本框架提出保障——员工同意、数据透明、镜像配置的民主治理——但无法在架构上阻止滥用。

可及性与公平

约束型组织在机构知识工程上需要相当大的初始投入。机构知识较弱的组织受益最多，建造能力却最弱。这制造了一道可及性差距，可能扩大资源充足与不足组织之间的不平等。覆盖治理、软件开发、研究、金融运营等场景的、面向特定领域的约束模板，以及可分享的模板生态，能够减少初始约束设计的负担，部分地回应这一问题。

地理因素

CARE 在新加坡发展，并依托新加坡的机构语境。该框架在不同辖区、法律体系与文化语境之间能否有效迁移，是一项有待跨文化测试回答的实证问题。

第九部分：CARE 究竟是什么

CARE 表示协作自主反思企业（Collaborative Autonomous Reflective Enterprise）。每个词都是被精心选择的：

协作（Collaborative）：人与 AI 作为伙伴，各自贡献自己最擅长的部分
自主（Autonomous）：AI 在人类定义的边界内执行，不需要为每一次行动获得审批
反思（Reflective）：系统揭示是什么使人的贡献不可替代
企业（Enterprise）：面向真实复杂性的组织级设计

三项核心命题

双平面模型：组织运行在两个可分离的平面上：信任平面（问责、价值、权威、边界）永久属于人类，执行平面（任务完成、协调）可与 AI 共享
镜像命题：构建能够执行每一种组织角色的 AI，会形成一面诊断之镜。AI 的执行与组织所需之间的差距，揭示出人独有的价值
人在回路之上：既不是瓶颈（人在回路中），也不是放任（人在回路外）。人类界定运行包络，AI 在其中执行，人类观察并优化

八项原则

完全自主作为基线：AI 在既定信任边界内承担其所能承担的一切，由此显出唯有人类才能提供的部分
人选择介入：人类通过审慎判断而非反射式审批来抬升其参与
透明作为根基：每一次 AI 行动都可被完整看见——不是因为人要时刻盯着，而是因为”能够看”使”选择不看”成为知情的选择
持续运行：AI 维持稳定品质；人类按需而非按时钟带来判断
保住人的问责：每一次具有后果的行动都通过信任谱系可追溯至人类权威
优雅降级：当 AI 抵达能力边界时安全降级——降低自主性、增加透明度、触发升级——以保住人的能动性。优雅降级同样适用于人类不可达的情形：当一个被搁置的动作因没有授权审阅者而无法解决时，实现应当降低自主性，而不是无限期阻塞。超时后自动放行是一种政策选择，需要组织明确授权方可启用。
演化式信任：信任边界依据实绩证明而演化，而非依据假设
目的对齐：AI 在人类定义的组织目的之内执行，而非追求自身的优化目标

这些原则构成一个互联的系统。没有透明的完全自主是危险；没有人选择介入的透明是监控；没有问责的人选择介入是放弃。这些原则相互约束、相互支撑。

可证伪条件

CARE 的核心主张是可被检验的。下列条件如果满足，应当导致放弃本框架：

如果在五个或更多组织部署中，双平面分离始终无法被实施，则架构模型应被修订。
如果在十个或更多部署中，六类胜任力无法被稳定识别，则镜像命题应被放弃。
如果在匹配性比较中，“人在回路之上”治理产出的成果劣于”人在回路中”或”人在回路外”，则监督模型应被否定。
如果约束型组织相较于使用 AI 工具的传统企业未呈现出治理优势，则该组织形态并不构成独立类别。
如果在三个或更多部署中，约束博弈被证明无法检测或无法管理，则基于约束的治理模型不充分。

结语：一项主张，而非定论

本文所追问的——当 AI 把执行做得更快更好，人还能做什么——并没有永久答案。AI 能力将持续推进。信任与执行之间的边界将持续移动。

CARE 提供的不是终局答案，而是一套实务架构：双平面模型用于治理结构，镜像命题用于组织发展，人在回路之上用于监督设计，约束型组织作为整合形态。配套协议——EATP 用于信任验证，CO 用于机构知识——提供运行机制。

替代方案是：每一家组织独自解决相同的治理问题、犯同样的错误、零共享学习。那种方案更糟。

参考文献

Autor, D. (2015). Why Are There Still So Many Jobs? The History and Future of Workplace Automation. Journal of Economic Perspectives, 29(3), 3-30.

Bai, Y., et al. (2022). Constitutional AI: Harmlessness from AI Feedback. arXiv:2212.08073.

Bainbridge, L. (1983). Ironies of Automation. Automatica, 19(6), 775-779.

DuPont, Q. (2017). Experiments in Algorithmic Governance: A History and Ethnography of “The DAO.” In Bitcoin and Beyond. Routledge.

Emery, F. E. & Trist, E. L. (1960). Socio-technical Systems. In Management Sciences, Models and Techniques, Vol. 2. Pergamon.

Engin, Z. (2025). Human-AI Governance (HAIG): A Trust-Utility Approach. arXiv:2505.01651.

European Union. (2024). Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). Official Journal of the European Union.

Floridi, L. & Cowls, J. (2019). A Unified Framework of Five Principles for AI in Society. Harvard Data Science Review, 1(1).

Hagendorff, T. (2020). The Ethics of AI Ethics: An Evaluation of Guidelines. Minds and Machines, 30, 99-120.

Haidt, J. (2001). The Emotional Dog and Its Rational Tail: A Social Intuitionist Approach to Moral Judgment. Psychological Review, 108(4), 814-834.

Harre, M. (2025). From Firms to Computation: AI Governance and the Evolution of Institutions. arXiv:2507.13616.

Hassan, S. & De Filippi, P. (2021). Decentralized Autonomous Organization. Internet Policy Review, 10(2).

Hong, J. (2026). “Constraint Theater: Governance Without Wealth Effects.” Submitted to American Economic Review. Theoretical foundation for this paper series. Proves the Dual Plane Model is optimal (Proposition 2) and derives constraint theater (Proposition 1).

Hong, J. (2026b). “Enterprise Agent Trust Protocol (EATP): A Core Thesis.” White Paper Series, Version 2.2. Terrene Foundation. https://github.com/terrene-foundation/publications/blob/main/EATP-Core-Thesis.pdf. Companion paper providing the technical trust verification protocol for the governance architecture described here.

Hong, J. (2026c). “Cognitive Orchestration (CO): A Core Thesis.” White Paper Series, Version 1.1. Terrene Foundation. https://github.com/terrene-foundation/publications/blob/main/CO-Core-Thesis.pdf. Companion paper providing the institutional knowledge methodology.

Hong, J. (2026d). “Cognitive Orchestration for Codegen (COC): A Core Thesis.” White Paper Series, Version 1.1. Terrene Foundation. https://github.com/terrene-foundation/publications/blob/main/COC-Core-Thesis.pdf. Reference implementation of CO.

Hong, J. (2026e). “The Constrained Organization: An Organizational Model for Enterprise AI Governance.” White Paper Series, Version 1.0. Terrene Foundation. https://github.com/terrene-foundation/publications/blob/main/Constrained-Organization-Thesis.pdf. Companion paper on institutional design.

Hong, J. (2026f). “PACT: Principled Architecture for Constrained Trust — A Core Thesis.” White Paper Series, Version 0.8. Terrene Foundation. https://github.com/terrene-foundation/publications/blob/main/PACT-Core-Thesis.pdf. Companion paper on organizational architecture for accountable AI delegation.

Hu, B. A. & Rong, H. (2026). Sovereign Agents: Towards Infrastructural Sovereignty and Diffused Accountability in Decentralized AI. arXiv:2602.14951.

Humberd, B. & Latham, S. (2026). When AI Becomes an Agent of the Firm: Examining the Evolution of AI in Organizations Through an Agency Theory Lens. Journal of Management Studies, 63(2), pp. 668-694.

IMDA. (2020). Model AI Governance Framework, 2nd Edition. Singapore.

Jobin, A., Ienca, M., & Vayena, E. (2019). The Global Landscape of AI Ethics Guidelines. Nature Machine Intelligence, 1, 389-399.

Kellogg, K. C., Valentine, M. A., & Christin, A. (2020). Algorithms at Work: The New Contested Terrain of Control. Academy of Management Annals, 14(1), 366-410.

Klein, G. (1998). Sources of Power: How People Make Decisions. MIT Press.

Kolbjornsrud, V. (2024). Designing the Intelligent Organization: Six Principles for Human-AI Collaboration. California Management Review, 66(2), pp. 44-64.

March, J. G. (1991). Exploration and Exploitation in Organizational Learning. Organization Science, 2(1), 71-87.

Methnani, L., Aler Tubella, A., & Dignum, V. (2021). Let Me Take Over: Variable Autonomy for Meaningful Human Control. Frontiers in AI, 4:737072.

Nahapiet, J., & Ghoshal, S. (1998). Social Capital, Intellectual Capital, and the Organizational Advantage. Academy of Management Review, 23(2), 242-266.

National Institute of Standards and Technology. (2023). AI Risk Management Framework (AI RMF 1.0). NIST AI 100-1.

Nonaka, I. (1994). A Dynamic Theory of Organizational Knowledge Creation. Organization Science, 5(1), 14-37.

Organisation for Economic Co-operation and Development. (2019, updated 2024). OECD AI Principles. OECD/LEGAL/0449.

Parasuraman, R., & Riley, V. (1997). Humans and Automation: Use, Misuse, Disuse, Abuse. Human Factors, 39(2), 230-253.

Parasuraman, R., Sheridan, T. B., & Wickens, C. D. (2000). A Model for Types and Levels of Human Interaction with Automation. IEEE Transactions on Systems, Man, and Cybernetics---Part A, 30(3), 286-297.

Polanyi, M. (1966). The Tacit Dimension. University of Chicago Press.

Rahwan, I. (2018). Society-in-the-Loop: Programming the Algorithmic Social Contract. Ethics and Information Technology, 20, 5-14.

Santoni de Sio, F. & van den Hoven, J. (2018). Meaningful Human Control over Autonomous Systems: A Philosophical Account. Frontiers in Robotics and AI, 5, 15.

Sheridan, T. B. & Verplank, W. L. (1978). Human and Computer Control of Undersea Teleoperators. MIT Man-Machine Systems Laboratory Report.

Shneiderman, B. (2022). Human-Centered AI. Oxford University Press.

Trist, E. L. & Bamforth, K. W. (1951). Some Social and Psychological Consequences of the Longwall Method of Coal-Getting. Human Relations, 4(1), 3-38.

关于本文的产出过程

本文以其所描述的流程写就。其产出过程本身即是约束型组织方法论的案例研究。

初稿由一组 AI 代理生成：

研究分析师：探索知识库与源仓库，撰写结构化初稿，并将主张与锚点文档交叉核对
一个独立的 对齐评审代理（alignment-critic） 对输出进行红队评审，识别出八处问题，包括事实错误、过度声称以及与原材料的不一致
一个 辩论专家代理（debate-expert） 对初稿论点提出挑战，标记无法核实的主张

作者主导每一轮迭代。下达的指令包括：

删除无法核实的主张
剔除对尚不存在结构的引用
把利益披露简化为朴素事实
为非技术读者解释技术术语
让本文读起来像一项标准提案，而不是营销

作者全程对语气、措辞与实质进行直接编辑。多轮修订持续推进，每一轮都缩小代理产出与作者所判定的”诚实且有用”之间的差距。

产出过程中观察到以下现象：

信任平面介入：作者因事实不准确覆盖 AI 输出 14 次，因过度声称覆盖 8 次，因营销语言覆盖 6 次。AI 无法区分”诚实”与”具有说服力”。
镜像命题的显形：AI 能以速度产出像样的散文。它无法判断什么是诚实的、什么是策略性的；什么应纳入、什么应略去；某项主张是否超出其证据。这些判断是作者独有的贡献。
检测到惯例漂移：AI 默认采用学术性回避惯例（“或许可以认为……”），而非作者指定的直接风格。这需要反复纠正。
未检测到约束博弈：在产出过程中未发现 AI 在精神与字面上对指令不合规的实例。在对抗性条件下是否依然如此，仍属未知。

所用工具为 Claude Code（Anthropic），并配有研究、对齐检查与对抗性评审等专业子代理。完整对话历史——含每一项指令、每一次修正以及作者拒绝的每一段内容——由作者保留。

版本历史

版本	日期	变更
1.0	2026 年 2 月	初版论纲：双平面模型、镜像命题、人在回路之上、六类胜任力
2.0	2026 年 3 月	加入组织经济学基础（Fama 与 Jensen、Hart 与 Moore、Holmstrom）。引入约束型组织。定义 CARE 八项原则
2.1	2026 年 3 月	把 CARE（哲学）与约束型组织（整合形态）分开。强化范围边界。代理理论基础得到加强

本文为 Hong (2026a)，源自 Hong, J. (2026)《Constraint Theater: Governance Without Wealth Effects》中的理论基础。命题 2 证明双平面模型为最优；约束作秀（命题 1）为信任与执行的分离提供动机。另请参阅：Hong, J. (2026b)《EATP: A Core Thesis》（信任验证）；Hong, J. (2026c)《CO: A Core Thesis》（方法论）；Hong, J. (2026d)《COC: A Core Thesis》（开发方法论）；Hong, J. (2026e)《The Constrained Organization》（机构设计）；Hong, J. (2026f)《PACT: A Core Thesis》（组织架构）。