反思型人工智能企业(The Reflective AI Enterprise)
The Reflective AI Enterprise(反思型人工智能企业)是泰睿基金会推出的一档播客,由洪博士(Dr. Jack Hong)主持。节目关注组织在实践中(而非理论或政策文件中)如何治理自主系统,关注的是那些决定人工智能自主究竟带来问责还是混乱的日常决策。
关于人工智能治理的讨论由两种极端主导:一端是不加批判的乐观(「人工智能将解决一切」),另一端是监管焦虑(「人工智能须在造成损害之前被管控」)。这两种立场都难以为当下实际部署自主系统的组织提供有用的指导。
本播客处于这两端之间的空间。每一集聚焦一个具体的治理挑战,并通过实干者的视角来审视:构建信任基础设施的工程师、划定约束边界的组织负责人,以及研究自主系统在政策未预料到的边缘情形下会发生什么的研究者。
背后的根本问题始终相同:人类到底是为什么而在? 这不是一个哲学上的抽象问题,而是一个有真实后果的组织设计问题。
本播客取材于基金会在治理、信任架构与组织设计方面的工作:
- 自主系统的治理:组织如何构建人机协作关系。何者有效、何者失败,以及证据究竟表明了什么。
- CARE 框架的实践:双平面模型(英文)、约束包络(英文),以及哲学与实现相遇时会发生什么。
- 基于章程的人工智能治理:法律结构(而不仅是技术手段)如何治理人工智能运营。泰睿基金会 77 条章程 对机构设计的启示。
- 人工智能伦理与人工智能治理之间的落差:为何 84 多个伦理框架并未产生一致的治理实践,以及如何可能弥合这一落差。
- 信任验证:EATP 协议(英文)如何使信任从被假定转为可被验证,以及密码学意义上的信任谱系对企业级人工智能采用的意义。
- 镜像命题:当人工智能承担某一岗位中可度量的任务时会发生什么,这面镜子(英文)揭示了人之价值何在。
- 自主托管与约束型组织:基金会以自身标准治理自身的过程中得到的经验:成功、失败与意外。
每集综合深度分析、案例研究与对从业者与研究者的访谈。语言力求严谨与技术性,但不排斥非技术读者,面向任何对自主系统作出决策的人开放,无论其是否写代码。
在 Spotify、Apple Podcasts 或您惯用的播客平台搜索 “The Reflective AI Enterprise”。
有意成为嘉宾,或希望就某个值得讨论的治理挑战交流?请联系 jack@terrene.foundation。