政策简报Singapore

第三方研究摘要 · 新加坡 IMDA

从新加坡出发：负责任部署 Agentic AI 的基础

新加坡更新后的治理框架把风险边界、人类问责、技术控制与透明度，同真实部署案例结合起来。

更新版 Agentic AI 模型治理框架2026 年 5 月 20 日

阅读原始来源 ↗

概念视觉

独立编辑分析

本文是 FUURAA 基于所列公开来源撰写的编辑分析，与被引用机构相互独立。原始资料仍归其作者及发布机构署名，资料选择、综合与判断由 FUURAA 负责。除非另有明确说明，任何被引用机构均未审阅、认可或支持本文。

外部公开资料

公开来源说明了什么

IMDA 更新后的框架吸收了 60 多家机构的反馈，并加入 10 多个案例，展示不同组织如何把负责任的 Agentic AI 措施落到实际系统中。

更新内容覆盖多 Agent 系统、第三方 Agent 与自动化偏见等问题，并强调技术防护必须与组织责任结合，最终责任仍由人类承担。

FUURAA 编辑分析

FUURAA 编辑观点

面向公共利益、以证据为基础的分析

Agent 治理应从部署前开始：明确用途、限制权限、测试失效方式、保留有效监督，并向用户清楚说明系统边界。

作为立足新加坡的科技集团，FUURAA 将该框架视为负责任思考的重要公开参考；这不构成政府对 FUURAA 或其产品的认可。

核心判断

负责任的 Agent 治理应从确定用途、权限与责任时开始，而不是在事故发生后才补充。
技术防护不可缺少，但不能替代组织责任、有效的人类控制与面向用户的清楚说明。
新加坡的框架为实际部署提供重要公共参考，但引用该框架不代表政府批准或认可 FUURAA 及其任何产品。

治理应从决定部署的那一刻开始

IMDA 更新后的框架吸收了 60 多家机构的反馈，并包含 10 多个实际案例。其更重要的意义，是把治理视为日常运行纪律，而不是上线前最后补交的一份合规文件。在部署 Agent 之前，组织应能说明系统服务什么目的、可以采取哪些行动、能够使用哪些信息，以及哪些情况必须交由人类复核。如果这些边界从一开始就不清楚，监测和事故响应往往只能在用户已经受到影响之后发现问题。

人类问责必须真实有效，而不是形式存在

框架强调最终责任仍由人类承担，但只有当负责的人或组织拥有相应权限、信息与介入能力时，这项原则才有实际意义。一个不了解系统、看不到关键活动或无法停止行动的名义审核者，并不能构成有效监督。负责任部署需要明确责任人、保留可访问记录、建立升级路径，并在后果重要时给予充分复核时间。人类控制应围绕真实决策过程进行设计，而不能只表现为一个几乎没有实际作用的批准按钮。

Agentic 系统带来相互连接的风险

更新内容涉及多 Agent 系统、第三方 Agent 与自动化偏见，而这些问题往往彼此关联。组织可能清楚了解自己的 Agent，却无法同等掌握参与结果的外部服务；多个 Agent 分工后，责任链可能变得难以追踪；用户也可能因为输出看起来肯定而放弃必要复核。治理因此必须观察完整的授权、数据访问、工具调用与结果整合链条，并将产品界面之外的第三方依赖纳入风险判断，而不是只审核最终显示给用户的一段答案。

透明度必须帮助用户采取行动

有效透明度应提供用户能够实际运用的信息：目前是否由 Agent 与其互动、系统预定完成什么、仍有哪些重要限制、使用哪些信息，以及如何要求人工复查或报告问题。发布冗长技术说明并不必然产生知情使用。信息应与决策风险相称，并在用户真正需要作出判断的位置出现。对于可能带来较大影响的行动，解释、确认与升级机制应明显强于低后果的辅助任务。

不同观点与不确定性

现有证据尚不能确定什么

过于详细的治理要求可能对低风险试验造成不成比例的成本，因此控制强度应根据用途、自主程度、受影响人群与潜在后果调整。
让人类在形式上承担责任并不会自动改善结果；如果负责人缺乏能力、及时信息或挑战系统的实际权限，监督仍可能失效。

公共利益与各方影响

这对不同参与者意味着什么

公众

用户应获得关于 Agent 角色、限制与复查渠道的易懂信息，尤其是在系统行动可能影响重要权益时。

组织与行业

团队应把明确责任、权限边界、测试、监测、升级与事故响应纳入部署本身，而不是作为分离的文书工作。

政策

治理指引应保持风险导向和结果导向，同时明确组织不能把全部责任转交给自主系统。

研究

评估应测试自动化偏见、第三方依赖、多 Agent 授权，以及真实条件下人工介入是否及时有效。

下一步观察什么

组织如何把框架原则转化为可以在运行系统中观察和验证的控制措施。
当第三方 Agent 或多个 Agent 共同形成结果时，监督是否仍然有效。
用户是否得到边界说明，并拥有真正可用的复查、纠正与事故报告渠道。

结论

新加坡更新后的框架有助于把讨论从抽象原则推进到实际责任。负责任的 Agentic AI 不只是安全模型或书面政策，还需要有限且清楚的权限、可追究的责任主体、可测试的防护、用户能够理解的信息，以及真正可执行的人工介入。不同场景需要不同强度的控制，但核心原则不应改变：自主程度越高，就越需要证明人和组织能够理解、治理并在必要时纠正系统。

独立性与相关性披露

本文是 FUURAA 对所引 IMDA 公开材料的独立编辑解读，不构成法律意见，也不表示新加坡政府对 FUURAA 或其产品提供批准、认证或认可。

前瞻观察

每项部署都应回答的问题

限制任务边界

Agent 可以做什么，哪些行为必须始终超出其权限？

保留明确问责

由谁对结果、异常与升级处理承担最终责任？

让控制可见

监测、人工介入、用户告知与事故响应如何真正实施？