机器人产品开发路径 · 评审门 05

安全案例、受控发布与现场学习

形成“主张—论证—证据”案例,只在获批边界内发布,并在硬件、软件与运营变化时持续更新证据。

本阶段必须回答是否有足够且针对具体配置的证据,使责任人能够批准有限发布,并在条件变化时停止?

进入本阶段前

必须带入的受控信息

  1. 01

    带关联证据的已闭合与未闭合需求

  2. 02

    危险分析、网络安全评估与人类监督计划

  3. 03

    实物配置、已验证软件与发布说明

  4. 04

    运行、维护、事件、回滚与退役程序

离开本阶段时

必须能够被评审的产物

  1. 01

    针对具体配置的安全与保障案例

  2. 02

    获批运行边界、培训与授权记录

  3. 03

    分阶段发布、监测、事件与回滚控制

  4. 04

    变更影响与定期重新评估计划

核心工作包

每项工作都要留下可以追踪的证据。

01

明确安全主张

说明每项安全或性能主张覆盖的准确系统、配置、任务、环境、人员与时间。

02

控制自主与回退

定义权限、模式感知、监督负担、干预时限、安全状态、降级运行,以及从不确定感知或规划中恢复的方法。

03

分阶段发布

在扩大运行前使用受防护试验、有限用户、有限场地与明确退出准则;不能用“试点”标签掩盖真实暴露。

04

从运营中学习

记录干预、未遂事件、事故、维修、模型漂移、环境变化与操作员反馈;重大变更后重新评估。

评审门问题

全部问题都应有证据,而不只是“是/否”。

  1. 01

    发布决定是否说明准确配置、场地、用户与有效期?

  2. 02

    操作员能否及时识别模式、限制与不确定性并采取行动?

  3. 03

    回退、停止与恢复是否在真实故障条件下经过测试?

  4. 04

    软件、模型、参数与硬件变化是否接受影响评审?

  5. 05

    现场证据能否触发隔离、纠正与案例更新?

本页可以支持

  • 01透明的有限发布决定
  • 02上线后的持续证据
  • 03可问责的变更、事件与回滚治理

本页不能替代

  • 01认证或监管批准
  • 02产品责任、法律或临床意见
  • 03具备资质且承担责任的人作出的真实发布决定