创始原则 03

以人类福祉为设计起点

AI 应当扩展人的自主性、能力与可能性,而不是把人简化为待优化的输入。

核心主张

人类福祉应进入架构,而不是出现在技术完成后的附言中。

人类福祉不能成为技术完成后才附加上去的口号,而应从一开始就影响系统目标、交互方式、安全保障、激励机制与评估方法。FUURAA™ 赋睐™ 所理解的福祉,是扩展人们真实拥有的学习、创造、工作、合作、照顾他人以及塑造自身未来的能力。

以人为本的架构

建设既能完成任务,也能增强人的系统。

人类福祉不只是效率提升,还包括自主性、包容性、能力成长、社会语境,以及能够接受长期检验的真实结果。

01

超越单一效率目标

效率具有价值,但不能完整代表人类进步。一个系统可能降低时间与成本,却同时削弱判断力、自主性、专业能力或社会信任。因此,设计不仅要追问“人可以更快完成什么”,还要追问“使用系统之后,人的哪些能力、关系与选择变得更强”。

02

自主、同意与可质疑性

当人工智能参与具有重要影响的决策时,受影响的人应当能够理解系统发挥了什么作用,拥有切实控制方式,能够质疑重要结果,并在适当情况下请求人工复核。同意不应通过复杂条款、用户疲劳或缺乏实际替代方案而被动形成。

03

增强能力,而不是制造依赖

最理想的人机关系,并不是技术让人永久失去独立行动能力。系统应帮助用户形成理解、保留可迁移的知识并作出知情选择。当人工智能在完成任务的同时也增强使用者自身能力时,这种帮助才具有更长期的价值。

04

包容性也是工程问题

语言、残障状况、收入、地域、年龄、文化与基础设施条件,都会影响谁能从人工智能中获益,以及谁更可能承担系统错误。包容性不仅是扩大访问范围,还需要跨场景测试、识别利益与风险的分配差异,并主动考虑那些通常缺席于默认数据集与界面设计的人群。

05

技术进入的是社会系统

人工智能从来不是孤立运行的。它会进入家庭、工作场所、市场、学校、医疗环境、公共服务与文化共同体。负责任的设计必须考虑技术如何改变权力关系、激励结构、专业角色与社会信任,而不能只判断某个技术组件是否按规格运行。

06

福祉必须能够被评估

有关社会价值的主张,应当与可观察结果相连接,并接受长期检验。相关指标可以包括可及性、用户控制、能力成长、错误分布、被释放用于有意义活动的时间、决策质量与非预期伤害。没有任何单一指标可以代表理想的人类未来,但完全缺乏衡量会让愿景失去责任约束。

运营承诺

在扩展人类可能性的同时,保护人的自主性。

在高影响设计选择被固化进架构、界面与激励机制之前,必须先考虑真实的人类结果。

01

明确预期的人类结果

在高影响设计决策前,明确真实的人类目标及主要受影响群体。

02

保留控制与救济

在影响足够重要的场景中,提供说明、控制、申诉、人工复核与退出机制。

03

把包容性作为工程要求

评估可及性、语言、文化环境及错误的不平等分布。

04

拒绝利用弱点制造依赖

减少不必要的数据收集,避免以利用人类弱点为目标的参与机制。

05

评估下游影响

当可信证据显示存在重大伤害或人的自主性受到严重削弱时,修正、限制或暂停系统。

披露边界

设计标准不等于已经实现社会结果。

本原则是一项设计与治理标准,并不证明 FUURAA™ 赋睐™ 的每个项目已经产生可衡量的社会价值。人类福祉取决于具体环境、制度条件以及众多外部参与者。每个系统与使用场景的收益、限制与风险,都必须分别接受实证评估。除非某项 FUURAA™ 赋睐™ 产品已经为特定角色完成明确设计、取得授权并通过验证,否则不应被视为合格专业判断或负责任公共机构的替代品。

面向未来

建设配得上人类未来的 AI 系统。

FUURAA™ 赋睐™ 的志向,不是让人去适应 AI 系统,而是建设配得上人类未来的 AI 系统。