冻结公平性主张、受影响人群与伤害
- 判断问题
- 正在提出什么准确的公平性或偏差主张；针对哪个系统、决定、人群与可能伤害？
- 最低证据
- 逐字主张与日期；准确模型、政策、阈值与流程版本；决定及利益或伤害；受影响人群、权利与机会；主张责任人、决定责任人与到期日。
- 停止条件
- 公平性只表示善意、多样化演示，或没有显式敏感字段时，即停止。
一个公平性分数不等于公平结果
公平性主张必须把具体伤害、受影响人群、数据与标签、指标选择、决定流程及申诉机制放在一起。
不同公平性定义回答不同问题，有时无法同时满足。群体平均值、交叉群体、个体经历、代表性伤害与机会分配也不能相互替代。真正的判断要从具体决定和伤害开始，而不是从现成指标开始。
适用边界本页是公共研究方法，不代表 FUURAA 或 FUUVO 产品能力，也不评价任何模型、供应商或部署；不构成公平性保证、认证、审计、采购、投资、法律、就业、信贷、医疗或合规意见。
六道可拒绝的证据门
每道门都回答一个判断问题、要求最低证据，并在关键未知时停止外推或缩小结论。
版本化总体、数据沿袭与标签
- 判断问题
- 哪些人被代表、被观察或缺失；特征、代理变量、标签与结果如何产生？
- 最低证据
- 目标总体与抽样框架；采集日期、来源及适用时的同意；群体定义与自我认同规则；缺失、排除与代理变量；标签来源、分歧、历史决定与测量误差。
- 停止条件
- 基准类别被当作普遍身份、历史结果被假定为中立，或被排除人群与缺失属性不可见时停止。
重建完整决定与反馈链路
- 判断问题
- 数据、模型分数、排序、阈值、人员、政策与反馈如何共同产生最终结果？
- 最低证据
- 特征与表征链路；提示、检索与工具；模型及后处理；阈值与队列；人工复核与覆盖；申诉；下游行动；反馈、再训练与曝光循环。
- 停止条件
- 组件级基准被描述为对评估从未观察的社会技术结果的证明时停止。
选择匹配伤害的指标并拆分不确定性
- 判断问题
- 哪个公平性准则对应所声明的伤害；相关群体与交叉群体的结果如何？
- 最低证据
- 任务效用与错误成本；群体样本量与分母；适用时的选择率、假阳性率与假阴性率；适用时的校准与排序曝光；比率与差值；交叉群体；置信区间、重复抽样及对群体定义的敏感性。
- 停止条件
- 单一汇总分数掩盖群体失败、某个公平定义被视为普遍标准，或小群体被悄然删除或过度解读时停止。
检验缓解措施、权衡与剩余伤害
- 判断问题
- 干预是否在完整流程中减少所指伤害，而没有把伤害转移到其他群体、指标或阶段？
- 最低证据
- 未缓解基线；预处理、训练中与后处理方案；带不确定性的效用及群体指标；群体与交叉结果；阈值与政策替代方案；代理泄漏；失败复核；工作量、延迟与可及性影响。
- 停止条件
- 改善偏好指标便被称为去偏，而没有报告效用损失、错误转移、新排除与剩余伤害时停止。
与受影响人群验证、监测并提供申诉
- 判断问题
- 主张在目标流程中是否仍然有用且可质疑；何时必须重新验证或撤回？
- 最低证据
- 分阶段部署与受影响利益相关者复核；可访问的告知与解释；申诉与纠正路径；人工权限与能力；按群体及交叉群体监测；漂移与政策触发器；回滚、责任人与到期日。
- 停止条件
- 一次性审计成为永久公平标签，或人们无法理解、质疑或纠正重大结果时停止。
最低公平性与偏差主张失效矩阵
主动检查这些情形，才能区分好看的公平性数字与可用于决定的公平性证据。
- 01总体准确率掩盖某个交叉群体的显著错误差异
记录受影响人群、总体、交叉群体、指标、流程阶段与决定；保留仍成立的最窄结论，并明确需要重新取样、拆分结果、改变政策、提供申诉还是撤回主张。
- 02人口统计均等被描述为公平性的普遍证明
记录受影响人群、总体、交叉群体、指标、流程阶段与决定；保留仍成立的最窄结论，并明确需要重新取样、拆分结果、改变政策、提供申诉还是撤回主张。
- 03删除敏感字段便被称为去偏，但代理变量仍然存在
记录受影响人群、总体、交叉群体、指标、流程阶段与决定；保留仍成立的最窄结论，并明确需要重新取样、拆分结果、改变政策、提供申诉还是撤回主张。
- 04基准群体与标签不匹配实际部署总体
记录受影响人群、总体、交叉群体、指标、流程阶段与决定；保留仍成立的最窄结论，并明确需要重新取样、拆分结果、改变政策、提供申诉还是撤回主张。
- 05缓解措施改善一个指标，却降低效用或加剧另一种伤害
记录受影响人群、总体、交叉群体、指标、流程阶段与决定；保留仍成立的最窄结论，并明确需要重新取样、拆分结果、改变政策、提供申诉还是撤回主张。
- 06小样本或缺失群体被省略、结果不稳定或被过度解读
记录受影响人群、总体、交叉群体、指标、流程阶段与决定；保留仍成立的最窄结论，并明确需要重新取样、拆分结果、改变政策、提供申诉还是撤回主张。
- 07礼貌的生成输出掩盖刻板印象、抹除或不均等拒答
记录受影响人群、总体、交叉群体、指标、流程阶段与决定；保留仍成立的最窄结论，并明确需要重新取样、拆分结果、改变政策、提供申诉还是撤回主张。
- 08上线前审计忽略漂移、反馈循环、申诉与纠正
记录受影响人群、总体、交叉群体、指标、流程阶段与决定；保留仍成立的最窄结论，并明确需要重新取样、拆分结果、改变政策、提供申诉还是撤回主张。
最低公平性与偏差评估记录
让下一位复核者能够在相同总体、数据、标签、群体定义、指标、决定链与申诉边界下重建结论。
- 01准确主张、日期、责任人、决定、受影响人群、伤害与到期
- 02目标总体、抽样框架、时间窗、排除与缺失
- 03数据来源、采集、适用时的同意、特征与代理变量
- 04标签与结果、测量规则、分歧与历史决定
- 05完整模型、提示、排序、阈值、人工与下游决定链路
- 06所选公平性准则、理由、任务效用与错误成本
- 07群体与交叉样本量、指标、不确定性与敏感性分析
- 08基线、缓解方案、权衡、错误转移与剩余伤害
- 09利益相关者复核、告知、解释、申诉、纠正与人工能力
- 10最窄有支持结论、监测、回滚与重新验证触发器
统一证据状态
把结论绑定到准确系统、总体、群体定义、伤害、指标、流程与日期。
有支持
准确主张在可复现目标流程中，对相关群体与交叉群体达到所声明、与伤害匹配的准则。
有条件
证据只支持指定总体、群体定义、决定、指标、阈值、缓解措施与运行控制。
结果混合
效用或伤害在群体、交叉群体、指标、时段或流程阶段间不同，须拆分报告。
证据不足
善意、多样化样例、没有敏感字段或单一汇总指标无法证明公平性。
来源、证据作用与不可外推边界
每项来源都只支持它实际研究的部分；发布日期与边界必须随结论保留。
2022 年 3 月 15 日发布
NIST SP 1270 — Towards a Standard for Identifying and Managing Bias in Artificial Intelligence
证据作用将 AI 偏差视为贯穿生命周期、可能来自系统性、统计性与人为过程的社会技术问题。
不可外推风险管理框架不会替具体部署选择普遍适用的公平定义、阈值或法律结论。
打开一手来源 ↗2018 年 2 月 23 日发布
Gender Shades — Intersectional Accuracy Disparities in Commercial Gender Classification
证据作用通过按性别与肤色交叉群体报告结果，显示总体准确率为何可能掩盖显著差异。
不可外推选定商业性别分类器及研究数据集上的结果，不能证明其他系统、任务、身份、总体或当前版本的表现。
打开一手来源 ↗2018 年 3 月 23 日首次提交；2021 年 12 月正式发表
Datasheets for Datasets
证据作用提出系统记录数据集动机、组成、采集、处理、用途、分发与维护的方法。
不可外推文档能够改善可追溯性，但本身不能证明覆盖具有代表性、标签有效或结果公平。
打开一手来源 ↗2018 年 10 月 5 日首次提交；2019 年 1 月正式发表
Model Cards for Model Reporting
证据作用提出记录预期用途、评估程序，以及在相关群体与条件下拆分报告性能。
不可外推模型卡是报告机制，不等于独立验证，也不能证明实际部署流程与所报告条件一致。
打开一手来源 ↗2023 年 7 月发布
Fairlearn — A toolkit for assessing and improving fairness in AI
证据作用提供评估与缓解工具，使群体指标、差异及准确性—公平性权衡可以被检查。
不可外推工具包无法替真实决定选择适当的伤害、群体、约束或权衡；这些仍是依情境承担责任的选择。
打开一手来源 ↗2023 年 6 月 28 日首次提交
CBBQ — A Chinese Bias Benchmark Dataset Curated with Human-AI Collaboration
证据作用中国团队主导的基准在模糊与已消歧语境中，研究中文问答横跨十四个社会维度的偏差。
不可外推选定中文提示、类别与模型的基准结果，不能覆盖所有华文变体、身份、生成行为或部署伤害。
打开一手来源 ↗Fairlearn 0.12 文档，2026 年 10 月 12 日访问
Fairlearn assessment guide — Perform a fairness assessment
证据作用说明如何比较拆分指标与差异，同时把公平性评估视为依赖具体情境的过程。
不可外推指标计算不能决定观察到的差异是否有害、可接受或合法；小群体结果还需要结合不确定性解释。
打开一手来源 ↗FUURAA analysis
真正可用的公平性证据，不是证明系统“没有偏差”，而是让具体伤害、差异、权衡与补救在真实决定中可见、可质疑、可纠正。
FUURAA™ 赋睐™ 的方法结论是：不能从一个汇总公平性分数、删除敏感字段或通过一次基准测试直接推断公平结果。最小证据链必须连接准确系统与政策版本、受影响人群和具体伤害、数据与标签沿袭、完整决定链、与情境匹配且带不确定性的拆分指标、交叉群体、缓解权衡、人工能力、申诉纠正，以及带到期日的持续监测。