第 48 个主题,共 64 个· 数字政府中的公共价值
政府中人工智能的价值
政府中人工智能的价值,是指公共服务中使用的 AI 系统必须达到与其他任何支出决策相同的物有所值与公共价值标准——不能因为它新颖而放低门槛,也不能因为它令人畏惧而抬高门槛。这是交付团队必须在 AI 功能上线之前、而不是上线之后就能回答的问题:在诚实计入保证、监督与风险成本之后,它所产生的价值是否高于其成本?
为何重要
英国中央数字与数据办公室(Central Digital and Data Office,CDDO)在 2023 年 6 月发布过渡性指南的基础上,于 2024 年发布了《政府生成式人工智能框架》(Generative AI Framework for Government),围绕十项原则展开:什么是生成式 AI、其伦理影响、工具安全性、质量保证控制、生成式 AI 全生命周期管理、识别真实的应用场景、跨政府协作、透明度、技能与治理。该框架之所以坚持"有意义的人为控制"和全生命周期管理,是因为 AI 项目的商业论证存在一种其他 IT 支出所没有的特定失败模式:试点项目的头条生产力数字很容易产出,也很容易被夸大,因为它是在计入该工具所带来的核查、纠正与监督负担之前测算出来的。与该框架并行的还有算法透明度记录标准(Algorithmic Transparency Recording Standard,ATRS),它要求公共机构为那些对个人相关决策具有重大影响的算法工具,发布一份标准化记录——用途、所用数据、性能、公平性测试、人为监督安排——这使得 AI 系统的保证成本成为公开记录的一部分,而不是团队可以悄悄略过的内部估算。
数学原理
AI 的采用应作为标准物有所值评估的补充项来评估,而非替代品,并且要将 AI 特有的各项成本明确列出,而不是笼统折算进单一的"生产力提升"数字:
AI 系统的净价值 =
生产力提升(节省的时间 × 全成本员工时薪)
− 许可/算力成本
− 人工核查与监督成本(在采纳 AI 输出之前进行核查——
即便对于成熟的工具,这项成本也不会降为零)
− ATRS 文档编制与持续监控成本
− 按承担者加权后(distributional-weighting)的
错误、偏见或幻觉造成的风险调整损害成本
一个省略了监督成本项的试点生产力数字,不能与已经包含
等量人工审核的现行业务成本基线相比较——关于此处所借用的
更完整生产力测量纪律,参见 ai-productivity-in-the-public-sector。
实例演算
某地方政府使用生成式 AI 工具起草常规市政税咨询的初步回复:每年 25,000 宗咨询,此前完全由个案工作人员处理,平均每宗耗时 14 分钟,全成本员工时薪 34 英镑。
基线(无 AI)成本:
25,000 × (14/60) × 34 英镑 = 198,333 英镑/年
试点的头条宣称:AI 在 90 秒内起草一份回复,
个案工作人员"只需审阅并发送"——宣称新耗时为 3 分钟
25,000 × (3/60) × 34 英镑 = 42,500 英镑/年
→ 宣称节省 155,833 英镑/年(看起来具有变革性)
在上线运行 3 个月后(而非在试点精心挑选的测试案例中)
测算出的全成本数字:
每份回复实际的审核+纠正时间:6 分钟(对于复杂
或情感敏感的咨询,草稿需要真正的编辑)
25,000 × (6/60) × 34 英镑 = 85,000 英镑/年
许可/算力成本:38,000 英镑/年
ATRS 文档编制与季度偏见/质量监控:14,000 英镑/年
总成本 = 85,000 + 38,000 + 14,000 = 137,000 英镑/年
实际节省 = 198,333 − 137,000 = 61,333 英镑/年——是真实的、
值得保留的节省,但远低于试点头条宣称数字的一半,而且需要
诚实测算监督时间(而非试点的最佳情形)才能得出。
与软件工程的关联
这正是 ai-productivity-in-the-public-sector 与本主题的交汇之处:将 AI 功能构建进公共服务的工程团队,掌握着使实例演算中"实际"数字得以成立的仪表化能力——记录实际审核时间、草稿与最终发送回复之间的编辑距离,以及升级处理比率,而不是依赖试点演示环境下的条件。AI 功能应对照数字服务标准第 9 条(安全的服务、用户隐私)进行评估,并在工具涉及公民数据时与公共部门网络安全价值交叉核对;任何对个人相关决策具有重大影响的 AI 系统,在被视为具备评估资格之前都需要一份 ATRS 记录,就如同一项服务在上线前需要通过数字服务标准评估一样。
常见陷阱
- "AI 包装"(AI-washing):将现有的基于规则的自动化重新贴上"AI"标签,以获取本为 AI 采用而设的资金或关注,却不具备真正值得该框架施以额外审查的准确性或偏见风险。
- 测量试点生产力而非生产环境生产力:试点运行在经过筛选的测试案例上、由投入且专注的审核人员操作;生产环境运行在完整而混乱的案例组合上,审核人员随着时间推移会产生自动化偏见,对输出核查不足——两者都会扭曲诚实的监督成本数字。
- 以"这不算真正的自动化决策"为由跳过 ATRS 注册:该标准的门槛是对个人相关决策具有重大影响,大多数面向公民的 AI 起草或分诊工具都符合这一条件,即便名义上由人工签字批准。
- 忽视错误的分布性影响:一个在所有用户中平均计算的 AI 系统错误率,可能掩盖特定群体中高得多的错误率或偏见率;应将分布性加权应用于风险调整后的损害成本项,而不只是应用于整体准确率数字。
参考资料
- Central Digital and Data Office, Generative AI Framework for Government (2024). https://www.gov.uk/government/publications/generative-ai-framework-for-hmg
- Algorithmic Transparency Recording Standard. https://www.gov.uk/government/collections/algorithmic-transparency-recording-standard-hub
- HM Treasury, Green Book: central government guidance on appraisal and evaluation. https://www.gov.uk/government/publications/the-green-book-appraisal-and-evaluation-in-central-governent