第 48 个主题,共 64 个· 数字政府里个公共价值
政府个 AI 价值
政府个 AI 价值,是要求公共服务里用个 AI 系统,要过搿搭其他任何支出决策一样个物有所值搭公共价值门槛——勿因为伊新鲜就放低要求,也勿因为大家怕伊就抬高要求。搿是一个交付团队勒 AI 功能上线之前(勿是之后)必须答得出个问题:拿保障、监督搭风险老老实实算进去以后,伊创造个价值有无比成本多?
为啥重要
英国中央数字与数据办公室(CDDO)勒 2024 年公布仔《政府生成式 AI 框架》(Generative AI Framework for Government),搿个框架建立勒 2023 年 6 月个早期临时指引基础上,围绕十条原则展开:生成式 AI 是啥、伊个伦理影响、工具安全、质量保障控制、管理生成式 AI 个整个生命周期、识别真正个应用场景、跨政府协作、透明度、技能,搿搭治理。框架坚持“有意义个人工控制”搭全生命周期管理,是因为 AI 项目个业务案例有一个别样 IT 支出无没个特有失败模式:试点个标题生产力数字容易做出来,也容易夸大,因为伊是勒还呒没算进工具带来个核验、纠错搭监督负担之前量个。搭框架配套个还有算法透明度记录标准(Algorithmic Transparency Recording Standard,ATRS),要求公共机构对会显著影响个人决定个算法工具,公布一份标准化记录——目个、用个数据、性能、公平性测试、人工监督安排——搿样一来,AI 系统个保障成本就变成公开记录,勿再是团队好悄悄跳过个内部估算。
数学
AI 个采用,是勒标准个物有所值评估之外个增加项来评估,勿是替代;AI 特有个各项要明明白白摆出来,勿好统统裹进一个“生产力提升”数字里:
AI 系统个净价值 =
生产力收益(节省个辰光 × 含附加成本个员工成本)
− 许可/算力成本
− 人工核验搭监督成本(AI 输出被采用之前要检查 ——
就算成熟个工具,搿项也勿会减到零)
− ATRS 文档搭持续监测成本
− 经风险调整个、错误、偏见或者幻觉造成个伤害成本,
按承担伤害个人群加权(distributional-weighting)
一个漏脱监督项个试点生产力数字,搭一个本来就包含
同等人工复核个常规成本基线,是勿好比个 —— 搿里借鉴个
更完整个生产力测量办法,参见 ai-productivity-in-the-public-sector
实例演算
地方政府用生成式 AI 工具起草常规市政税咨询个初次答复:一年 25,000 件咨询,以前完全由个案工作人员处理,平均每件 14 分钟,含附加成本个员工成本 £34/小时。
基线(无 AI)成本:
25,000 × (14/60) × £34 = £198,333/年
试点个标题声明:AI 90 秒起草一份答复,
个案工作人员“光是审阅搭发出”—— 声称新辰光是 3 分钟
25,000 × (3/60) × £34 = £42,500/年
→ 声称节省 £155,833/年(看上去是脱胎换骨)
全部成本都算进去个数字,勒正式上线 3 个月以后量个,
勿是试点里精心挑选个测试案例:
每份答复实际审阅 + 修改辰光:6 分钟(复杂或者
情绪敏感个咨询,草稿真个要大改)
25,000 × (6/60) × £34 = £85,000/年
许可/算力成本:£38,000/年
ATRS 文档搭季度偏见/质量监测:£14,000/年
总成本 = 85,000 + 38,000 + 14,000 = £137,000/年
真实节省 = 198,333 − 137,000 = £61,333/年 —— 是真个,
也值得保留,但是勿到试点标题声明个一半,
而且要老老实实量监督辰光(勿是试点里最好情形下个辰光)才寻得出来。
搭软件工程个关联
搿搭是 ai-productivity-in-the-public-sector 搭本主题碰头个地方:勒公共服务里做 AI 功能个工程团队,掌握仔仪表化个能力,实例演算里个“真实”数字才有可能得到——记录实际个审阅辰光、草稿搭发出答复之间个编辑距离、升级率,勿是相信试点演示条件下个数字。AI 功能应该对照数字服务标准第 9 条(安全服务、用户隐私)来评估;只要工具碰到市民数据,还要搭公共部门网络安全价值交叉对照;任何对个人决定有显著影响个 AI 系统,要先有 ATRS 记录才好算准备好接受评估,就像一项服务要通过数字服务标准评估才好上线一样。
容易踏个坑
- AI 洗白(AI-washing):拿现成个基于规则个自动化重新贴上“AI”个标签,去争取专门留给 AI 采用个经费或者关注,实际上伊拉无没真正需要框架额外审查个准确性搭偏见风险。
- 量试点生产力,勿量生产环境生产力:试点用个是精心挑选个测试案例,审阅个人又投入又仔细;生产环境面对个是全部乱七八糟个案例,审阅个人辰光长仔会产生自动化偏见,检查勿仔细——两样侪会扭曲老实个监督成本数字。
- 因为工具“其实勿算自动决策”就跳过 ATRS 登记:标准个门槛是对个人决定有显著影响,绝大多数面向市民个 AI 起草或者分流工具侪达到搿个门槛,就算名义上有人签字。
- 忽略错误个分配影响:AI 系统对全体用户平均个错误率,会掩盖某些特定群体高得多个错误或者偏见率;应该拿分配加权用勒经风险调整个伤害项上,勿是光看总体准确率数字。
资料来源
- Central Digital and Data Office, Generative AI Framework for Government (2024). https://www.gov.uk/government/publications/generative-ai-framework-for-hmg
- Algorithmic Transparency Recording Standard. https://www.gov.uk/government/collections/algorithmic-transparency-recording-standard-hub
- HM Treasury, Green Book: central government guidance on appraisal and evaluation. https://www.gov.uk/government/publications/the-green-book-appraisal-and-evaluation-in-central-governent