第 48 個主題,共 64 個· 數位政府中的公共價值
政府中人工智慧的價值
政府中人工智慧的價值,是指公共服務中使用的 AI 系統必須達到與其他任何支出決策相同的物有所值與公共價值標準——不能因為它新穎而放低門檻,也不能因為它令人畏懼而抬高門檻。這是交付團隊必須在 AI 功能上線之前、而不是上線之後就能回答的問題:在誠實計入保證、監督與風險成本之後,它所產生的價值是否高於其成本?
為何重要
英國中央數位與資料辦公室(Central Digital and Data Office,CDDO)在 2023 年 6 月釋出過渡性指南的基礎上,於 2024 年釋出了《政府生成式人工智慧框架》(Generative AI Framework for Government),圍繞十項原則展開:什麼是生成式 AI、其倫理影響、工具安全性、品質保證控制、生成式 AI 全生命週期管理、識別真實的應用場景、跨政府協作、透明度、技能與治理。該框架之所以堅持"有意義的人為控制"和全生命週期管理,是因為 AI 專案的商業案例存在一種其他 IT 支出所沒有的特定失敗模式:試點專案的頭條生產力數位很容易產出,也很容易被誇大,因為它是在計入該工具所帶來的核查、糾正與監督負擔之前測算出來的。與該框架並行的還有演算法透明度記錄標準(Algorithmic Transparency Recording Standard,ATRS),它要求公共機構為那些對個人相關決策具有重大影響的演算法工具,釋出一份標準化記錄——用途、所用資料、效能、公平性測試、人為監督安排——這使得 AI 系統的保證成本成為公開記錄的一部分,而不是團隊可以悄悄略過的內部估算。
數學原理
AI 的採用應作為標準物有所值評估的補充項來評估,而非替代品,並且要將 AI 特有的各項成本明確列出,而不是籠統折算進單一的"生產力提升"數位:
AI 系統的淨價值 =
生產力提升(節省的時間 × 全成本員工時薪)
− 許可/算力成本
− 人工核查與監督成本(在採納 AI 輸出之前進行核查——
即便對於成熟的工具,這項成本也不會降為零)
− ATRS 檔案編制與持續監控成本
− 按承擔者加權後(distributional-weighting)的
錯誤、偏見或幻覺造成的風險調整損害成本
一個省略了監督成本項的試點生產力數位,不能與已經包含
等量人工稽核的現行業務成本基線相比較——關於此處所借用的
更完整生產力測量紀律,參見 ai-productivity-in-the-public-sector。
實例演算
某地方政府使用生成式 AI 工具起草常規市政稅諮詢的初步回覆:每年 25,000 宗諮詢,此前完全由個案工作人員處理,平均每宗耗時 14 分鐘,全成本員工時薪 34 英鎊。
基線(無 AI)成本:
25,000 × (14/60) × 34 英鎊 = 198,333 英鎊/年
試點的頭條宣稱:AI 在 90 秒內起草一份回覆,
個案工作人員"只需審閱併傳送"——宣稱新耗時為 3 分鐘
25,000 × (3/60) × 34 英鎊 = 42,500 英鎊/年
→ 宣稱節省 155,833 英鎊/年(看起來具有變革性)
在上線運作 3 個月後(而非在試點精心挑選的測試案例中)
測算出的全成本數位:
每份回覆實際的稽核+糾正時間:6 分鐘(對於複雜
或情感敏感的諮詢,草稿需要真正的編輯)
25,000 × (6/60) × 34 英鎊 = 85,000 英鎊/年
許可/算力成本:38,000 英鎊/年
ATRS 檔案編制與季度偏見/品質監控:14,000 英鎊/年
總成本 = 85,000 + 38,000 + 14,000 = 137,000 英鎊/年
實際節省 = 198,333 − 137,000 = 61,333 英鎊/年——是真實的、
值得保留的節省,但遠低於試點頭條宣稱數位的一半,而且需要
誠實測算監督時間(而非試點的最佳情形)才能得出。
與軟體工程的關聯
這正是 ai-productivity-in-the-public-sector 與本主題的交匯之處:將 AI 功能建置進公共服務的工程團隊,掌握著使實例演算中"實際"數位得以成立的儀表化能力——記錄實際稽核時間、草稿與最終傳送回覆之間的編輯距離,以及升級處理比率,而不是依賴試點演示環境下的條件。AI 功能應對照數位服務標準第 9 條(安全的服務、使用者隱私)進行評估,並在工具涉及公民資料時與公共部門網路安全價值交叉核對;任何對個人相關決策具有重大影響的 AI 系統,在被視為具備評估資格之前都需要一份 ATRS 記錄,就如同一項服務在上線前需要透過數位服務標準評估一樣。
常見陷阱
- "AI 包裝"(AI-washing):將現有的基於規則的自動化重新貼上"AI"標籤,以獲取本為 AI 採用而設的資金或關注,卻不具備真正值得該框架施以額外審查的準確性或偏見風險。
- 測量試點生產力而非生產環境生產力:試點運作在經過篩選的測試案例上、由投入且專注的稽核人員操作;生產環境運作在完整而混亂的案例組合上,稽核人員隨著時間推移會產生自動化偏見,對輸出核查不足——兩者都會扭曲誠實的監督成本數位。
- 以"這不算真正的自動化決策"為由跳過 ATRS 註冊:該標準的門檻是對個人相關決策具有重大影響,大多數面向公民的 AI 起草或分診工具都符合這一條件,即便名義上由人工簽字批准。
- 忽視錯誤的分佈性影響:一個在所有使用者中平均計算的 AI 系統錯誤率,可能掩蓋特定群體中高得多的錯誤率或偏見率;應將分佈性加權應用於風險調整後的損害成本項,而不只是應用於整體準確率數位。
參考資料
- Central Digital and Data Office, Generative AI Framework for Government (2024). https://www.gov.uk/government/publications/generative-ai-framework-for-hmg
- Algorithmic Transparency Recording Standard. https://www.gov.uk/government/collections/algorithmic-transparency-recording-standard-hub
- HM Treasury, Green Book: central government guidance on appraisal and evaluation. https://www.gov.uk/government/publications/the-green-book-appraisal-and-evaluation-in-central-governent