หัวข้อที่ 48 จาก 64· คุณค่าสาธารณะในรัฐบาลดิจิทัล

คุณค่าของ AI ในภาครัฐ

คุณค่าของ AI ในภาครัฐคือข้อกำหนดว่าระบบ AI ที่ใช้ในบริการสาธารณะต้องผ่านเกณฑ์ความคุ้มค่าของเงินและคุณค่าสาธารณะระดับเดียวกับการตัดสินใจใช้จ่ายอื่น ๆ — ไม่ใช่เกณฑ์ที่ต่ำกว่าเพราะเป็นของใหม่ และไม่ใช่เกณฑ์ที่สูงกว่าเพราะถูกหวาดกลัว นี่คือคำถามที่ทีมส่งมอบต้องตอบให้ได้ก่อน ไม่ใช่หลัง ที่ฟีเจอร์ AI จะเปิดใช้งาน: สิ่งนี้สร้างคุณค่ามากกว่าต้นทุนหรือไม่ เมื่อประเมินราคาของการรับรอง การกำกับดูแล และความเสี่ยงอย่างตรงไปตรงมาแล้ว

เหตุใดจึงสำคัญ

Central Digital and Data Office (CDDO) ของสหราชอาณาจักรเผยแพร่ Generative AI Framework for Government ในปี 2024 ต่อยอดจากแนวทางชั่วคราวเมื่อเดือนมิถุนายน 2023 และจัดโครงสร้างรอบหลักการสิบข้อ ครอบคลุมสิ่งที่ AI เชิงสร้างสรรค์เป็น ผลกระทบด้านจริยธรรม ความมั่นคงปลอดภัยของเครื่องมือ การควบคุมการประกันคุณภาพ การจัดการวงจรชีวิตทั้งหมดของ AI เชิงสร้างสรรค์ การระบุกรณีใช้งานที่แท้จริง ความร่วมมือข้ามหน่วยงานรัฐบาล ความโปร่งใส ทักษะ และธรรมาภิบาล การที่กรอบนี้ยืนกรานเรื่อง "การควบคุมโดยมนุษย์อย่างมีความหมาย" และการจัดการวงจรชีวิตทั้งหมด มีอยู่เพราะกรณีทางธุรกิจของโครงการ AI มีรูปแบบความล้มเหลวเฉพาะที่การใช้จ่ายด้านไอทีอื่นไม่มี: ตัวเลขผลิตภาพที่เป็นพาดหัวของโครงการนำร่องสร้างได้ง่ายและประเมินเกินจริงได้ง่าย เพราะวัดก่อนที่จะนับภาระการตรวจสอบ การแก้ไข และการกำกับดูแลที่เครื่องมือสร้างขึ้น ควบคู่กับกรอบนี้ Algorithmic Transparency Recording Standard (ATRS) กำหนดให้หน่วยงานสาธารณะเผยแพร่บันทึกมาตรฐาน — วัตถุประสงค์ ข้อมูลที่ใช้ ประสิทธิภาพ การทดสอบความเป็นธรรม การจัดการกำกับดูแลโดยมนุษย์ — สำหรับเครื่องมืออัลกอริทึมที่มีอิทธิพลสำคัญต่อการตัดสินใจเกี่ยวกับบุคคล ซึ่งทำให้ต้นทุนการรับรองของระบบ AI เป็นเรื่องของบันทึกสาธารณะ ไม่ใช่ประมาณการภายในที่ทีมจะข้ามไปเงียบ ๆ ได้

คณิตศาสตร์

การนำ AI มาใช้ถูกประเมินเป็นส่วนเสริมของ ไม่ใช่ทดแทน การประเมิน ความคุ้มค่าของเงิน มาตรฐาน โดยแสดงรายการเฉพาะของ AI อย่างชัดเจน แทนที่จะรวมไว้ในตัวเลข "ผลิตภาพที่เพิ่มขึ้น" ตัวเดียว:

มูลค่าสุทธิของระบบ AI =
    ผลิตภาพที่เพิ่มขึ้น (เวลาที่ประหยัด × ต้นทุนบุคลากรเต็มจำนวน)
  − ต้นทุนใบอนุญาต/การประมวลผล
  − ต้นทุนการตรวจสอบและกำกับดูแลโดยมนุษย์ (การตรวจผลลัพธ์ของ AI
    ก่อนนำไปใช้ — ค่านี้ไม่ลดลงเป็นศูนย์ แม้สำหรับเครื่องมือที่สุกงอมแล้ว)
  − ต้นทุนเอกสาร ATRS และการเฝ้าติดตามอย่างต่อเนื่อง
  − ต้นทุนความเสียหายที่ปรับตามความเสี่ยงจากข้อผิดพลาด อคติ หรือการหลอนของ AI
    ถ่วงน้ำหนักตามผู้ที่ต้องรับความเสียหายนั้น (การถ่วงน้ำหนักตามการกระจาย)

ตัวเลขผลิตภาพจากโครงการนำร่องที่ละเว้นรายการการกำกับดูแล ไม่สามารถ
เปรียบเทียบได้กับฐานต้นทุนปกติที่รวมการตรวจทานโดยมนุษย์ในระดับเดียวกันอยู่แล้ว —
ดู ผลิตภาพของ AI ในภาครัฐ สำหรับวินัยการวัดผลิตภาพที่สมบูรณ์ยิ่งขึ้นซึ่งนำมาใช้ที่นี่

ตัวอย่างการคำนวณ

หน่วยงานท้องถิ่นที่ใช้เครื่องมือ AI เชิงสร้างสรรค์ร่างคำตอบแรกสำหรับคำถามประจำเรื่องภาษีสภา: 25,000 คำถามต่อปี เดิมดำเนินการโดยเจ้าหน้าที่ทั้งหมด เฉลี่ย 14 นาทีต่อคำถาม ต้นทุนบุคลากรเต็มจำนวน 34 ปอนด์ต่อชั่วโมง

ต้นทุนฐาน (ไม่มี AI):
  25,000 × (14/60) × 34 ปอนด์ = 198,333 ปอนด์/ปี

ข้ออ้างพาดหัวของโครงการนำร่อง: AI ร่างคำตอบใน 90 วินาที
เจ้าหน้าที่ "ตรวจแล้วส่ง" — เวลาใหม่ที่อ้างคือ 3 นาที
  25,000 × (3/60) × 34 ปอนด์ = 42,500 ปอนด์/ปี
  → ประหยัดที่อ้าง 155,833 ปอนด์/ปี (ดูเหมือนเปลี่ยนแปลงครั้งใหญ่)

ตัวเลขต้นทุนเต็มจำนวน วัดหลังใช้งานจริง 3 เดือน แทนที่จะวัดใน
กรณีทดสอบที่คัดมาด้วยมือของโครงการนำร่อง:
  เวลาตรวจทาน + แก้ไขจริงต่อคำตอบ: 6 นาที (ร่างต้องแก้ไขจริง
  สำหรับคำถามที่ซับซ้อนหรืออ่อนไหวทางอารมณ์)
  25,000 × (6/60) × 34 ปอนด์ = 85,000 ปอนด์/ปี
  ต้นทุนใบอนุญาต/การประมวลผล: 38,000 ปอนด์/ปี
  เอกสาร ATRS และการเฝ้าติดตามอคติ/คุณภาพรายไตรมาส: 14,000 ปอนด์/ปี
  ต้นทุนรวม = 85,000 + 38,000 + 14,000 = 137,000 ปอนด์/ปี

การประหยัดที่แท้จริง = 198,333 − 137,000 = 61,333 ปอนด์/ปี — เป็นของจริง
และคุ้มค่าที่จะรักษาไว้ แต่ต่ำกว่าครึ่งหนึ่งของข้ออ้างพาดหัวของโครงการนำร่องมาก
และต้องอาศัยการวัดเวลากำกับดูแลอย่างซื่อตรง ไม่ใช่กรณีที่ดีที่สุดของ
โครงการนำร่อง จึงจะพบ

ความเชื่อมโยงกับวิศวกรรมซอฟต์แวร์

ตรงนี้คือจุดที่ ผลิตภาพของ AI ในภาครัฐ และหัวข้อนี้มาบรรจบกัน: ทีมวิศวกรรมที่สร้างฟีเจอร์ AI ในบริการสาธารณะเป็นเจ้าของเครื่องมือวัดที่ทำให้ตัวเลข "ที่แท้จริง" ในตัวอย่างเป็นไปได้ — การบันทึกเวลาตรวจทานจริง ระยะการแก้ไขระหว่างร่างกับคำตอบที่ส่งจริง และอัตราการส่งต่อ แทนที่จะเชื่อสภาพการสาธิตของโครงการนำร่อง ควรประเมินฟีเจอร์ AI เทียบกับข้อ 9 ของ มาตรฐานบริการดิจิทัล (บริการที่ปลอดภัย ความเป็นส่วนตัวของผู้ใช้) และอ้างอิงไขว้กับ คุณค่าของความมั่นคงปลอดภัยไซเบอร์ในภาครัฐ เมื่อเครื่องมือสัมผัสข้อมูลของประชาชน และระบบ AI ใด ๆ ที่มีอิทธิพลสำคัญต่อการตัดสินใจเกี่ยวกับบุคคลต้องมีบันทึก ATRS ก่อนจึงจะถือว่าพร้อมรับการประเมิน เช่นเดียวกับที่บริการต้องผ่านการประเมิน มาตรฐานบริการดิจิทัล ก่อนเปิดใช้งาน

ข้อผิดพลาดที่พบบ่อย

  • AI-washing: การเปลี่ยนชื่อระบบอัตโนมัติตามกฎที่มีอยู่เป็น "AI" เพื่อเข้าถึงเงินทุนหรือความสนใจที่จัดสรรไว้สำหรับการนำ AI มาใช้ โดยไม่มีความเสี่ยงด้านความแม่นยำหรืออคติที่เป็นเหตุผลให้กรอบนี้ตรวจสอบเพิ่มเติม
  • วัดผลิตภาพของโครงการนำร่อง ไม่ใช่ผลิตภาพในการผลิตจริง: โครงการนำร่องรันบนกรณีทดสอบที่คัดสรรโดยผู้ตรวจที่กระตือรือร้นและใส่ใจ; การผลิตจริงรันบนกรณีที่ยุ่งเหยิงทั้งหมดโดยผู้ตรวจที่เมื่อเวลาผ่านไปเกิดอคติต่อระบบอัตโนมัติและตรวจผลลัพธ์น้อยเกินไป — ทั้งสองอย่างบิดเบือนตัวเลขต้นทุนการกำกับดูแลที่ซื่อตรง
  • ข้ามการลงทะเบียน ATRS เพราะเครื่องมือ "ไม่ใช่การตัดสินใจอัตโนมัติจริง ๆ": เกณฑ์ของมาตรฐานคืออิทธิพลสำคัญต่อการตัดสินใจเกี่ยวกับบุคคล ซึ่งเครื่องมือ AI ร่างเอกสารหรือคัดแยกที่ให้บริการประชาชนส่วนใหญ่เข้าเกณฑ์ แม้มนุษย์จะลงนามเห็นชอบตามรูปแบบก็ตาม
  • เพิกเฉยต่อผลกระทบเชิงการกระจายของข้อผิดพลาด: อัตราข้อผิดพลาดของระบบ AI ที่เฉลี่ยทั่วผู้ใช้ทั้งหมดอาจซ่อนอัตราข้อผิดพลาดหรืออคติที่สูงกว่ามากสำหรับกลุ่มเฉพาะ; ควรใช้ การถ่วงน้ำหนักตามการกระจาย กับรายการความเสียหายที่ปรับตามความเสี่ยง ไม่ใช่แค่ความแม่นยำโดยรวม

แหล่งอ้างอิง