Topik 48 dari 64· Nilai publik dalam pemerintahan digital
Nilai AI dalam Pemerintahan
Nilai AI dalam pemerintahan adalah persyaratan bahwa sistem AI yang digunakan dalam layanan publik harus melewati ambang nilai-untuk-uang dan nilai publik yang sama seperti keputusan belanja lainnya — bukan ambang yang lebih rendah kerana dianggap baru, dan bukan pula ambang yang lebih tinggi kerana ditakuti. Ini adalah pertanyaan yang harus mampu dijawab oleh tim penyampaian sebelum, bukan sesudah, sebuah fitur AI diluncurkan: apakah ini menghasilkan nilai yang lebih besar daripada biayanya, setelah asurans, pengawasan, dan risiko dihitung secara jujur?
Mengapa Ini Penting
Central Digital and Data Office (CDDO) Inggris menerbitkan Generative AI Framework for Government pada tahun 2024, dibangun di atas panduan sementara sebelumnya dari Juni 2023, dan disusun berdasarkan sepuluh prinsip yang mencakup apa itu AI generatif, implikasi etisnya, keamanan alat, kontrol jaminan kualiti, pengelolaan siklus hidup AI generatif secara penuh, identifikasi kasus penggunaan yang genuine, kolaborasi lintas pemerintahan, transparansi, keterampilan, dan tata kelola. Penekanan kerangka kerja ini pada "kendali manusia yang bermakna" (meaningful human control) dan pengelolaan siklus hidup penuh ada kerana kasus bisnis proyek AI memiliki mode kegagalan khusus yang tidak dimiliki belanja TI lainnya: angka produktivitas utama dari sebuah proyek percontohan mudah dihasilkan dan mudah dilebih-lebihkan, kerana diukur sebelum beban verifikasi, koreksi, dan pengawasan yang diciptakan oleh alat tersebut diperhitungkan. Selain kerangka kerja tersebut, Algorithmic Transparency Recording Standard (ATRS) mewajibkan badan publik untuk mempublikasikan catatan terstandardisasi — tujuan, data yang digunakan, kinerja, pengujian keadilan, pengaturan pengawasan manusia — untuk alat algoritmik yang memiliki pengaruh signifikan terhadap keputusan tentang individu, yang menjadikan biaya asurans sebuah sistem AI sebagai catatan publik, bukan estimasi internal yang bisa dilewatkan begitu saja oleh sebuah tim.
Matematika
Adopsi AI dinilai sebagai tambahan terhadap, bukan pengganti, penilaian nilai untuk uang standar, dengan istilah-istilah spesifik AI dijelaskan secara eksplisit alih-alih dilipat menjadi satu angka "keuntungan produktivitas":
Nilai bersih sistem AI =
keuntungan produktivitas (waktu yang dihemat × biaya staf terbebankan)
− biaya lisensi/komputasi
− biaya verifikasi dan pengawasan manusia (memeriksa keluaran AI sebelum
ditindaklanjuti — ini tidak menyusut menjadi nol bahkan untuk alat yang matang)
− biaya dokumentasi ATRS dan pemantauan berkelanjutan
− biaya kerugian yang disesuaikan risiko akibat kesalahan, bias, atau
halusinasi, dibobot berdasarkan siapa yang menanggung kerugian tersebut
(distributional-weighting)
Angka produktivitas dari proyek percontohan yang mengabaikan istilah
pengawasan tidak dapat dibandingkan dengan baseline biaya operasional
normal yang sudah mencakup tinjauan manusia yang setara — lihat
ai-productivity-in-the-public-sector untuk pembahasan disiplin
pengukuran produktivitas yang lebih lengkap yang dipinjam oleh topik ini.
Contoh Perhitungan
Pemerintah daerah yang menggunakan alat AI generatif untuk menyusun draf respons pertama terhadap pertanyaan rutin pajak dewan kota: 25.000 pertanyaan/tahun, sebelumnya ditangani sepenuhnya oleh petugas kasus dengan rata-rata 14 menit/pertanyaan, biaya staf terbebankan £34/jam.
Biaya baseline (tanpa AI):
25.000 × (14/60) × £34 = £198.333/tahun
Klaim utama proyek percontohan: AI menyusun draf respons dalam 90 detik,
petugas kasus "hanya meninjau dan mengirim" — waktu baru yang diklaim
adalah 3 menit
25.000 × (3/60) × £34 = £42.500/tahun
→ klaim penghematan £155.833/tahun (terlihat transformasional)
Angka yang sepenuhnya terbebankan, diukur setelah 3 bulan beroperasi
alih-alih dalam kasus uji pilihan proyek percontohan:
Waktu tinjauan + koreksi aktual per respons: 6 menit (draf memerlukan
penyuntingan nyata untuk pertanyaan yang kompleks atau sensitif
secara emosional)
25.000 × (6/60) × £34 = £85.000/tahun
Biaya lisensi/komputasi: £38.000/tahun
Dokumentasi ATRS dan pemantauan kualiti/bias triwulanan: £14.000/tahun
Total biaya = 85.000 + 38.000 + 14.000 = £137.000/tahun
Penghematan nyata = 198.333 − 137.000 = £61.333/tahun — genuine dan
layak dipertahankan, tetapi jauh di bawah setengah dari klaim utama
proyek percontohan, dan untuk menemukannya diperlukan pengukuran
waktu pengawasan yang jujur, bukan skenario terbaik proyek percontohan.
Kaitan dengan Rekayasa Perangkat Lunak
Di sinilah produktivitas AI di sektor publik dan topik ini bertemu: tim rekayasa yang membangun fitur AI ke dalam layanan publik memiliki instrumentasi yang memungkinkan angka "nyata" dalam contoh perhitungan di atas — mencatat waktu tinjauan aktual, jarak edit antara draf dan respons yang dikirim, serta kadar eskalasi, alih-alih mempercayai kondisi demo proyek percontohan. Fitur AI sebaiknya dinilai berdasarkan standar layanan digital poin 9 (layanan yang aman, privasi pengguna) dan dirujuk silang dengan nilai keamanan siber sektor publik di mana alat tersebut menyentuh data warga, dan sistem AI mana pun yang memiliki pengaruh signifikan terhadap keputusan tentang individu memerlukan catatan ATRS sebelum dapat dianggap siap dinilai, dengan cara yang sama seperti sebuah layanan memerlukan penilaian standar layanan digital yang lolos sebelum diluncurkan.
Jebakan Umum
- AI-washing: melabeli ulang otomasi berbasis aturan yang sudah ada sebagai "AI" untuk mengakses pendanaan atau perhatian yang dialokasikan untuk adopsi AI, tanpa risiko akurasi atau bias yang sebenarnya membenarkan pengawasan ekstra dari kerangka kerja tersebut.
- Mengukur produktivitas proyek percontohan, bukan produktivitas produksi: proyek percontohan dijalankan pada kasus uji yang telah dikurasi dengan peninjau yang terlibat dan penuh perhatian; operasi produksi berjalan pada campuran kasus yang penuh kerumitan dengan peninjau yang, seiring waktu, mengembangkan bias otomasi dan kurang memeriksa keluaran — keduanya mendistorsi angka biaya pengawasan yang jujur.
- Melewatkan pendaftaran ATRS kerana alat tersebut "sebenarnya bukan pengambilan keputusan otomatis": ambang batas standar tersebut adalah pengaruh signifikan terhadap keputusan tentang seorang individu, yang dipenuhi oleh sebagian besar alat penyusunan draf atau triase AI yang menghadapi warga bahkan ketika seorang manusia secara teknis menandatangani persetujuan.
- Mengabaikan dampak distribusional dari kesalahan: kadar kesalahan sistem AI yang dirata-rata di seluruh pengguna dapat menyembunyikan kadar kesalahan atau bias yang jauh lebih tinggi untuk kelompok tertentu; pembobotan distribusional sebaiknya diterapkan pada istilah kerugian yang disesuaikan risiko, bukan hanya pada angka akurasi agregat.
Sumber
- Central Digital and Data Office, Generative AI Framework for Government (2024). https://www.gov.uk/government/publications/generative-ai-framework-for-hmg
- Algorithmic Transparency Recording Standard. https://www.gov.uk/government/collections/algorithmic-transparency-recording-standard-hub
- HM Treasury, Green Book: central government guidance on appraisal and evaluation. https://www.gov.uk/government/publications/the-green-book-appraisal-and-evaluation-in-central-governent