Mada 48 ya 64· Thamani ya umma katika serikali ya kidijitali
Thamani ya AI Serikalini
Thamani ya AI serikalini ni sharti kwamba mfumo wa AI unaotumika katika huduma ya umma ufikie kiwango kilekile cha thamani ya fedha na thamani ya umma kama uamuzi mwingine wowote wa matumizi — si kiwango cha chini kwa sababu ni kipya, wala si cha juu kwa sababu kinaogopwa. Ni swali ambalo timu ya utoaji lazima iweze kulijibu kabla, si baada, ya kipengele cha AI kuzinduliwa: je, hiki huzalisha thamani zaidi kuliko gharama yake, pale uhakikisho, usimamizi na hatari vinapowekewa bei kwa uaminifu?
Kwa nini ni muhimu
Central Digital and Data Office (CDDO) ya Uingereza ilichapisha Generative AI Framework for Government mwaka 2024, ikijengwa juu ya mwongozo wa muda wa Juni 2023, na kuupanga kuzunguka kanuni kumi zinazohusu AI zalishi ni nini, athari zake za kimaadili, usalama wa zana, udhibiti wa uhakikisho wa ubora, usimamizi wa mzunguko mzima wa maisha ya AI zalishi, kutambua matumizi halisi, ushirikiano baina ya serikali, uwazi, ujuzi, na utawala. Msisitizo wa mfumo huo juu ya "udhibiti wa kibinadamu wenye maana" na usimamizi wa mzunguko mzima wa maisha upo kwa sababu hoja za biashara za miradi ya AI zina hali mahususi ya kushindwa ambayo matumizi mengine ya TEHAMA hayana: kielelezo cha kichwa cha habari cha tija ya jaribio ni rahisi kukitengeneza na rahisi kukikuza, kwa sababu hupimwa kabla ya mzigo wa uthibitishaji, usahihishaji na usimamizi ambao zana huunda kuhesabiwa. Pamoja na mfumo huo, Algorithmic Transparency Recording Standard (ATRS) inavitaka vyombo vya umma kuchapisha rekodi sanifu — madhumuni, data iliyotumika, utendaji, majaribio ya usawa, mipango ya usimamizi wa kibinadamu — kwa zana za kialgoriti zenye ushawishi mkubwa kwenye maamuzi kuhusu watu binafsi, jambo linalofanya gharama ya uhakikisho wa mfumo wa AI kuwa suala la kumbukumbu ya umma, si makadirio ya ndani ambayo timu inaweza kuyaruka kimya kimya.
Hisabati
Kupitishwa kwa AI kunatathminiwa kama nyongeza ya, si mbadala wa, tathmini ya kawaida ya thamani ya fedha, huku vipengele mahususi vya AI vikiwekwa wazi badala ya kuchanganywa kwenye namba moja ya "ongezeko la tija":
Thamani halisi ya mfumo wa AI =
ongezeko la tija (muda uliookolewa × gharama kamili ya mfanyakazi)
− gharama ya leseni/kompyuta
− gharama ya uthibitishaji na usimamizi wa kibinadamu (kukagua matokeo ya AI
kabla ya kuyatumia — hii haipungui hadi sifuri hata kwa zana zilizokomaa)
− gharama ya nyaraka za ATRS na ufuatiliaji unaoendelea
− gharama iliyorekebishwa kwa hatari ya madhara kutokana na makosa, upendeleo,
au udanganyifu wa AI, iliyopimwa kwa nani anayebeba madhara hayo
(uzito wa ugawaji)
Kielelezo cha tija ya jaribio kinachoacha kipengele cha usimamizi hakilingani
na msingi wa kawaida wa gharama ambao tayari unajumuisha mapitio sawa ya
kibinadamu — tazama tija ya AI katika sekta ya umma kwa nidhamu kamili zaidi
ya kupima tija ambayo hii inaikopa.
Mfano uliokokotolewa
Mamlaka ya mtaa inayotumia zana ya AI zalishi kuandaa majibu ya kwanza kwa maswali ya kawaida kuhusu kodi ya baraza: maswali 25,000 kwa mwaka, awali yakishughulikiwa kikamilifu na wafanyakazi wa kesi kwa wastani wa dakika 14 kwa swali, gharama kamili ya mfanyakazi £34 kwa saa.
Gharama ya msingi (bila AI):
25,000 × (14/60) × £34 = £198,333/mwaka
Dai la kichwa cha habari la jaribio: AI huandaa jibu kwa sekunde 90,
mfanyakazi "hukagua tu na kutuma" — muda mpya unaodaiwa ni dakika 3
25,000 × (3/60) × £34 = £42,500/mwaka
→ akiba inayodaiwa £155,833/mwaka (inaonekana ya kimapinduzi)
Kielelezo cha gharama kamili, kilichopimwa baada ya miezi 3 ya matumizi
badala ya katika kesi za majaribio zilizochaguliwa kwa mkono:
Muda halisi wa mapitio + usahihishaji kwa kila jibu: dakika 6 (rasimu
zinahitaji uhariri halisi kwa maswali tata au nyeti kihisia)
25,000 × (6/60) × £34 = £85,000/mwaka
Gharama ya leseni/kompyuta: £38,000/mwaka
Nyaraka za ATRS na ufuatiliaji wa kila robo mwaka wa upendeleo/ubora: £14,000/mwaka
Jumla ya gharama = 85,000 + 38,000 + 14,000 = £137,000/mwaka
Akiba halisi = 198,333 − 137,000 = £61,333/mwaka — ya kweli na ya
kuhifadhiwa, lakini chini ya nusu ya dai la kichwa cha habari la jaribio,
na ilihitaji kipimo cha uaminifu cha muda wa usimamizi, si cha hali bora
ya jaribio, ili kuipata.
Uhusiano na uhandisi wa programu
Hapa tija ya AI katika sekta ya umma na mada hii hukutana: timu za uhandisi zinazojenga vipengele vya AI katika huduma za umma zinamiliki vifaa vya kupimia vinavyowezesha kielelezo "halisi" katika mfano — kurekodi muda halisi wa mapitio, umbali wa uhariri kati ya rasimu na jibu lililotumwa, na kiwango cha kupandisha kesi, badala ya kuamini hali za maonyesho za jaribio. Vipengele vya AI vinapaswa kutathminiwa dhidi ya hoja ya 9 ya kiwango cha huduma za kidijitali (huduma salama, faragha ya mtumiaji) na kurejelewa pamoja na thamani ya usalama wa mtandao katika sekta ya umma pale zana inapogusa data ya wananchi, na mfumo wowote wa AI wenye ushawishi mkubwa kwenye maamuzi kuhusu watu binafsi unahitaji rekodi ya ATRS kabla ya kuzingatiwa kuwa tayari kwa tathmini, kama vile huduma inavyohitaji kupitisha tathmini ya kiwango cha huduma za kidijitali kabla ya kuzinduliwa.
Mitego
- Kuosha kwa AI: kubadilisha jina la otomatiki ya kawaida inayotegemea kanuni kuwa "AI" ili kupata ufadhili au umakini uliotengwa kwa upitishaji wa AI, bila hatari za usahihi au upendeleo zinazohalalisha uchunguzi wa ziada wa mfumo.
- Kupima tija ya jaribio, si tija ya uzalishaji: majaribio hutumia kesi zilizoratibiwa na wakaguzi makini wenye hamu; uzalishaji hutumia mchanganyiko mzima wa kesi zenye fujo na wakaguzi ambao baada ya muda hupata upendeleo wa otomatiki na hukagua matokeo kwa kutosha — yote mawili hupotosha kielelezo cha uaminifu cha gharama ya usimamizi.
- Kuruka usajili wa ATRS kwa sababu zana "si uamuzi wa kiotomatiki kweli": kizingiti cha kiwango ni ushawishi mkubwa kwenye uamuzi kuhusu mtu binafsi, ambacho zana nyingi za AI za kuandaa rasimu au kupanga kesi zinazowakabili wananchi hukitimiza hata pale binadamu anapotia saini kitaalamu.
- Kupuuza athari za ugawaji za makosa: kiwango cha makosa cha mfumo wa AI kilichokokotolewa kwa wastani wa watumiaji wote kinaweza kuficha kiwango cha juu zaidi cha makosa au upendeleo kwa makundi mahususi; uzito wa ugawaji unapaswa kutumika kwenye kipengele cha madhara kilichorekebishwa kwa hatari, si usahihi wa jumla tu.
Vyanzo
- Central Digital and Data Office, Generative AI Framework for Government (2024). https://www.gov.uk/government/publications/generative-ai-framework-for-hmg
- Algorithmic Transparency Recording Standard. https://www.gov.uk/government/collections/algorithmic-transparency-recording-standard-hub
- HM Treasury, Green Book: central government guidance on appraisal and evaluation. https://www.gov.uk/government/publications/the-green-book-appraisal-and-evaluation-in-central-governent