Θέμα 48 από 64· Δημόσια αξία στην ψηφιακή κυβέρνηση
Αξία της τεχνητής νοημοσύνης στην κυβέρνηση
Η αξία της ΤΝ στην κυβέρνηση είναι η απαίτηση ότι ένα σύστημα ΤΝ που χρησιμοποιείται σε μια δημόσια υπηρεσία πρέπει να περνά την ίδια μπάρα αξίας για τα χρήματα και δημόσιας αξίας με κάθε άλλη απόφαση δαπάνης — όχι χαμηλότερη επειδή είναι καινούργιο, και όχι υψηλότερη επειδή φοβούνται. Είναι το ερώτημα στο οποίο μια ομάδα παράδοσης πρέπει να μπορεί να απαντήσει πριν, και όχι μετά, από την παράδοση ενός χαρακτηριστικού ΤΝ: παράγει περισσότερη αξία από ό,τι κοστίζει, όταν η διασφάλιση, η εποπτεία και ο κίνδυνος τιμολογηθούν ειλικρινά;
Γιατί έχει σημασία
Το Central Digital and Data Office (CDDO) του ΗΒ δημοσίευσε το Generative AI Framework for Government το 2024, χτίζοντας πάνω σε προγενέστερο προσωρινό οδηγό του Ιουνίου 2023, και το δόμησε γύρω από δέκα αρχές που καλύπτουν τι είναι η γενετική ΤΝ, τις ηθικές της επιπτώσεις, την ασφάλεια εργαλείων, τους ελέγχους διασφάλισης ποιότητας, τη διαχείριση ολόκληρου του κύκλου ζωής της γενετικής ΤΝ, τον εντοπισμό γνήσιων περιπτώσεων χρήσης, τη συνεργασία μεταξύ υπουργείων, τη διαφάνεια, τις δεξιότητες και τη διακυβέρνηση. Η επιμονή του πλαισίου στον «ουσιαστικό ανθρώπινο έλεγχο» και στη διαχείριση ολόκληρου του κύκλου ζωής υπάρχει επειδή οι επιχειρηματικές περιπτώσεις έργων ΤΝ έχουν έναν συγκεκριμένο τρόπο αποτυχίας που άλλες δαπάνες πληροφορικής δεν έχουν: ο αριθμός παραγωγικότητας-τίτλου ενός πιλότου είναι εύκολο να παραχθεί και εύκολο να υπερβληθεί, επειδή μετράται πριν ληφθεί υπόψη το βάρος επαλήθευσης, διόρθωσης και εποπτείας που δημιουργεί το εργαλείο. Παράλληλα με το πλαίσιο, το Algorithmic Transparency Recording Standard (ATRS) απαιτεί από τους δημόσιους φορείς να δημοσιεύουν μια τυποποιημένη εγγραφή — σκοπός, δεδομένα που χρησιμοποιήθηκαν, επίδοση, δοκιμή δικαιοσύνης, ρυθμίσεις ανθρώπινης εποπτείας — για αλγοριθμικά εργαλεία που έχουν σημαντική επιρροή σε αποφάσεις για άτομα, που καθιστά το κόστος διασφάλισης ενός συστήματος ΤΝ θέμα δημόσιου αρχείου και όχι εσωτερική εκτίμηση που μια ομάδα μπορεί να παραλείψει σιωπηλά.
Τα μαθηματικά
Η υιοθέτηση ΤΝ αξιολογείται ως προσθήκη, όχι αντικατάσταση, της τυπικής αξιολόγησης αξίας για τα χρήματα, με τους ειδικούς για την ΤΝ όρους να γίνονται ρητοί αντί να διαλύονται σε έναν μοναδικό αριθμό «κέρδους παραγωγικότητας»:
Καθαρή αξία ενός συστήματος ΤΝ =
κέρδος παραγωγικότητας (χρόνος που εξοικονομήθηκε × πλήρες κόστος προσωπικού)
− κόστος άδειας/υπολογιστικής ισχύος
− κόστος ανθρώπινης επαλήθευσης και εποπτείας (έλεγχος της εξόδου της ΤΝ πριν
ενεργήσει κανείς βάσει αυτής — αυτό δεν μειώνεται στο μηδέν ούτε για ώριμα εργαλεία)
− κόστος τεκμηρίωσης ATRS και συνεχούς παρακολούθησης
− κόστος προσαρμοσμένο για κίνδυνο της βλάβης από σφάλματα, μεροληψία ή
παραισθήσεις, σταθμισμένο κατά το ποιος φέρει αυτή τη βλάβη (distributional-weighting)
Ένας αριθμός παραγωγικότητας πιλότου που παραλείπει τον όρο εποπτείας δεν είναι
συγκρίσιμος με μια βάση κόστους λειτουργίας που ήδη περιλαμβάνει ισοδύναμη ανθρώπινη
αναθεώρηση — βλ. ai-productivity-in-the-public-sector για την πληρέστερη
πειθαρχία μέτρησης παραγωγικότητας από την οποία δανείζεται αυτό.
Επεξεργασμένο παράδειγμα
Τοπική αρχή που χρησιμοποιεί ένα εργαλείο γενετικής ΤΝ για τη σύνταξη πρώτων απαντήσεων σε ρουτίνα ερωτήματα δημοτικού φόρου: 25.000 ερωτήματα/έτος, προηγουμένως χειριζόμενα εξ ολοκλήρου από υπαλλήλους με μέσο όρο 14 λεπτά/ερώτημα, πλήρες κόστος προσωπικού £34/ώρα.
Κόστος βάσης (χωρίς ΤΝ):
25.000 × (14/60) × £34 = £198.333/έτος
Ισχυρισμός πιλότου-τίτλου: η ΤΝ συντάσσει μια απάντηση σε 90 δευτερόλεπτα,
ο υπάλληλος «απλώς ελέγχει και στέλνει» — ο διεκδικούμενος νέος χρόνος είναι 3 λεπτά
25.000 × (3/60) × £34 = £42.500/έτος
→ διεκδικούμενη εξοικονόμηση £155.833/έτος (φαίνεται μετασχηματιστική)
Αριθμός πλήρους κόστους, μετρημένος μετά από 3 μήνες σε λειτουργία και όχι στις
προσεκτικά επιλεγμένες δοκιμαστικές περιπτώσεις του πιλότου:
Πραγματικός χρόνος ελέγχου + διόρθωσης ανά απάντηση: 6 λεπτά (τα προσχέδια
χρειάζονται πραγματική επεξεργασία για σύνθετα ή συναισθηματικά ευαίσθητα ερωτήματα)
25.000 × (6/60) × £34 = £85.000/έτος
Κόστος άδειας/υπολογιστικής ισχύος: £38.000/έτος
Τεκμηρίωση ATRS και τριμηνιαία παρακολούθηση μεροληψίας/ποιότητας: £14.000/έτος
Συνολικό κόστος = 85.000 + 38.000 + 14.000 = £137.000/έτος
Πραγματική εξοικονόμηση = 198.333 − 137.000 = £61.333/έτος — γνήσια και αξίζει να
κρατηθεί, αλλά πολύ κάτω από το μισό του ισχυρισμού-τίτλου του πιλότου, και χρειάστηκε
μια έντιμη μέτρηση χρόνου εποπτείας, όχι η μέτρηση της καλύτερης περίπτωσης του πιλότου,
για να βρεθεί.
Σύνδεση με τη μηχανική λογισμικού
Εδώ συναντώνται η παραγωγικότητα της ΤΝ στον δημόσιο τομέα και αυτό το θέμα: οι μηχανικές ομάδες που χτίζουν χαρακτηριστικά ΤΝ σε δημόσιες υπηρεσίες κατέχουν τον εξοπλισμό που καθιστά δυνατό τον «πραγματικό» αριθμό στο επεξεργασμένο παράδειγμα — καταγράφοντας τον πραγματικό χρόνο ελέγχου, την απόσταση επεξεργασίας μεταξύ προσχεδίου και απεσταλμένης απάντησης και το ποσοστό κλιμάκωσης, αντί να εμπιστεύονται τις συνθήκες επίδειξης του πιλότου. Τα χαρακτηριστικά ΤΝ πρέπει να αξιολογούνται έναντι του σημείου 9 του προτύπου ψηφιακής υπηρεσίας (ασφαλής υπηρεσία, απόρρητο χρηστών) και να διασταυρώνονται με την αξία κυβερνοασφάλειας του δημόσιου τομέα όπου το εργαλείο αγγίζει δεδομένα πολιτών, και κάθε σύστημα ΤΝ με σημαντική επιρροή σε αποφάσεις για άτομα χρειάζεται εγγραφή ATRS πριν θεωρηθεί έτοιμο για αξιολόγηση, με τον ίδιο τρόπο που μια υπηρεσία χρειάζεται μια επιτυχημένη αξιολόγηση του προτύπου ψηφιακής υπηρεσίας πριν τεθεί σε λειτουργία.
Παγίδες
- Το «πλύσιμο» ΤΝ (AI-washing): η μετονομασία υπάρχουσας αυτοματοποίησης βάσει κανόνων σε «ΤΝ» για πρόσβαση σε χρηματοδότηση ή προσοχή που προορίζεται για την υιοθέτηση ΤΝ, χωρίς τους κινδύνους ακρίβειας ή μεροληψίας που πράγματι δικαιολογούν την πρόσθετη εξέταση του πλαισίου.
- Η μέτρηση παραγωγικότητας πιλότου και όχι παραγωγής: οι πιλότοι τρέχουν σε επιμελημένες δοκιμαστικές περιπτώσεις με εμπλεκόμενους, προσεκτικούς αναθεωρητές· η παραγωγή τρέχει στο πλήρες ακατάστατο μείγμα περιπτώσεων με αναθεωρητές που, με τον καιρό, αναπτύσσουν μεροληψία αυτοματισμού και υποελέγχουν τις εξόδους — και τα δύο στρεβλώνουν τον έντιμο αριθμό κόστους εποπτείας.
- Η παράλειψη της εγγραφής ATRS επειδή το εργαλείο «δεν είναι πραγματικά αυτοματοποιημένη λήψη αποφάσεων»: το όριο του προτύπου είναι η σημαντική επιρροή σε μια απόφαση για ένα άτομο, που τη φτάνουν τα περισσότερα εργαλεία σύνταξης ή τριάζ ΤΝ που αντιμετωπίζουν πολίτες ακόμη και όταν ένας άνθρωπος τεχνικά υπογράφει.
- Η αγνόηση της κατανεμητικής επίδρασης των σφαλμάτων: το ποσοστό σφαλμάτων ενός συστήματος ΤΝ, κατά μέσο όρο σε όλους τους χρήστες, μπορεί να κρύβει πολύ υψηλότερο ποσοστό σφάλματος ή μεροληψίας για συγκεκριμένες ομάδες· η κατανεμητική στάθμιση πρέπει να εφαρμόζεται στον όρο βλάβης προσαρμοσμένο για κίνδυνο και όχι μόνο στον συγκεντρωτικό αριθμό ακρίβειας.
Πηγές
- Central Digital and Data Office, Generative AI Framework for Government (2024). https://www.gov.uk/government/publications/generative-ai-framework-for-hmg
- Algorithmic Transparency Recording Standard. https://www.gov.uk/government/collections/algorithmic-transparency-recording-standard-hub
- HM Treasury, Green Book: central government guidance on appraisal and evaluation. https://www.gov.uk/government/publications/the-green-book-appraisal-and-evaluation-in-central-governent