נושא 48 מתוך 64· ערך ציבורי בממשלה דיגיטלית

ערך של בינה מלאכותית בממשלה

ערך של בינה מלאכותית בממשלה הוא הדרישה שמערכת בינה מלאכותית (AI) המשמשת בשירות ציבורי תעמוד באותו רף של תמורה לכסף ושל ערך ציבורי כמו כל החלטת הוצאה אחרת: לא רף נמוך יותר מפני שהיא חדשנית, ולא רף גבוה יותר מפני שחוששים ממנה. זוהי השאלה שצוות מסירה חייב להיות מסוגל לענות עליה לפני שתכונת AI עולה לאוויר ולא אחרי כן: האם היא מייצרת יותר ערך משהיא עולה, כשעלויות ההבטחה, הפיקוח והסיכון מתומחרות ביושר?

למה זה חשוב

המשרד הדיגיטלי והנתונים המרכזי של בריטניה (Central Digital and Data Office, CDDO) פרסם ב-2024 את Generative AI Framework for Government, על בסיס הנחיות ביניים מיוני 2023, ובנה אותו סביב עשרה עקרונות: מהי בינה מלאכותית גנרטיבית, ההשלכות האתיות שלה, אבטחת הכלים, בקרות להבטחת איכות, ניהול מחזור החיים המלא של הבינה הגנרטיבית, זיהוי מקרי שימוש אמיתיים, שיתוף פעולה בין-ממשלתי, שקיפות, מיומנויות וממשל. הדגש של המסגרת על "שליטה אנושית משמעותית" ועל ניהול מחזור חיים מלא נובע מכך שלתיקי עסקי של פרויקטי AI יש דפוס כשל ייחודי שאין להוצאות IT אחרות: קל לייצר מספר פרודוקטיביות מרשים מפיילוט וקל להפריז בו, כי הוא נמדד לפני שנלקח בחשבון נטל האימות, התיקון והפיקוח שהכלי יוצר. לצד המסגרת, התקן Algorithmic Transparency Recording Standard (ATRS) מחייב גופים ציבוריים לפרסם רשומה סטנדרטית (מטרה, נתונים בשימוש, ביצועים, בדיקות הוגנות, הסדרי פיקוח אנושי) עבור כלים אלגוריתמיים שיש להם השפעה משמעותית על החלטות לגבי אנשים. כך עלות ההבטחה של מערכת AI הופכת לנתון ציבורי, ולא להערכה פנימית שצוות יכול לדלג עליה בשקט.

המתמטיקה

אימוץ AI נבחן כתוספת להערכת תמורה לכסף הרגילה ולא כתחליף לה, כשהמרכיבים הייחודיים ל-AI נכתבים במפורש ואינם נבלעים במספר יחיד של "רווח פרודוקטיביות":

ערך נטו של מערכת AI =
    רווח פרודוקטיביות (זמן שנחסך × עלות עובד מלאה)
  − עלות רישיון/חישוב
  − עלות אימות ופיקוח אנושיים (בדיקת פלט ה-AI לפני
    שפועלים על פיו; זה לא מצטמצם לאפס גם בכלים בוגרים)
  − עלות תיעוד ATRS וניטור שוטף
  − עלות הנזק המותאמת לסיכון משגיאות, הטיה או הזיות,
    משוקללת לפי מי שנושא בנזק (שקלול חלוקתי)

נתון פרודוקטיביות מפיילוט שמשמיט את מרכיב הפיקוח אינו
ברת השוואה לבסיס עלות רגיל שכבר כולל סקירה אנושית
מקבילה. ראו ai-productivity-in-the-public-sector
למשמעת המלאה יותר של מדידת פרודוקטיביות שממנה נלקח הדבר.

דוגמה מעובדת

רשות מקומית המשתמשת בכלי בינה גנרטיבית כדי לנסח תשובות ראשונות לפניות שגרתיות בנושא ארנונה (council tax): 25,000 פניות בשנה, שטופלו בעבר כולן בידי פקידים בממוצע של 14 דקות לפנייה, עלות עובד מלאה £34 לשעה.

עלות בסיס (ללא AI):
  25,000 × (14/60) × £34 = £198,333 לשנה

הטענה המרכזית מהפיילוט: ה-AI מנסח תשובה ב-90 שניות,
הפקיד "רק בודק ושולח", כלומר הזמן החדש הנטען הוא 3 דקות
  25,000 × (3/60) × £34 = £42,500 לשנה
  ← חיסכון נטען £155,833 לשנה (נראה מהפכני)

נתון מלא, שנמדד אחרי 3 חודשים בייצור ולא במקרי הבדיקה
שנבחרו ידנית בפיילוט:
  זמן בדיקה ותיקון בפועל לתשובה: 6 דקות (הטיוטות
  דורשות עריכה אמיתית בפניות מורכבות או רגישות רגשית)
  25,000 × (6/60) × £34 = £85,000 לשנה
  עלות רישיון/חישוב: £38,000 לשנה
  תיעוד ATRS וניטור רבעוני של הטיה ואיכות: £14,000 לשנה
  סך העלות = 85,000 + 38,000 + 14,000 = £137,000 לשנה

חיסכון אמיתי = 198,333 − 137,000 = £61,333 לשנה. זה חיסכון
אמיתי וראוי לשימור, אך נמוך בהרבה מחצי הטענה המרכזית של
הפיילוט, ודרש מדידה כנה של זמן הפיקוח ולא את התרחיש הטוב ביותר
של הפיילוט.

הקשר להנדסת תוכנה

כאן נפגשים פרודוקטיביות AI במגזר הציבורי והנושא הזה: צוותי הנדסה שבונים תכונות AI בשירותים ציבוריים הם בעלי המדידה שמאפשרת להגיע למספר ה"אמיתי" בדוגמה המעובדת. הם רושמים את זמן הבדיקה בפועל, את מרחק העריכה בין הטיוטה לתשובה שנשלחה ואת שיעור ההסלמה, ואינם סומכים על תנאי ההדגמה של הפיילוט. יש לבחון תכונות AI מול נקודה 9 של תקן השירות הדיגיטלי (שירות מאובטח, פרטיות המשתמש), ולהצליב אותן עם ערך אבטחת סייבר במגזר הציבורי כשהכלי נוגע בנתוני אזרחים. כל מערכת AI שיש לה השפעה משמעותית על החלטות לגבי אנשים זקוקה לרשומת ATRS לפני שאפשר לראות אותה כמוכנה להערכה, כשם ששירות זקוק להערכה שעברה לפי תקן השירות הדיגיטלי לפני עלייה לאוויר.

מכשולים נפוצים

  • AI-washing: מיתוג מחדש של אוטומציה קיימת מבוססת כללים כ"AI" כדי לקבל מימון או תשומת לב שהוקצו לאימוץ AI, בלי סיכוני הדיוק וההטיה שמצדיקים את הבחינה הנוספת של המסגרת.
  • מדידת פרודוקטיביות בפיילוט ולא בייצור: פיילוטים רצים על מקרי בדיקה נבחרים, עם בודקים מעורבים ומרוכזים. הייצור רץ על מגוון המקרים המבולגן במלואו, עם בודקים שעם הזמן מפתחים הטיית אוטומציה ובודקים פחות. שני הגורמים מעוותים את נתון עלות הפיקוח הכן.
  • דילוג על רישום ATRS כי הכלי "אינו באמת קבלת החלטות אוטומטית": הסף של התקן הוא השפעה משמעותית על החלטה לגבי אדם, וברוב כלי הניסוח או המיון של AI הפונים לאזרחים הסף הזה מתקיים גם כשאדם חותם על התוצאה מבחינה פורמלית.
  • התעלמות מההשפעה החלוקתית של שגיאות: שיעור שגיאות של מערכת AI שממוצע על פני כל המשתמשים יכול להסתיר שיעור שגיאות או הטיה גבוה בהרבה לקבוצות מסוימות. יש להחיל שקלול חלוקתי על מרכיב הנזק המותאם לסיכון, ולא רק על נתון הדיוק המצרפי.

מקורות