الموضوع 48 من 64· القيمة العامة في الحكومة الرقمية
قيمة الذكاء الاصطناعي في الحكومة
قيمة الذكاء الاصطناعي في الحكومة هي الاشتراط بأن يجتاز أي نظام ذكاء اصطناعي يُستخدم في خدمة عامة المعيار نفسه للقيمة مقابل المال والقيمة العامة الذي يُطبَّق على أي قرار إنفاق آخر — لا معيارًا أدنى لأنه جديد، ولا معيارًا أعلى لأنه مثير للمخاوف. وهي السؤال الذي يجب أن يكون فريق التسليم قادرًا على الإجابة عنه قبل إطلاق ميزة قائمة على الذكاء الاصطناعي، لا بعده: هل تُنتج هذه الميزة قيمة تفوق تكلفتها، بعد تسعير الضمان والرقابة والمخاطر بأمانة؟
لماذا يهم الأمر
نشر المكتب المركزي الرقمي والبيانات البريطاني (CDDO) إطار العمل الخاص بالذكاء الاصطناعي التوليدي للحكومة (Generative AI Framework for Government) عام 2024، بناءً على إرشادات مؤقتة سابقة صدرت في يونيو 2023، وبناه حول عشرة مبادئ تغطي ماهية الذكاء الاصطناعي التوليدي، وتبعاته الأخلاقية، وأمن الأدوات، وضوابط ضمان الجودة، وإدارة دورة حياة الذكاء الاصطناعي التوليدي كاملة، وتحديد حالات الاستخدام الحقيقية، والتعاون بين الجهات الحكومية، والشفافية، والمهارات، والحوكمة. ويعود إصرار الإطار على "السيطرة البشرية الجوهرية" (meaningful human control) وإدارة دورة الحياة الكاملة إلى أن حالات العمل الخاصة بمشروعات الذكاء الاصطناعي تنطوي على نمط فشل خاص لا تشترك فيه أوجه الإنفاق التقني الأخرى: فالرقم الرئيسي للإنتاجية الذي يُنتجه أي مشروع تجريبي يسهل إنتاجه ويسهل المبالغة فيه أيضًا، لأنه يُقاس قبل احتساب عبء التحقق والتصحيح والرقابة الذي تُنشئه الأداة. وإلى جانب الإطار، يشترط معيار تسجيل الشفافية الخوارزمية (Algorithmic Transparency Recording Standard - ATRS) على الجهات العامة نشر سجل موحّد — يشمل الغرض، والبيانات المستخدمة، والأداء، واختبار العدالة، وترتيبات الرقابة البشرية — لكل أداة خوارزمية ذات تأثير جوهري على قرارات تخص الأفراد، مما يجعل تكلفة الضمان الخاصة بأي نظام ذكاء اصطناعي أمرًا موثقًا في السجل العام، لا تقديرًا داخليًا يمكن لفريق ما تجاوزه بهدوء.
الحسابات
يُقيَّم اعتماد الذكاء الاصطناعي بوصفه إضافة إلى التقييم المعياري لـ القيمة مقابل المال، لا بديلًا عنه، مع إبراز البنود الخاصة بالذكاء الاصطناعي صراحة بدلًا من دمجها في رقم واحد لـ"مكسب الإنتاجية":
صافي قيمة نظام الذكاء الاصطناعي =
مكسب الإنتاجية (الوقت الموفَّر × تكلفة الموظف المحمَّلة)
− تكلفة الترخيص/الحوسبة
− تكلفة التحقق والرقابة البشرية (مراجعة مخرجات الذكاء الاصطناعي قبل
التصرف بناءً عليها — لا تنكمش هذه التكلفة إلى صفر حتى مع الأدوات
الناضجة)
− تكلفة توثيق ATRS والرصد المستمر
− التكلفة المعدَّلة بحسب المخاطر للضرر الناتج عن الأخطاء أو التحيز أو
الهلوسة، مرجَّحة بحسب من يتحمل ذلك الضرر (الترجيح التوزيعي)
الرقم التجريبي للإنتاجية الذي يُسقِط بند الرقابة غير قابل للمقارنة مع
خط أساس تكلفة سير العمل المعتاد الذي يتضمن أصلًا مراجعة بشرية معادلة
— انظر ai-productivity-in-the-public-sector للاطلاع على الانضباط
الأوسع في قياس الإنتاجية الذي يستعير منه هذا القسم.
مثال توضيحي
سلطة محلية تستخدم أداة ذكاء اصطناعي توليدي لصياغة الردود الأولى على استفسارات ضريبة المجالس الروتينية: 25,000 استفسار سنويًا، كانت تُعالَج سابقًا بالكامل بواسطة موظفي الحالات بمعدل 14 دقيقة لكل استفسار، بتكلفة موظف محمَّلة قدرها 34 جنيهًا إسترلينيًا في الساعة.
تكلفة خط الأساس (دون ذكاء اصطناعي):
25,000 × (14/60) × 34 جنيهًا = 198,333 جنيهًا إسترلينيًا/سنويًا
الادعاء الرئيسي للتجربة: يصيغ الذكاء الاصطناعي ردًا خلال 90 ثانية،
وموظف الحالات "يكتفي بالمراجعة والإرسال" — الوقت الجديد المُدَّعى 3
دقائق
25,000 × (3/60) × 34 جنيهًا = 42,500 جنيه إسترليني/سنويًا
→ وفر مُدَّعى قدره 155,833 جنيهًا إسترلينيًا/سنويًا (يبدو تحويليًا)
الرقم المحمَّل الكامل، مقاسًا بعد 3 أشهر من التشغيل الفعلي لا في حالات
الاختبار المنتقاة للتجربة:
وقت المراجعة والتصحيح الفعلي لكل رد: 6 دقائق (تحتاج المسودات إلى
تحرير حقيقي في الاستفسارات المعقدة أو الحساسة عاطفيًا)
25,000 × (6/60) × 34 جنيهًا = 85,000 جنيه إسترليني/سنويًا
تكلفة الترخيص/الحوسبة: 38,000 جنيه إسترليني/سنويًا
توثيق ATRS والرصد الفصلي للتحيز والجودة: 14,000 جنيه إسترليني/سنويًا
إجمالي التكلفة = 85,000 + 38,000 + 14,000 = 137,000 جنيهًا
إسترلينيًا/سنويًا
الوفر الحقيقي = 198,333 − 137,000 = 61,333 جنيهًا إسترلينيًا/سنويًا —
وفر حقيقي يستحق الحفاظ عليه، لكنه أقل بكثير من نصف الادعاء الرئيسي
للتجربة، ولم يكن الوصول إليه ممكنًا إلا بقياس أمين لوقت الرقابة، لا
بالسيناريو الأفضل الذي اعتمدته التجربة.
الصلة بهندسة البرمجيات
هنا يلتقي موضوع إنتاجية الذكاء الاصطناعي في القطاع العام بهذا الموضوع: فرق الهندسة التي تبني ميزات ذكاء اصطناعي داخل الخدمات العامة هي المسؤولة عن أدوات القياس التي تجعل الرقم "الحقيقي" في المثال التوضيحي ممكنًا — من خلال تسجيل وقت المراجعة الفعلي، ومسافة التحرير بين المسودة والرد المُرسَل، ومعدل التصعيد، بدلًا من الوثوق بظروف العرض التجريبي. وينبغي تقييم ميزات الذكاء الاصطناعي وفق البند 9 من معيار الخدمة الرقمية (خدمة آمنة وخصوصية المستخدم) وربطها بـ قيمة الأمن السيبراني في القطاع العام حيثما تتعامل الأداة مع بيانات المواطنين، كما يحتاج أي نظام ذكاء اصطناعي ذي تأثير جوهري على قرارات تخص الأفراد إلى سجل ATRS قبل أن يُعدّ جاهزًا للتقييم، تمامًا كما تحتاج أي خدمة إلى اجتياز تقييم معيار الخدمة الرقمية قبل إطلاقها.
المزالق
- التبييض بالذكاء الاصطناعي (AI-washing): إعادة تسمية أتمتة قائمة على قواعد موجودة أصلًا بأنها "ذكاء اصطناعي" للوصول إلى التمويل أو الاهتمام المخصص لاعتماد الذكاء الاصطناعي، دون أن تنطوي فعليًا على مخاطر الدقة أو التحيز التي تبرر أصلًا الفحص الإضافي الذي يفرضه الإطار.
- قياس إنتاجية التجربة لا إنتاجية الإنتاج الفعلي: تُجرى التجارب على حالات اختبار منتقاة مع مراجعين متيقظين ومهتمين؛ أما الإنتاج الفعلي فيعمل على مزيج الحالات الكامل والفوضوي مع مراجعين يطورون، بمرور الوقت، تحيزًا نحو الأتمتة ويقلّلون من فحص المخرجات — وكلا الأمرين يشوّه الرقم الأمين لتكلفة الرقابة.
- تخطي تسجيل ATRS بحجة أن الأداة "ليست حقًا اتخاذ قرار آلي": عتبة المعيار هي التأثير الجوهري على قرار يخص فردًا، وهو ما تستوفيه معظم أدوات الصياغة أو الفرز القائمة على الذكاء الاصطناعي والموجهة للمواطنين، حتى عندما يوقّع عليها إنسان من الناحية الشكلية.
- تجاهل الأثر التوزيعي للأخطاء: قد يُخفي معدل الخطأ في نظام ذكاء اصطناعي، محسوبًا كمتوسط عبر جميع المستخدمين، معدل خطأ أو تحيز أعلى بكثير لدى فئات محددة؛ وينبغي تطبيق الترجيح التوزيعي على بند الضرر المعدَّل بحسب المخاطر، لا على رقم الدقة الإجمالي فحسب.
المصادر
- Central Digital and Data Office, Generative AI Framework for Government (2024). https://www.gov.uk/government/publications/generative-ai-framework-for-hmg
- Algorithmic Transparency Recording Standard. https://www.gov.uk/government/collections/algorithmic-transparency-recording-standard-hub
- HM Treasury, Green Book: central government guidance on appraisal and evaluation. https://www.gov.uk/government/publications/the-green-book-appraisal-and-evaluation-in-central-governent