موضوع 48 از 64· ارزش عمومی در دولت دیجیتال

ارزش هوش مصنوعی در دولت

ارزش هوش مصنوعی در دولت یعنی این الزام که یک سامانهٔ هوش مصنوعی در یک خدمت عمومی باید از همان آستانهٔ ارزش در برابر هزینه و ارزش عمومی عبور کند که هر تصمیم هزینه‌ای دیگر — نه آستانه‌ای پایین‌تر چون تازه است، و نه بالاتر چون از آن می‌ترسند. این پرسشی است که تیم تحویل باید پیش از عرضهٔ یک قابلیت هوش مصنوعی، نه پس از آن، بتواند به آن پاسخ دهد: آیا این قابلیت، پس از آنکه هزینهٔ تضمین کیفیت، نظارت و ریسک صادقانه قیمت‌گذاری شد، بیش از آنچه هزینه دارد ارزش می‌آفریند؟

چرا اهمیت دارد

دفتر مرکزی داده و دیجیتال بریتانیا (CDDO) در سال 2024 «چارچوب هوش مصنوعی مولد برای دولت» (Generative AI Framework for Government) را منتشر کرد که بر پایهٔ راهنمای موقت ژوئن 2023 بنا شده و حول ده اصل سامان یافته است: چیستی هوش مصنوعی مولد، پیامدهای اخلاقی آن، امنیت ابزارها، کنترل‌های تضمین کیفیت، مدیریت کل چرخهٔ عمر هوش مصنوعی مولد، شناسایی موارد کاربرد واقعی، همکاری میان‌دولتی، شفافیت، مهارت‌ها و حاکمیت. تأکید چارچوب بر «کنترل انسانی معنادار» و مدیریت کل چرخهٔ عمر از آنجا می‌آید که توجیه‌نامه‌های اقتصادی پروژه‌های هوش مصنوعی حالت شکستی ویژه دارند که سایر هزینه‌های فناوری اطلاعات ندارند: عدد شاخص بهره‌وریِ یک پروژهٔ آزمایشی هم آسان تولید می‌شود و هم آسان بزرگ‌نمایی می‌شود، چون پیش از احتساب بار راستی‌آزمایی، اصلاح و نظارتی که ابزار ایجاد می‌کند اندازه‌گیری شده است. در کنار این چارچوب، «استاندارد ثبت شفافیت الگوریتمی» (ATRS) نهادهای عمومی را ملزم می‌کند برای ابزارهای الگوریتمی که بر تصمیم‌های مربوط به افراد تأثیر چشمگیر دارند، یک سابقهٔ استاندارد منتشر کنند — هدف، داده‌های مصرفی، عملکرد، آزمون انصاف، ترتیبات نظارت انسانی — و این هزینهٔ تضمین کیفیتِ یک سامانهٔ هوش مصنوعی را به موضوعی در سابقهٔ عمومی تبدیل می‌کند، نه برآوردی درونی که تیمی بتواند بی‌سروصدا از آن بگذرد.

ریاضیات

پذیرش هوش مصنوعی به‌عنوان افزوده بر ارزیابی استاندارد ارزش در برابر هزینه سنجیده می‌شود، نه جایگزین آن، و جمله‌های ویژهٔ هوش مصنوعی به‌صراحت بیان می‌شوند و در یک عدد «سود بهره‌وری» ادغام نمی‌شوند:

ارزش خالص یک سامانهٔ هوش مصنوعی =
    سود بهره‌وری (زمان صرفه‌جویی‌شده × هزینهٔ کامل نیروی انسانی)
  − هزینهٔ مجوز/محاسبات
  − هزینهٔ راستی‌آزمایی و نظارت انسانی (بررسی خروجی هوش مصنوعی پیش از
    عمل بر پایهٔ آن — این هزینه حتی برای ابزارهای بالغ هم به صفر نمی‌رسد)
  − هزینهٔ مستندسازی ATRS و پایش مستمر
  − هزینهٔ تعدیل‌شده برای ریسکِ زیان ناشی از خطا، سوگیری یا توهم،
    وزن‌دهی‌شده بر اساس اینکه چه کسی این زیان را متحمل می‌شود
    (distributional-weighting)

عدد بهره‌وری یک پروژهٔ آزمایشی که جملهٔ نظارت را حذف کرده باشد با
خط پایهٔ هزینهٔ فعالیت جاری که از پیش شامل بازبینی انسانی معادل است
قابل‌مقایسه نیست — برای انضباط کامل‌تر سنجش بهره‌وری که این رویکرد از
آن وام می‌گیرد، نک. ai-productivity-in-the-public-sector.

مثال عملی

شورای محلی که از یک ابزار هوش مصنوعی مولد برای تهیهٔ پاسخ‌های نخستین به پرسش‌های روتین مالیات شورا استفاده می‌کند: 25,000 پرسش در سال، که پیش از آن به‌طور کامل توسط کارشناسان پرونده، به‌طور میانگین 14 دقیقه برای هر پرسش، رسیدگی می‌شد؛ هزینهٔ کامل نیروی انسانی £34 در ساعت.

هزینهٔ خط پایه (بدون هوش مصنوعی):
  25,000 × (14/60) × £34 = £198,333 در سال

ادعای شاخص پروژهٔ آزمایشی: هوش مصنوعی پاسخ را در 90 ثانیه
می‌نویسد، کارشناس پرونده «فقط بازبینی می‌کند و می‌فرستد» — زمان جدید
ادعاشده 3 دقیقه
  25,000 × (3/60) × £34 = £42,500 در سال
  ← صرفه‌جویی ادعاشده £155,833 در سال (تحول‌آفرین به نظر می‌رسد)

عدد با هزینهٔ کامل، سنجیده‌شده پس از 3 ماه فعالیت واقعی، نه در
نمونه‌های آزمایشیِ دست‌چین‌شدهٔ پروژهٔ آزمایشی:
  زمان واقعی بازبینی + اصلاح برای هر پاسخ: 6 دقیقه (پیش‌نویس‌ها برای
  پرسش‌های پیچیده یا حساس از نظر عاطفی ویرایش جدی لازم دارند)
  25,000 × (6/60) × £34 = £85,000 در سال
  هزینهٔ مجوز/محاسبات: £38,000 در سال
  مستندسازی ATRS و پایش فصلی سوگیری/کیفیت: £14,000 در سال
  کل هزینه = 85,000 + 38,000 + 14,000 = £137,000 در سال

صرفه‌جویی واقعی = 198,333 − 137,000 = £61,333 در سال — واقعی و ارزش
نگه‌داشتن دارد، اما کمتر از نصف ادعای شاخص پروژهٔ آزمایشی است، و برای
یافتنش باید زمان نظارت را صادقانه اندازه گرفت، نه در بهترین حالت
پروژهٔ آزمایشی.

پیوند با مهندسی نرم‌افزار

اینجا جایی است که بهره‌وری هوش مصنوعی در بخش عمومی و این موضوع به هم می‌رسند: تیم‌های مهندسی که قابلیت‌های هوش مصنوعی را در خدمات عمومی می‌سازند، مالک ابزارِ اندازه‌گیری‌ای هستند که عدد «واقعی» در مثال حل‌شده را ممکن می‌کند — ثبت زمان واقعی بازبینی، فاصلهٔ ویرایشی میان پیش‌نویس و پاسخ ارسال‌شده، و نرخ ارجاع به سطح بالاتر، به‌جای اعتماد به شرایط نمایشیِ پروژهٔ آزمایشی. قابلیت‌های هوش مصنوعی باید در برابر بند 9 استاندارد خدمت دیجیتال (خدمت امن، حریم خصوصی کاربر) ارزیابی شوند و هرجا ابزار به داده‌های شهروندان دست می‌زند، با ارزش امنیت سایبری بخش عمومی تطبیق داده شوند؛ و هر سامانهٔ هوش مصنوعی که بر تصمیم‌های مربوط به افراد تأثیر چشمگیر دارد پیش از آنکه آمادهٔ ارزیابی شمرده شود به سابقهٔ ATRS نیاز دارد، همان‌گونه که یک خدمت پیش از راه‌اندازی به ارزیابی موفق استاندارد خدمت دیجیتال نیاز دارد.

دام‌ها

  • هوش‌مصنوعی‌نمایی (AI-washing): برچسب «هوش مصنوعی» زدن بر اتوماسیون قاعده‌محور موجود برای دسترسی به بودجه یا توجهی که برای پذیرش هوش مصنوعی کنار گذاشته شده، بدون ریسک‌های دقت یا سوگیری که موجب وارسی بیشتر چارچوب می‌شوند.
  • سنجش بهره‌وری پروژهٔ آزمایشی، نه بهره‌وری در تولید: پروژه‌های آزمایشی روی نمونه‌های آزمون گزینش‌شده با بازبینان دقیق و درگیر اجرا می‌شوند؛ محیط تولید روی کل ترکیب درهم‌ریختهٔ پرونده‌ها با بازبینانی که به‌مرور دچار سوگیری اتوماسیون می‌شوند و خروجی را کمتر وارسی می‌کنند — هر دو عدد صادقانهٔ هزینهٔ نظارت را مخدوش می‌کنند.
  • نادیده گرفتن ثبت ATRS به این بهانه که ابزار «واقعاً تصمیم‌گیری خودکار نیست»: آستانهٔ استاندارد تأثیر چشمگیر بر تصمیم دربارهٔ یک فرد است، که بیشتر ابزارهای پیش‌نویس‌نویسی یا اولویت‌بندیِ رو به شهروند حتی با وجود امضای فنیِ یک انسان به آن می‌رسند.
  • نادیده گرفتن اثر توزیعی خطاها: نرخ خطای یک سامانهٔ هوش مصنوعی که میانگین همهٔ کاربران است می‌تواند نرخ خطا یا سوگیریِ بسیار بالاتر برای گروه‌های خاص را پنهان کند؛ وزن‌دهی توزیعی باید بر جملهٔ زیانِ تعدیل‌شده برای ریسک اعمال شود، نه فقط بر دقت کلی.

منابع