Тема 48 из 64· Общественная ценность в цифровом государстве
ИИ и ценность для государства (AI in Government Value)
ИИ и ценность для государства — это требование, чтобы система ИИ, используемая в государственной услуге, преодолевала ту же планку экономической эффективности и общественной ценности, что и любое другое решение о расходах, — не более низкую из-за новизны технологии и не более высокую из-за опасений перед ней. Это вопрос, на который команда, отвечающая за реализацию, должна уметь ответить до, а не после запуска функции на основе ИИ: приносит ли это больше ценности, чем стоит, если честно учесть затраты на проверку и надзор и оценку рисков?
Почему это важно
Центральное управление по цифровым технологиям и данным Великобритании (CDDO) опубликовало в 2024 году «Рамочную программу для генеративного ИИ в государственном управлении» (Generative AI Framework for Government), опираясь на более раннее промежуточное руководство от июня 2023 года, и построило её вокруг десяти принципов, охватывающих понятие генеративного ИИ, его этические последствия, безопасность инструментов, меры контроля качества, управление полным жизненным циклом генеративного ИИ, выявление обоснованных сценариев использования, межведомственное взаимодействие, прозрачность, навыки и управление. Настойчивое требование этой рамочной программы обеспечивать «значимый контроль человека» и управление полным жизненным циклом существует потому, что у бизнес-кейсов проектов ИИ есть особый способ проваливаться, которого нет у прочих ИТ-расходов: итоговую цифру повышения производительности на пилоте легко получить и легко завысить, поскольку она измеряется до того, как учтена нагрузка на проверку, исправление и надзор, которую создаёт инструмент. Наряду с этой рамочной программой Стандарт учёта алгоритмической прозрачности (Algorithmic Transparency Recording Standard, ATRS) требует от государственных органов публиковать стандартизированную запись — назначение, используемые данные, показатели работы, тестирование на предвзятость, механизмы человеческого надзора — для алгоритмических инструментов, оказывающих значимое влияние на решения о физических лицах, что превращает затраты на обеспечение качества системы ИИ в предмет публичной отчётности, а не во внутреннюю оценку, которую команда может незаметно пропустить.
Математика
Внедрение ИИ оценивается как дополнение к стандартной оценке экономической эффективности, а не как её замена, при этом специфические для ИИ статьи расходов и выгод указываются явно, а не сводятся к единой цифре «прироста производительности»:
Net value of an AI system =
productivity gain (time saved × loaded staff cost)
− licence/compute cost
− human verification and oversight cost (checking AI output before
it's acted on — this does not shrink to zero even for mature tools)
− ATRS documentation and ongoing monitoring cost
− risk-adjusted cost of harm from errors, bias, or hallucination,
weighted by who bears that harm (distributional-weighting)
A pilot productivity figure that omits the oversight term is not
comparable to a business-as-usual cost baseline that already includes
equivalent human review — see ai-productivity-in-the-public-sector
for the fuller productivity-measurement discipline this borrows from.
Практический пример
Орган местного самоуправления, использующий инструмент генеративного ИИ для составления первых ответов на типовые обращения по муниципальному налогу: 25 000 обращений в год, ранее полностью обрабатываемых сотрудниками в среднем за 14 минут на обращение, полная стоимость сотрудника — 34 £/ч.
Baseline (no AI) cost:
25,000 × (14/60) × £34 = £198,333/year
Pilot headline claim: AI drafts a response in 90 seconds,
caseworker "just reviews and sends" — claimed new time is 3 minutes
25,000 × (3/60) × £34 = £42,500/year
→ claimed saving £155,833/year (looks transformational)
Fully-loaded figure, measured after 3 months live rather than in the
pilot's hand-picked test cases:
Actual review + correction time per response: 6 minutes (drafts
need real editing for complex or emotionally sensitive enquiries)
25,000 × (6/60) × £34 = £85,000/year
Licence/compute cost: £38,000/year
ATRS documentation and quarterly bias/quality monitoring: £14,000/year
Total cost = 85,000 + 38,000 + 14,000 = £137,000/year
Real saving = 198,333 − 137,000 = £61,333/year — genuine and worth
keeping, but well under half the pilot's headline claim, and it
required an honest oversight-time measurement, not the pilot's
best-case one, to find.
Связь с разработкой программного обеспечения
Именно здесь эта тема пересекается с производительностью ИИ в государственном секторе: инженерные команды, встраивающие функции ИИ в государственные услуги, отвечают за инструментирование, которое делает возможным получение «реальной» цифры из практического примера — регистрацию фактического времени проверки, расстояния редактирования между черновиком и отправленным ответом и доли эскалаций, а не доверие к демонстрационным условиям пилота. Функции на основе ИИ следует оценивать по пункту 9 стандарта цифровых услуг (безопасная услуга, конфиденциальность пользователя) и сверять с ценностью кибербезопасности в государственном секторе там, где инструмент затрагивает данные граждан, а любая система ИИ, оказывающая значимое влияние на решения о физических лицах, нуждается в записи ATRS, прежде чем её можно будет считать готовой к оценке, точно так же как услуге необходимо пройти оценку по стандарту цифровых услуг, прежде чем она будет запущена в эксплуатацию.
Подводные камни
- «ИИ-отмывание» (AI-washing): переименование существующей автоматизации на основе правил в «ИИ» для получения доступа к финансированию или вниманию, выделенным на внедрение ИИ, без рисков точности или предвзятости, которые на самом деле оправдывают дополнительный контроль по этой рамочной программе.
- Измерение производительности пилота, а не производственной эксплуатации: пилоты работают на отобранных тестовых кейсах с вовлечёнными, внимательными проверяющими; в реальной эксплуатации используется весь неоднородный набор случаев, а у проверяющих со временем развивается автоматизационная предвзятость и недостаточная проверка результатов — оба фактора искажают честную цифру затрат на надзор.
- Пропуск регистрации в ATRS, потому что инструмент «на самом деле не является автоматизированным принятием решений»: порог стандарта — значимое влияние на решение о физическом лице, а этому критерию соответствует большинство обращённых к гражданам инструментов ИИ для составления текстов или сортировки обращений, даже когда решение формально утверждает человек.
- Игнорирование распределительного воздействия ошибок: усреднённая по всем пользователям частота ошибок системы ИИ может скрывать гораздо более высокую частоту ошибок или предвзятости для отдельных групп; взвешивание по распределению следует применять к статье риск-скорректированного вреда, а не только к совокупному показателю точности.
Источники
- Central Digital and Data Office, Generative AI Framework for Government (2024). https://www.gov.uk/government/publications/generative-ai-framework-for-hmg
- Algorithmic Transparency Recording Standard. https://www.gov.uk/government/collections/algorithmic-transparency-recording-standard-hub
- HM Treasury, Green Book: central government guidance on appraisal and evaluation. https://www.gov.uk/government/publications/the-green-book-appraisal-and-evaluation-in-central-governent