Во многих странах применение искусственного интеллекта в государственном управлении уже выходит за пределы отдельных экспериментов и постепенно становится частью повседневной рутины органов власти. Растущие масштабы применения ИИ и связанные с ним риски заставляют государства формировать специальные правила его использования в публичной сфере.
М. А. Цуциев, генеральный директор ИД «Бюджет», главный специалист Центра инноваций в государственном и муниципальном управлении Финансового университета при Правительстве РФ
Основные риски и вопросы регулирования
Ключевая особенность применения искусственного интеллекта в общественном секторе заключается в неравенстве сторон — государства и гражданина. Если алгоритм участвует — хотя бы в форме рекомендации чиновнику — в решении, например, о назначении пособия, проведении проверки, приеме на государственную службу или доступе к иной услуге, возникают риски дискриминации, использования недостоверных данных и необоснованного отнесения гражданина к группе повышенного риска. Причем тяжелые последствия могут создавать не только современные самообучающиеся модели, но и относительно простые автоматизированные системы (достаточно вспомнить австралийский скандал вокруг Robodebt, когда массовые требования о возврате социальных выплат рассчитывались на основании простой формулы усреднения доходов). Поэтому один из первых вопросов регулирования состоит в том, следует ли распространять специальные требования только на системы, формально относимые к ИИ, или на любые алгоритмические инструменты, способные существенно повлиять на права граждан.
Не менее сложно провести границу между помощью должностному лицу и фактическим принятием решения. Формально система может лишь присваивать заявлению уровень риска, ранжировать кандидатов или рекомендовать проведение проверки, тогда как окончательный документ подписывает человек. Однако «живое» участие чиновника утрачивает свое защитное значение, если он не понимает, как сформирована рекомендация или не располагает временем для ее проверки. Отсюда возникают два взаимосвязанных вопроса: какие государственные функции вообще не должны передаваться алгоритму и что следует понимать под содержательным человеческим контролем.
К этому добавляются трудности обжалования, поскольку гражданин может не знать, что на вывод ведомства повлиял алгоритм. Здесь задача регулирования — установить, в каких случаях орган обязан сообщать заявителю об использовании автоматизированной системы.
Отдельный риск возникает там, где ИИ не принимает властного решения, но заменяет сам канал общения с государством. Чат-бот или телефонный робот экономит ресурсы ведомства при обработке стандартных вопросов, однако легко превращается в «цифровую стену», когда возможность перейти к общению с сотрудником отсутствует или намеренно затруднена. Особенно сильно это затрагивает пожилых людей и граждан с низкой цифровой грамотностью. В связи с этим важны обозначение машинного характера общения и возможность доступа к «живому» сотруднику.
Еще одна группа угроз связана с использованием генеративного ИИ самими служащими. Ввод в публичный сервис персональных данных или служебной информации означает, по сути, их передачу внешнему поставщику. Кроме того, модели склонны к «галлюцинациям»: они могут придумать норму права, ссылку, цифру или обстоятельство дела. Сгенерированный текст при этом создает иллюзию законченного документа и потому нередко проверяется менее тщательно, чем черновик, подготовленный человеком. Регулирование в этой сфере касается прежде всего поведения служащего: какими сервисами разрешено пользоваться, какие сведения допустимо в них вводить, как проверять результат и кто отвечает за документ, подготовленный с помощью ИИ-модели.
Отдельной проблемой является распределение ответственности между органом власти и разработчиком. Государство часто приобретает готовую систему или облачный сервис, не располагая полными сведениями о данных обучения, внутренних ограничениях и последующих обновлениях продукта. Между тем государственный орган должен сохранять ответственность за принятое решение. С этим связаны дискуссии о публичных реестрах алгоритмов и предварительной оценке воздействия.
Полная версия статьи доступна подписчикам журнала «Бюджет»
Оформить подписку Войти
Поделиться:
