Принципы «ИИ для людей»: прозрачность, подотчётность, контроль

Внедрение искусственного интеллекта в государственном управлении — это не просто техническая задача. Это вопрос доверия, справедливости и уважения к правам человека. Чтобы ИИ действительно служил гражданам, а не управлял ими, необходимо закрепить три фундаментальных принципа: прозрачность, подотчётность и контроль. Без них любая цифровая инициатива рискует превратиться в «чёрный ящик», где решения принимаются непонятно, без объяснений и без возможности оспорить.


1. Прозрачность — «Почему так?»

Прозрачность означает, что гражданин должен понимать, как и почему было принято решение, затрагивающее его права, интересы или доступ к услугам.

Пример:
Гражданин подал заявку на субсидию на ЖКХ — и получил отказ.
Если система ответила: «Ваша заявка отклонена по результатам анализа» — это не прозрачность.

Если система ответила: «Ваша заявка отклонена, потому что данные о доходах не совпадают с информацией из налоговой службы за последние 6 месяцев. Ссылка на документ: [ссылка]. Вы можете приложить подтверждающие бумаги» — это прозрачность.

Как обеспечить:
- ИИ должен выдавать объяснимые выводы — не просто «да/нет», а «почему».
- Использовать интерфейсы с пояснениями (например, «Система определила риск на основе: 1) отсутствия подтверждённого дохода, 2) частоты обращений в МФЦ»).
- Публиковать общедоступные методики — как работает алгоритм, какие данные используются, какие критерии важны.
- Не использовать «закрытые» модели, которые нельзя проверить — особенно в госсекторе.

2. Подотчётность — «Кто за это отвечает?»

Подотчётность означает, что за решение ИИ всегда отвечает человек — не машина, не алгоритм, не система. ИИ — инструмент, а не субъект ответственности.

Пример:
Система автоматически отказалась выдать льготу пенсионеру, потому что «по данным» он не проживает по адресу регистрации.
Но на самом деле — он временно проживает у дочери, и данные в базе не обновлены.
Если никто не проверил решение — это катастрофа.
Если сотрудник МФЦ, получивший предупреждение от ИИ, обязан лично проверить ситуацию и принять решение — это подотчётность.

Как обеспечить:
- Все решения ИИ, влияющие на права граждан, должны проходить обязательную проверку человеком (человек в цикле — human-in-the-loop).
- Устанавливать ответственных за каждый ИИ-процесс — не IT-специалист, а руководитель подразделения.
- Вести журналы решений: кто принял решение, на основе каких данных, когда, почему.
- Внедрять механизмы внутреннего аудита — регулярные проверки, как работают системы, не допускают ли они ошибок.

3. Контроль — «Я могу это оспорить»

Контроль — это право гражданина оспорить решение ИИ, получить объяснение и пересмотреть его. Без этого принципа цифровые системы становятся диктаторскими.

Пример:
Гражданин получил уведомление: «Ваша заявка на субсидию отклонена. Причина: высокий риск мошенничества».
Он не знает, на чём основано это заключение.

Он не может подать апелляцию — потому что система «автоматическая».

→ Это нарушение права на защиту (ст. 46 Конституции РФ).

Как обеспечить:
- Внедрять формализованный механизм обжалования — не просто «напишите в поддержку», а чёткий процесс:
1. Запрос на объяснение →
2. Ответ в течение 5 рабочих дней →
3. Пересмотр с участием человека →
4. Письменное решение с обоснованием.
- Давать доступ к данным, на основе которых было принято решение (в рамках ФЗ-152).
- Обязательно сохранять историю взаимодействия с ИИ — чтобы можно было восстановить цепочку.
- Не допускать «автоматических отказов» в критически важных сферах: социальная помощь, медицина, образование, жильё.

✅ Итог: три столба цифрового доверия

Эти принципы — не рекомендации. Это обязательные требования для любого ИИ-проекта в государственном управлении, согласно методическим рекомендациям Минцифры РФ №105 и стандартам этичного цифрового развития.

Цифровая трансформация не должна быть «умной» — она должна быть человекоцентричной.

ИИ должен работать для людей, а не над людьми.
И только тогда он станет не просто инструментом эффективности — инструментом справедливости.