ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ В АНТИКОРРУПЦИОННОМ МОНИТОРИНГЕ: ВОЗМОЖНОСТИ, ОГРАНИЧЕНИЯ И ЭТИЧЕСКИЕ РИСКИ

В наши дни борьба с коррупцией всё больше сводится к обработке информации. Декларации чиновников, контракты, банковские операции, реестры компаний, кадровые базы - объёмы этих данных растут очень быстро. Специалисты сходятся во мнении: без автоматической обработки таких массивов нельзя ни оперативно выявлять нарушения, ни тем более прогнозировать, где они могут возникнуть.

Главная сила искусственного интеллекта в том, что он способен перерабатывать огромные массивы информации за считанные секунды. Если человек может просмотреть за день сто деклараций или пятьсот контрактов, то алгоритм - миллионы. Человек физически не в состоянии сопоставить тысячи страниц из разных источников, а программа - легко, и делает это за доли секунды [2].

Какие конкретно нарушения умеет находить ИИ? Перечислим самые частые. Во-первых, завышение цены контракта. Алгоритм сравнивает стоимость товара или услуги по государственной закупке со среднерыночной ценой, учитывая регион, время, объём. Если цена выше средней на 30-50%, система бьёт тревогу. Во-вторых, искусственное дробление закупок. Это когда одну большую закупку на сумму, требующую конкурсных процедур, разбивают на много маленьких, чтобы обойти правила и заключить контракт с «нужным» поставщиком без торгов. ИИ легко видит такие цепочки: один заказчик, один поставщик, много мелких контрактов подряд. В-третьих, «свой» поставщик. Алгоритм анализирует историю побед в торгах: если одна и та же фирма выигрывает у одного госоргана год за годом, даже когда были более дешёвые предложения, это подозрительно. В-четвёртых, скрытые связи между чиновниками и бизнесом. Система ищет пересечения: жена чиновника владеет фирмой-победителем; сын работает в компании, которая получает подряды от отдела отца; брат является учредителем субподрядчика. В-пятых, несоответствие доходов и имущества. ИИ сравнивает официальную зарплату и декларацию чиновника с его реальным имуществом - дорогими машинами, квартирами, земельными участками, зарубежной недвижимостью, которые можно найти в открытых реестрах. Если имущества явно больше, чем можно купить на законные доходы, это повод для проверки.

Главное преимущество ИИ в том, что он позволяет перейти от реактивной модели (когда нарушение уже случилось, нанесён ущерб, и его долго расследуют) к профилактической. Программа может сама подсказывать: «В отделе закупок министерства здравоохранения аномально высокая доля контрактов с единственным поставщиком, обратите внимание». Это помогает предотвращать взятки и откаты ещё до того, как они принесут большой ущерб. Специалисты называют это «антикоррупционным скорингом» - оценкой риска для каждого госоргана, чиновника или контракта [6].

Если систему ИИ обучить на качественных и достоверных данных, она может научиться прогнозировать, в каких сферах, регионах или даже у каких конкретно должностных лиц коррупция наиболее вероятна. На выходе получится список самых рискованных направлений. Это очень полезно для контролирующих органов - прокуратуры, Счётной палаты, антикоррупционных подразделений МВД. У них всегда не хватает сотрудников, чтобы всё проверять одинаково тщательно. Приходится выбирать, на что потратить ограниченные силы. Раньше выбор часто делался на основе жалоб, случайных проверок. Теперь же можно опираться на объективные данные, которые подсветил ИИ.

В такой модели искусственный интеллект становится не заменой человека, а его умным помощником. Он говорит инспектору: «Из тысячи контрактов этого ведомства вот три, где вероятность коррупции превышает 90% по нашим моделям. Начни с них». А инспектор уже сам решает, проводить ли полноценную проверку, вызывать ли объяснения, назначать ли экспертизу. Так усилия расходуются более эффективно, контроль становится адресным, а не сплошным. Это позволяет реже отвлекать честных людей и компании, у которых всё в порядке, и сосредоточиться на действительно подозрительных случаях. Кроме того, прогнозирование помогает вышестоящему руководству: если ИИ указывает, что в каком-то регионе системные проблемы с государственными закупками, туда можно направить мобильную группу контролёров или изменить местные административные процедуры. Таким образом, ИИ помогает не только ловить взяточников, но и менять условия, в которых коррупция возникает [4].

Несмотря на все плюсы, у искусственного интеллекта есть серьёзные недостатки. Самый главный - он полностью зависит от того, какие данные ему предоставили. Специалисты говорят: «мусор на входе - мусор на выходе». Если данные неполные, устаревшие, содержат ошибки, опечатки, противоречия или просто плохо собраны, то и результаты будут ошибочными. Пример: в реестре контрактов перепутаны идентификационные номера налогоплательщиков, из-за этого ИИ решает, что одна фирма победила в тысяче закупок, хотя на самом деле это разные фирмы с похожими названиями. В итоге система может пропустить реальное нарушение или, наоборот, обвинить честную фирму, которая ни в чём не виновата. Поэтому прежде чем запускать антикоррупционный ИИ, нужно навести порядок в самих данных: сделать их полными, актуальными, очищенными от ошибок, а также совместимыми между разными ведомствами. Это огромная организационная работа, которая может занять годы.

Второе важное ограничение: ИИ умеет находить статистические совпадения и аномалии, но совершенно не понимает жизненный и правовой контекст. Представьте, что программа показала: жена чиновника владеет компанией, которая выиграла государственную закупку у её мужа. Система фиксирует подозрение. Но что на самом деле? Варианты разные: а) муж не знал, что жена владеет фирмой (супруги живут отдельно или она скрыла); б) компания выиграла потому, что действительно предложила лучшую цену, а её владелица - жена - вообще не участвует в управлении; в) это часть давнего бизнеса, который существовал до того, как муж стал чиновником; г) а вот это уже коррупционный сговор. Алгоритм не может оценить, был ли умысел, есть ли доказательства, соблюдены ли процедуры. Он просто указывает на риск. Окончательное решение всегда должен принимать человек - юрист, следователь, прокурор или руководитель [3].

Третья проблема - непрозрачность многих современных алгоритмов, особенно тех, что работают на основе глубокого обучения, то есть нейросетей. Они часто действуют как «чёрный ящик»: дают ответ, например, «этот контракт коррупционный с вероятностью 95%», но не могут объяснить, почему пришли к такому выводу. Нейросеть сама не знает, её внутренние настройки не поддаются простому человеческому прочтению. Для борьбы с коррупцией это очень плохо, потому что любые обвинения и проверки должны быть обоснованы и прозрачны. Человек имеет право знать, на каком основании его заподозрили. Поэтому при внедрении ИИ нужно либо использовать «прозрачные» алгоритмы, либо разрабатывать специальные методы объяснения для нейросетей. В любом случае, необходимы процедуры алгоритмического аудита, документирования критериев и проверки результатов независимыми экспертами.

Этические проблемы при использовании ИИ в борьбе с коррупцией не менее важны, чем технические. Первый и самый очевидный риск - нарушение частной жизни. Чтобы эффективно искать взятки и схемы, системе нужен доступ к огромному количеству личных данных: финансовые операции, доходы и расходы, связи между людьми, семейное положение, места жительства, иногда даже биометрия или геолокация. Если государство создаст такую систему и даст ей неограниченный доступ, возникает опасность тотальной слежки за всеми гражданами без достаточных оснований. Должен действовать принцип соразмерности: собирать и обрабатывать можно только те данные, которые действительно необходимы для конкретной антикоррупционной цели, и только при чётком законном разрешении. Также обязательно нужно ограничить срок хранения данных и круг лиц, имеющих к ним доступ. Европейский закон о защите данных (GDPR) и российское законодательство о персональных данных требуют, чтобы люди знали, какие данные о них собираются и с какой целью.

Второй риск - алгоритмическая предвзятость, то есть несправедливое отношение к определённым группам людей. Если ИИ обучали на данных, где уже были систематические ошибки, то алгоритм начнёт воспроизводить и усиливать эти искажения. В итоге под подозрение могут попадать не самые коррупционеры, а те, кого и так часто проверяли. Или, например, ИИ может решить, что все чиновники определённой национальности или возраста коррумпированы, потому что в обучающей выборке таких было большинство. Это несправедливо и подрывает авторитет контроля. Более того, такие алгоритмы могут нарушать конституционный принцип равенства всех перед законом. Чтобы этого избежать, нужно обязательно проверять алгоритмы на предмет дискриминации - нанимать независимых этических экспертов, тестировать систему на разных группах данных, а также давать гражданам возможность оспаривать выводы ИИ и требовать пересмотра дела человеком.

Третий риск связан с ответственностью. Когда решение формально основано на рекомендации ИИ, у должностных лиц может возникнуть соблазн переложить вину на компьютер: «Система так решила, я не виноват, если ошиблась». Но, ни этически, ни юридически это недопустимо. Ответственность всегда должен нести человек - тот, кто подписал приказ о проверке, кто предъявил обвинение, кто издал постановление. ИИ - лишь помощник, его выводы - не доказательства, а лишь ориентир. Это особенно важно, потому что ошибка в борьбе с коррупцией стоит дорого. Можно необоснованно обвинить невиновного человека, испортить ему репутацию на годы, заставить его потерять работу, семью, здоровье. А реальные преступники в это время останутся на свободе. Поэтому законодательство должно чётко прописывать: решение о любых контрольных или правоохранительных мерах принимает только человек на основе всей совокупности доказательств, а ИИ даёт лишь информацию к размышлению.

Есть и дополнительный риск - иллюзия полной объективности и безошибочности. Люди склонны доверять компьютеру больше, чем человеку, думая, что машина не ошибается, она считает строго по формулам. На самом деле ИИ ошибается так же часто, как и люди, просто по-другому. У него есть свои недостатки: он не понимает всей картины, его путают ошибочные или лишние данные, и он может решить, что два события связаны между собой, хотя на самом деле это не так. Если слепо верить алгоритму, можно пропустить очевидные факты, которые программа не учла, или начать преследовать невиновных только потому, что их поведение статистически нетипично.

Разные страны уже пробуют использовать ИИ для борьбы с коррупцией. Китай, например, создал систему государственного мониторинга, которая отслеживает покупки, перемещения и финансовые потоки чиновников. Эффективность этой системы не раскрывается, но западные критики указывают на массовые нарушения прав человека. Эстония пошла по другому пути: там ИИ анализирует госзакупки и прозрачные реестры, но только в открытых данных, без доступа к личным финансам граждан [1, 5].

Правовые рамки для внедрения ИИ в антикоррупционный мониторинг только формируются. В России, например, нет специального закона об использовании искусственного интеллекта в контрольно-надзорной деятельности. Действуют общие нормы о защите персональных данных, о государственных информационных системах, о противодействии коррупции [7]. Эксперты предлагают дополнить антикоррупционное законодательство статьёй, которая бы разрешала обработку больших данных автоматизированными системами только при соблюдении условий: прозрачность алгоритма, возможность обжалования, обязательное наличие человека в контуре, регулярный аудит. Также нужно прописать, кто несёт ответственность за ложноположительные срабатывания ИИ - если система необоснованно пометила человека как коррупционера, он должен иметь право на компенсацию морального и материального вреда.

Несмотря на отсутствие чёткого закона, в современной России искусственный интеллект для борьбы с коррупцией и контроля внедряют не в виде одной большой программы, а через сеть разных цифровых систем, которые работают в разных ведомствах и обмениваются данными между собой. При этом данные сильно централизованы, а основной упор сделан на то, чтобы предсказывать нарушения, а не просто фиксировать уже случившиеся [6].

Для наглядности ниже приведена таблица с основными программами и системами на базе ИИ и больших данных, которые используются в России для выявления и предотвращения коррупции.

Таблица 1.

Ключевые ИИ-системы антикоррупционного и финансового мониторинга в РФ

Однако внедрение этих систем в России сталкивается с теми же фундаментальными проблемами, которые были описаны выше. Во-первых, сохраняется проблема изолированности баз данных: несмотря на успехи ФНС, многим ведомствам до сих пор сложно обеспечить бесшовный обмен данными в реальном времени из-за различий в форматах и ведомственных барьеров. Во-вторых, остается острой проблема алгоритмической прозрачности. Предпринимателям и чиновникам зачастую сложно оспорить решение системы, если она присвоила им высокий индекс риска, опираясь на скрытые параметры нейросети.

На основе всего сказанного можно дать несколько конкретных советов для государства и организаций, которые хотят использовать ИИ в борьбе с коррупцией:

1) начать не с закупки дорогой программы, а с наведения порядка в данных. Провести аудит всех реестров и баз, устранить дубликаты, ошибки, пробелы. Обеспечить совместимость форматов между разными ведомствами;

2) выбрать или разработать такой алгоритм, который будет объяснимым, то есть не «чёрный ящик». Если всё же используется нейросеть, то добавить модуль пост-объяснения, который показывает, какие признаки повлияли на решение;

3) законодательно закрепить, что решение о проверке или наказании всегда принимает человек. ИИ может только подсвечивать риски;

4) создать механизм независимого алгоритмического аудита - раз в год приглашать сторонних экспертов, которые проверят систему на предвзятость, ошибки, утечки данных;

5) обеспечить гражданину право знать, если в отношении него использовался ИИ, и право обжаловать выводы алгоритма в административном или судебном порядке;

6) ограничить объём собираемых персональных данных только необходимым минимумом. Нельзя под видом борьбы с коррупцией собирать информацию обо всех гражданах без разбора.

Таким образом, искусственный интеллект - это действительно мощный инструмент для борьбы с коррупцией. Он помогает быстро находить скрытые связи и опасные зоны, на которые стоит направить ограниченные силы проверяющих. Он позволяет работать на опережение, а не только догонять уже совершённые преступления. При грамотном внедрении ИИ может повысить эффективность антикоррупционной работы в разы, сэкономить бюджетные средства и уменьшить административную нагрузку на честных людей. Но использовать его нужно очень осторожно, соблюдая несколько главных принципов: законность, прозрачность, проверяемость и уважение к правам человека. Самая эффективная модель - это когда ИИ не заменяет специалиста, а помогает ему. Машина даёт подсказки, собирает факты, показывает риски, а окончательное решение остаётся за живым экспертом - юристом, следователем, инспектором. Только тогда цифровизация действительно поможет уменьшить коррупцию, а не создаст новые проблемы, связанные с недоверием, ошибками, тотальной слежкой и алгоритмической несправедливостью.