ИСПОЛЬЗОВАНИЕ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В УГОЛОВНОМ СУДОПРОИЗВОДСТВЕ: ПОЛЬЗА И РИСКИ

На текущий момент в российском правовом поле, включая уголовное законодательство, отсутствуют конкретные нормы, непосредственно регулирующие использование искусственного интеллекта. Вместе с тем, применение данных технологий не запрещено, если соблюдаются другие действующие правовые нормы [1].

Неопределенность законодательства вызывает дискуссии о применении искусственного интеллекта в уголовном правосудии. С одной стороны, ИИ может повысить эффективность правоохранительных органов, автоматизируя процессы и анализируя данные. С другой стороны, существуют опасения по поводу прозрачности алгоритмов, предвзятости данных и, как итог, нарушение прав человека [2].

Следовательно, внедрение ИИ в юриспруденцию неизбежно будет вызывать  правовые коллизии и споры, пока законодательно не будут определены его права, обязанности и ответственность.

В России ИИ официально не участвует в принятии судебных решений, однако его элементы уже используются в уголовном судопроизводстве и правоохранительной деятельности:

1. Автоматический анализ цифровых доказательств в области экспертизы [3]. ИИ позволяет обрабатывать огромное количество данных, раскрывать скрытые закономерности и связи.

2. Анализ лиц и звуков на видеозаписях [3]. Системы вроде «Сферы» в Москве используют ИИ для верификации лиц в режиме реального времени. Помогают в розыске преступников и пропавших людей. Также применяются технологии анализа аудиозаписи для выявления подделок или идентификации говорящего.

3. Алгоритмы категоризации дел в Следственном комитете и МВД [4]. ИИ способен автоматически направлять дела по разным категориям, оценивать их сложность и определять сроки, за которые должно быть окончено расследование.

4. Применение нейронных сетей для анализа связей среди участников уголовного расследования [3]. Алгоритмы анализируют информацию из различных источников и выделяют скрытые связи между подозреваемыми, что помогает раскрыть групповые преступления.

5. Анализ текстов и изображений [3]. В делах об экстремизме ИИ используется для автоматического анализа текстов и изображений

6. Автоматизация рутинных задач [3]. ИИ помогает в преобразовании аудиозаписей судебных заседаний в текстовой формат, что ускоряет обработку материалов.

Польза ИИ в уголовном судопроизводстве заключается в том, что его использование позволяет заметно повысить эффективность работы правоохранительных органов, благодаря автоматизации рутины (например: делопроизводство, деления дел, судопроизводственная практика), ускорению работы с большими данными и цифровыми доказательствами, снижению вероятности человеческого фактора, лучшему доказательству за счет раскрытия скрытых связей между фигурантами и определению вероятности совершение преступления, а также обеспечивает более быстрое и доступное правосудие, при условии соблюдения гуманных норм законодательства.

Однако существуют определенные риски, связанные с использованием искусственного интеллекта:

1. Предвзятость алгоритмов. Когда исходные данные, применяемые для обучения ИИ, отражают прошлые ошибки и устоявшиеся стереотипы, алгоритм, скорее всего, переймет эти недостатки и начнет воспроизводить их в результатах своей работы.

Если системы анализа преступности опираются на архивные сведения, которые могут содержать, например, предвзятое отношение правоохранительных органов к определённым этногруппам, возникает вероятность, что такие системы начнут необоснованно относить членов этих групп к категории потенциальных преступников, даже при отсутствии реальных оснований. Алгоритмы, обученные на таких данных, могут усилить существующие социальные неравенства [2].

Проблема предвзятости способна вызвать ряд неблагоприятных исходов, среди которых: выдача ложных положительных результатов, которые приводят к необоснованным арестам и досмотрам, а также неправосудным приговорам; усиление неравенства и дискриминации через излишнее внимание к определенным социальным группам и территориям; подрыв доверия к правоохранительной системе.

Российская практика в сфере использования искусственного интеллекта в уголовном судопроизводстве практически отсутствует. Если рассматривать зарубежную практику, то примером предвзятости  ИИ может послужить алгоритм COMPAS, применяемый в судах США с 2000‑х годов для оценки риска рецидива. В 2016 году расследование ProPublica показало, что COMPAS проявлял значительную расовую предвзятость в своих прогнозах: он с большей вероятностью ложно помечал подсудимых с тёмным цветом кожи как лиц с высоким риском рецидива, в то время как подсудимые со светлым оттенком кожи с большей вероятностью были ложно помечены как лица с низким риском. Предвзятость возникла из‑за обучения на исторических данных, отражавших системную дискриминацию.

2. Угрозы конфиденциальности и безопасности данных. Системы, основанные на искусственном интеллекте, работают с обширными массивами информации, в том числе с персональными данными лиц, вовлеченных в уголовное судопроизводство: свидетелей, потерпевших, подозреваемых. Разглашение этих данных возможно по разным причинам: в результате хакерских атак на информационные системы правоохранительных органов, из-за ошибок в механизмах хранения и пересылки информации, а также из-за действий инсайдеров. Служащие, наделенные правом доступа к этим сведениям, могут преднамеренно или по неосторожности передать их посторонним лицам. Следовательно, использование искусственного интеллекта в уголовном судопроизводстве порождает серьёзные риски для конфиденциальности данных. Это может стать причиной ущемления прав граждан, утечки информации и неправомерного использования технологий.

Например, В 2020 году Гаагский суд постановил, что система индикации рисков (SyRI), используемая для борьбы с мошенничеством в сфере льгот, нарушает статью 8 Европейской конвенции по правам человека (право на уважение частной жизни). Система обрабатывала личные данные граждан без достаточного правового основания.

3. Переквалификация уголовного дела на основе аналитики искусственного интеллекта без достаточных оснований [2]. Существует опасность, что выводы ИИ могут применяться для изменения квалификации дел без наличия убедительных и самостоятельных доказательств. Главная проблема заключается в том, что мнение алгоритма фактически заменяет собой экспертную оценку, основанную на тщательном изучении всех обстоятельств дела и доказательств.

Одновременно, необоснованное использование ИИ для изменения квалификации дела может нарушить основополагающий принцип презумпции невиновности. Обвинение будет основываться на гипотезах, созданных машинным алгоритмом, а не на установленных фактах, что вынуждает обвиняемого доказывать свою невиновность, вместо того чтобы обвинение доказывало его вину. Существует опасность, что человека могут обвинить в преступлении, которого он на самом деле не совершал, или совершил в ином объёме.

Новый закон Республики Казахстан "об искусственном интеллекте" (вступит в силу 18 января 2026) содержит ряд положений, направленных на предотвращение нарушений презумпции невиновности и обеспечение прозрачности использования ИИ. Он закрепляет принцип приоритета благополучия человека и свободы воли (п.5 ст. 4), принцип прозрачности и объяснимости (п.3 ст. 4), запрещает манипулятивные и дискриминационные системы ИИ (ст. 17), а также устанавливает статью 18 об управлении рисками систем ИИ, что подразумевает непрерывный процесс, выполняемый собственником и (или) владельцем на протяжении всего жизненного цикла системы искусственного интеллекта [4].

4. Ошибки в распознавании лиц представляют собой значительную проблему для использования ИИ в правоохранительных структурах, особенно когда видео имеет низкое качество. Точность работы систем распознавания лиц тесно связана с качеством исходных данных. Низкое разрешение видео, недостаточная освещенность, а также частичное скрытие лица заметно уменьшают шансы на точную идентификацию. В результате существует риск ложных срабатываний, когда система идентифицирует невиновного человека как преступника, основываясь на нечетком сходстве. Ошибки подобного рода могут иметь серьезные последствия — от ошибочных задержаний и допросов до обвинений в преступлениях, которые человек не совершал [2].

Недостаточная точность работы систем распознавания лиц объясняется тем, что алгоритмы, разработанные и протестированные преимущественно на базе данных с преобладанием лиц европеоидной расы, демонстрируют менее эффективные результаты при идентификации людей из других этнических групп, что ведет к постоянным ошибкам. Проблема усугубляется плохим качеством видеоматериалов, используемых в ходе расследований.

Примером является случай с гидрологом Александром Цветковым, которого обвинили в феврале 2023 года в серии убийств двадцатилетней давности из-за совпадения внешности на 55% с фотороботом преступника. Суд постановил арестовать учёного. В июне 2023 года к делу подключились журналисты, а жена Цветкова Марина развернула активную кампанию по спасению мужа. Коллеги по институту подняли архивы и нашли фотографии, которые доказали, что учёного не было в Москве в момент убийств. В декабре 2023 года арест отменили. В феврале 2024 года с Цветкова сняли все обвинения.

Предложения по совершенствованию системы российского уголовного судопроизводства с помощью ИИ:

1. Разработать четкие нормы и порядки, которые бы регулировали применение ИИ в уголовном производстве. Пример: определить конкретные условия и ситуации, при которых результаты, полученные с помощью ИИ, могут быть основанием для изменения квалификации дела.
2. Применять искусственный интеллект в качестве вспомогательного средства для автоматизации отдельных элементов деятельности участников уголовного судопроизводства. Например: использовать ИИ для анализа проектов процессуальных документов с целью их соответствия установленным законодательным требованиям.
3. Гарантировать прозрачность функционирования искусственного интеллекта — это необходимо для того, чтобы общество имело возможность следить за его деятельностью. Например, можно задействовать общественный мониторинг через открытые источники информации или обеспечить надзор со стороны государственных органов, регулирующих применение ИИ в судебной системе.
4. Обучать сотрудников основам функционирования ИИ.

Таким образом, ИИ постепенно интегрируется в сферу уголовного судопроизводства. Он несёт в себе новые возможности и упрощает работу правоохранительных органов и судов, но вместе с тем появляются и риски его использования. Важно осознавать, что ИИ в наших реалиях является лишь инструментом. Его роль – дополнять, а не заменять профессиональное суждение юристов, судей и следователей. Грамотное внедрение ИИ в уголовное судопроизводство позволит повысить эффективность работы правоохранительных органов и судов за счет автоматизации, при сохранении ключевой роли человека.