МЕТОДЫ МОНИТОРИНГА СОЦИАЛЬНЫХ СЕТЕЙ ДЛЯ СВОЕВРЕМЕННОГО ВЫЯВЛЕНИЯ ПРИЗНАКОВ ЭКСТРЕМИСТСКОЙ ДЕЯТЕЛЬНОСТИ

Актуальность исследования обусловлена трансформацией социальных сетей в ключевое информационно-коммуникативное пространство современности, которое, наряду с позитивными функциями, стало средой для распространения идеологий насилия, радикализации и вербовки в экстремистские организации. Динамичный характер распространения такого контента требует разработки и постоянного совершенствования методов его оперативного обнаружения и нейтрализации. Целью данной работы является комплексный анализ существующих методов мониторинга социальных сетей - от традиционного ручного анализа до передовых решений на основе искусственного интеллекта и оценка их эффективности в контексте противодействия экстремизму.

В рамках рассмотрения методов мониторинга социальных сетей на предмет экстремистской деятельности необходимо предварительно определить критерии, по которым контент может быть отнесен к категории экстремистских материалов. В качестве базового методологического ориентира целесообразно использовать признаки, систематизированные и представленные МВД России. Важно отметить, что юридически значимое признание материала экстремистским относится исключительно к компетенции судебных органов. Однако для специалиста, осуществляющего оперативный мониторинг, знание и умение идентифицировать соответствующие признаки является обязательным условием работы. К числу таких признаков относятся:

1. Возбуждение социальной, расовой, национальной или религиозной розни, выражающееся в призывах к насильственным действиям в отношении лиц определенной национальности или вероисповедания;
2. Пропаганда исключительности, превосходства либо неполноценности человека по признаку его социальной, расовой, национальной, религиозной или языковой принадлежности;
3. Публичные призывы к осуществлению террористической деятельности или публичное оправдание терроризма, в том числе с использованием средств массовой информации. Под данным признаком понимается заявление лица о признании идеологии и практики терроризма правильными, нуждающимися в поддержке и подражании;
4. Пропаганда и публичное демонстрирование нацистской атрибутики или символики, либо атрибутики или символики, сходных с нацистской до степени смешения, а также публичное демонстрирование атрибутики или символики экстремистских организаций;
5. Призывы к изменению государственного строя насильственным путем, включая призывы к революции, к восстанию, к неповиновению законно избранной власти, а также непосредственно сама подобная деятельность [5].

Перечисленные признаки, опубликованные МВД России, выступают в качестве теоретической основы, определяющей вектор как ручного, так и автоматизированного мониторинга.

Одним из традиционных методов мониторинга социальных сетей с целью выявления признаков экстремистской деятельности является ручной мониторинг. В его рамках осуществляется проверка аккаунтов пользователей и выявление их принадлежности к группам, пропагандирующим праворадикальные и радикальные исламистские идеи, а также другим подобным сообществам. Специалисты вручную просматривают группы, страницы и посты в социальных сетях, обращая внимание на контент, который может иметь экстремистскую направленность [2]. При обнаружении подозрительных материалов их немедленно фиксируют с помощью скриншотов или фотографий экрана. Это необходимо, поскольку администраторы и участники экстремистских сообществ часто удаляют информацию. Если противоправный контент не был своевременно зафиксирован, впоследствии доказать факт его размещения становится невозможно.

На практике ручной мониторинг является эффективным методом выявления противоправной деятельности. В ходе анализа специалисты обращают внимание не только на публикуемый пользователем контент (включая запрещенные в Российской Федерации видеоматериалы), но и на его подписки, а также список друзей. Это позволяет составить более полный психологический и поведенческий портрет личности и оценить степень ее вовлеченности в деструктивные сообщества. Обнаружение материалов, несущих в себе признаки экстремизма, служит прямым основанием для передачи данных в правоохранительные органы. В дальнейшем это становится юридически значимым доказательством, на основании которого компетентные органы проводят дальнейшие процессуальные действия, включая вызов фигуранта на официальный допрос и проведение иных следственных мероприятий. Тем не менее, очевидная ограниченность человеческих ресурсов при работе с огромными потоками цифровой информации закономерно подводит к необходимости автоматизации части процессов.

К автоматизированным методам мониторинга, преодолевающим ресурсные ограничения ручного анализа, относится технология анализа сетевых графов (Social Network Analysis, SNA). Анализ социальных сетей (SNA) - это методологический подход к изучению и визуализации отношений и взаимодействий в сети. Обычно он фокусируется на том, как отдельные лица или организации связаны и влияют друг на друга [3]. Этот метод фокусируется не только на содержании сообщений, но и на структуре связей между пользователями. Алгоритмы выявляют ключевых влиятельных лиц (лидеров мнений, координаторов), исследуют кластеры подозрительных сообществ и анализируют паттерны распространения информации. Такой подход позволяет прогнозировать всплески активности радикальных групп и выявлять скрытые, непубличные связи, которые часто остаются незамеченными при поверхностном анализе контента.

Еще одним важным методом мониторинга социальных сетей является использование специализированного программного обеспечения. В 2024 году был сделан большой шаг на пути к своевременному и быстрому выявлению экстремистского контента. Как сообщается на сайте ПГНИУ, доцент института компьютерных технологий Андрей Рабчевский создал уникальный датасет, способный идентифицировать пользователей, распространяющих экстремистские материалы. Для реализации этой задачи пермская компания «Сеуслаб» разработала специальную поисковую систему [6].

Эффективность данной технологии подтверждает сам автор: по его словам, математические модели позволяют с высокой точностью выявлять в социальных сетях лиц, распространяющих информацию экстремистского характера. Он также является автором синтетического датасета, выявляющего роли пользователей социальных сетей, вовлеченных в деструктивные социальные явления.

Параллельно с анализом текста, современные системы применяют компьютерное зрение (Computer Vision) для мониторинга визуального контента. Компьютерное зрение позволяет машинам интерпретировать визуальную информацию и принимать решения на ее основе. Оно использует передовые методы для обработки и анализа изображений и видео, позволяя компьютерам идентифицировать объекты и реагировать на них соответствующим образом [7]. Алгоритмы обучаются распознавать запрещенную символику нацистскую, террористическую, униформу, жесты, а также выявлять признаки манипуляций с изображениями и видео (мемы, коллажи, скрытые послания). Например, разработанные МВД России методики включают автоматическое сравнение загружаемых изображений с базами данных экстремистских материалов, что значительно ускоряет процесс первичного скрининга. Один из подходов основан на технике хеширования. Он предполагает преобразование элементов контента (в данном случае изображений) в уникальную строку данных. Система сравнивает новые изображения с существующей базой данных, где хранится контент, ранее идентифицированный как экстремистский или террористический [1].

Для повышения устойчивости системы к попыткам обхода модерации за счёт незначительных изменений контента чаще используется перцептивное хеширование. Оно фокусируется на шаблонах в значимых признаках контента и игнорирует изменения, незаметные для человеческого глаза.

В метод мониторинга социальных сетей для выявления признаков экстремистской деятельности входит обработка естественного языка (NLP) и классификации данных. Системы используют алгоритмы для анализа текстов, определения тональности, выявления призывов к насилию, радикальных идеологий или экстремистских лозунгов. Например, проект «КОНТЕНТУМ» от Сыктывкарского государственного университета применяет NLP и библиотеки Python для анализа данных [4].

Таким образом, исходя из вышесказанного и проанализировав методы мониторинга социальных сетей для своевременного выявления признаков экстремистской деятельности, можно сделать вывод о том, что классический ручной мониторинг остается действенным инструментом для глубинного контекстуального анализа и сбора юридически значимых доказательств. Однако, как было показано, при обработке больших объемов информации человеческие возможности объективно ограничены, что не позволяет качественно и своевременно реагировать на все угрозы в масштабах реального времени. Именно поэтому в современных условиях особую значимость приобретают автоматизированные методы мониторинга и различные программные проекты, основанные на технологиях искусственного интеллекта, машинного обучения и анализа больших данных.