УДК 343.9

К ВОПРОСУ О ПРОТИВОДЕЙСТВИИ ВРЕДОНОСНОЙ ИНФОРМАЦИИ В СОЦИАЛЬНЫХ СЕТЯХ

Смирнов Евгений Витальевич
Санкт-Петербургский государственный университет телекоммуникаций им. проф. М. А. Бонч-Бруевича
магистрант 2 курса кафедры защищенных систем связи

Аннотация
Социальные сети оказывают значимое влияние на современное общество и присутствие в них вредоносной информации недопустимо. Для противодействия ей применяется целый комплекс законодательных и технических мер. В работе рассмотрены меры, принятые для противодействия распространению вредоносного контента в социальных сетях и оценена их эффективность на примере борьбы с «группами смерти». По результатам работы сделаны предложения, призванные повысить эффективность существующего подхода, тем самым повысив уровень защищенности простых граждан от потенциально опасной информации.

Ключевые слова: , , , ,


Рубрика: 05.00.00 ТЕХНИЧЕСКИЕ НАУКИ

Библиографическая ссылка на статью:
Смирнов Е.В. К вопросу о противодействии вредоносной информации в социальных сетях // Современные научные исследования и инновации. 2021. № 5 [Электронный ресурс]. URL: https://web.snauka.ru/issues/2021/05/95445 (дата обращения: 09.10.2021).

В настоящее время вопрос информационной безопасности в социальных сетях является крайне важным, поскольку, с их популярностью и вовлечением в них граждан они стали неким глобальным информационным полем, оказывающим огромное влияние на современную жизнь. Аудитория и влияние социальных сетей очень велики, что дает возможность различного вида вредоносной информации оказывать влияние на общество, что, конечно же недопустимо. Противодействие вредоносной информации может быть необходимо не только государствам и крупным корпорациям, заботящихся о репутации, но и обычным людям, заинтересованным в объективности собственного информационного пространства.

Существует большое количество методик, направленных на мониторинг и анализ социальных сетей и противодействие вредоносной информации. Финальным этапом практически каждой из них являются какие-либо меры противодействия, показывающие хорошие результаты на тестовых выборках, однако их применение в рамках действующих социальных оставляет желать лучшего. В ходе данной работы будет рассмотрена эффективность противодействия на конкретном примере.

Для противодействия вредоносной информации в социальных сетях можно выделить три вида мер: правовые, организационные и программно-технические [1].

Правовые меры необходимы для установление общих правил функционирования интернет-среды и определение правового статуса его участников, они устанавливают правовые запреты на распространение определенного вида контента и оговаривают ответственность за их нарушение.

Что касается организационных мер, то они тесно переплетены с правовыми и заключаются в организации линий приема информации о негативном контенте и реагирование на них (удаление/блокирование контента или сайта, уведомление правоохранительных органов, формирование и обновление черных/белых списков и в мониторинге контента со стороны администраторов,

Программно-технические меры исполняют вышесказанное, применяя технологии поиска, фильтрации и ограничения контента, содержащего негативную информацию, а также предоставляют пользователям иные технологические инструменты необходимые для обеспечения безопасности. Рассмотрим эффективность применения комплекса этих мер на конкретном примере.

В 2012 году в России началась активная борьба с так называемыми “группами смерти”, призывающих подростков к суициду. В соответствие с Указом Президента РФ от 01.06.2012 “О Национальной стратегии действий в интересах детей на 2012 – 2017 годы” [2] в стране были реализованы программы по предотвращению данного явления. Были дополнены некоторые существующие законы и приняты новые. Что касается сферы интернет-пространства:

ФЗ №149 “Об информации, информационных технологиях и о защите информации” [3] дополнили новым пунктом, обязывающим орган исполнительной власти, осуществляющий контроль и надзор в сфере средств массовой информации, массовых коммуникаций, в случае выявления в Интернет информации о призывах к совершению самоубийства в течение суток информировать о всех выявленных нарушениях органы внутренних дел, для принятия адекватных мер по нейтрализации выявленных угроз. Позднее, в 2018 в этом же законе сервисы WhatsApp, Viber и подобные получили юридическое определение как информационно-коммуникационный сервис обмена мгновенными сообщениями. Закон предусмотрел возможность ограничения оператором связи доступа к подобным сервисам на основании решения уполномоченного органа власти или решения суда.

Дальнейшим развитием системы правовых актов является принятый Федеральный закон № 156 от 2017 года [4]. Этим законом введено в обращение понятие «копии заблокированного сайта». Копии заблокированного сайта (зеркала) теперь автоматически блокируются Роскомнадзором. Операторы поисковых систем так же в силу этого закона обязаны удалять из результатов поиска ссылки на заблокированные ресурсы.

Что касается непосредственно социальных сетей, то в начале 2018 г. подписан ФЗ № 139 закон о внесудебной блокировке групп и сообществ, распространяющих опасную для здоровья и жизни несовершеннолетних информацию [5]. Блокировка группы осуществляется вследствие решения уполномоченных органов (Роскомнадзор, Роспотребнадзор, ФСКН), вследствие решения суда и вследствие решения администрации социальных сетей.

Вскоре на сайте Роскомнадзора существующая форма для обращений граждан была дополнена возможностью оставить официальное обращение и пожаловаться на конкретный ресурс. Сейчас этот подход активно развивается, так в феврале 2021 года началось бета-тестирование мобильного приложения для ускоренной подачи жалоб граждан на запрещенную информацию, цель которого – повысить оперативность удаления из Сети запрещенной информации.

Теперь перейдем к практической реализации противодействия. В декабре 2016 года на базе Роскомнадзора создана рабочая группа по пресечению распространения в интернете информации о «группах смерти». В состав объединения, кроме Роскомнадзора и его подведомственных предприятий, вошли представители Роспотребнадзора, Mail.ru Group, «ВКонтакте», «Одноклассники», «МойМир». По результатам заседания была организована работа по мониторингу российских соцсетей, в том числе «закрытых групп», а также по оперативному удалению суицидального контента администрацией «ВКонтакте», «Одноклассники», «МойМир» [6]. В результате их работы был составлен глоссарий ключевых слов, соответствующих тематики («синий кит», «разбуди меня в 4.20» и подобные выражения). Экспертами был произведен поиск по ключевым словам и фото/видео/аудио контенту содержащим соответствующую символику, призывы и иную информацию. И по результатам их работы были произведены множественные досудебные блокировки. Однако их авторы на тот момент успешно уходили от ответственности, а взамен заблокированных сообществ появлялись новые и тут же дублировались, что спровоцировало многократное увеличение таких групп и привлечение аудитории.

В исследовании Самосват О. И., Брежневой Т. С., Шмееровой Е. Р. [7] были собраны статистические данные об изменении количества «групп смерти» и их участников в течении нескольких лет, эти данные представлены в виде графиков на рисунке 1.


Рисунок 1. Статистические данные о подписчиках и количестве «групп смерти»

Массовое освещение этой темы в СМИ привело к повышению информированности о таких группах и вызвало повышенный всплеск внимания к ним, а активное блокирование привело к мутированию групп, то есть к изменению названий, сленга и типа публикуемого контента. К тому же стало появляться множество сообществ, которые как бы выходят из запрещённого движения, но всё ещё остаются в рамках смежных тем.

Из приведенных графиков видно, что с начала активных блокировок количество групп и интерес к ним возросли в разы, однако позднее их число заметно снизилось. Предположительно это обусловлено тем, что в 2017 году по результатам долгих расследований были проведены несколько судебных дел и вынесено несколько реальных приговоров. Однако таких случаев немного и вскоре количество подписчиков подобных групп вновь стало расти, что говорит о необходимости применения другого, более технического подхода.

Несомненно, вследствие активных действий на какое-то время число групп и их аудитория снизились, а информированность населения и социальная политика дали свои результаты. Однако при существующем подходе часть групп были пропущены, связи между пользователями и основные каналы распространения информации не были выявлены, а часть лидеров движения избежали ответственности и продолжили свою деятельность.

Таким образом можно сделать вывод, что противодействие вредоносному контенту в социальных сетях ведется, однако оно носит временный характер и имеет низкую эффективность, особенно в долгосрочной перспективе, что обусловлено слабой автоматизацией этого процесса и длительной по времени юридической процедурой. Для повышения эффективности необходимо использовать методы, позволяющие:

  • Отслеживание всех вредоносных групп за короткий отрезок времени;
  • Производить анализ связей их авторов и участников;
  • Отслеживать основные пути распространения контента и главных активистов этого, пути привлечения участников;
  • Разработать меры блокировки групп, основных лиц и путей распространения контента в кратчайшие сроки в сети и вне её;
  • Проработать законодательство для более ускоренного решения подобных вопросов.

Для подобного предполагается использование методик противодействия, в основе которых лежит использование нейронных сетей и машинное обучение. Они позволяют производить анализ и распознавание данных на основе существующих и меняющихся сигнатур, а также могут отличить записи со схожим сленгом, но не несущих в себе никаких призыв (например шутки с черным юмором), что может быть определено за счет оценки тональности текстов, изображений, аудио и видео. Также использование графовых моделей представления данных удобно для отображения основных авторов и распространителей, а также связей между ними. Ну и стоит заметить, что плодотворное применение подобных методик невозможно без тесного сотрудничества с правовой системой.


Библиографический список
  1. Букалерова Л. А., Лавелина В. С., Остроушко А. В. Правовые, организационные, технические меры противодействия призывам к самоубийствам несовершеннолетних в сети «Интернет» //Ученые труды Российской академии адвокатуры и нотариата. – 2017. – №. 3. – С. 48-57.
  2. О Национальной стратегии действий в интересах детей на 2012 – 2017 год: Указ Президента РФ от 01.06.2012 N 761 // Собрание законодательства РФ, 04.06.2012, N 23, ст. 2994
  3. Федеральный закон от 27.07.2006 № 149-ФЗ ”Об информации, информационных технологиях и о защите информации”. URL: http://www.consultant.ru/document/cons_doc_LAW_61798/ (дата обращения: 17.03.2021).
  4. Федеральный закон от 01.07.2017 № 156-ФЗ “О внесении изменений в Федеральный закон “Об информации, информационных технологиях и о защите информации. URL: http://www.consultant.ru/document/cons_doc_LAW_219007/ (дата обращения: 17.03.2021).
  5. Федеральный закон от 28.07.2012 № 139-ФЗ “О внесении изменений в Федеральный закон «О защите детей от информации, причиняющей вред их здоровью и развитию» и отдельные законодательные акты Российской Федерации”. URL: http://www.consultant.ru/document/cons_doc_LAW_133282/ (дата обращения: 17.03.2021).
  6. Итоги деятельности по противодействию распространению суицидального контента в интернете. URL: https://rkn.gov.ru/news/rsoc/news43575.htm (дата обращения: 18.03.2021).
  7. Самосват О. И., Брежнева Т. С., Шмеерова Е. Р. Эффективность блокировки деструктивных групп в социальных сетях //Вестник Московского государственного областного университета. – 2020. – №. 1.


Количество просмотров публикации: Please wait

Все статьи автора «Смирнов Евгений Витальевич»


© Если вы обнаружили нарушение авторских или смежных прав, пожалуйста, незамедлительно сообщите нам об этом по электронной почте или через форму обратной связи.

Связь с автором (комментарии/рецензии к статье)

Оставить комментарий

Вы должны авторизоваться, чтобы оставить комментарий.

Если Вы еще не зарегистрированы на сайте, то Вам необходимо зарегистрироваться:
  • Регистрация