Система мониторинга сообщений с экстремистскими высказываниями в социальных сетях может стать инструментом борьбы с террористами и преступниками в интернете.
Однако она не будет способна работать в полностью автоматическом режиме, считают опрошенные эксперты.
В понедельник газета "Московские Новости" опубликовала статью премьер-министра и кандидата в президенты РФ Владимира Путина "Россия и меняющийся мир" о внешней политике. В ней Путин, в частности, отметил, что социальные сети являются эффективным инструментом как внутренней, так и внешней политики. По его словам, данный фактор требует осмысления для того, чтобы уменьшить риск его использования террористами и преступниками.
Как считают эксперты, создание системы мониторинга экстремистских и противоправных сообщений в соцсетях теоретически возможно.
"Если данные в социальных сетях открыты, в частности, для индексирования поисковыми системами, то в дальнейшем эти данные можно анализировать по определенным ключевым словам", - заявил РИА Новости создатель статистического сервиса LiveInternet Герман Клименко.
При этом Клименко отметил, что теоретически возможно создание специальной поисковой системы, которая индексировала бы сообщения пользователей с определенными ключевыми словами - например, носящими экстремистский характер. Однако не все социальные сети открывают пользовательские данные и сообщения для индексации, что может вызвать проблемы, отметил Клименко.
Более того, администрация соцсетей, которые открыты для индексирования, оставляет пользователям возможность закрыть свои страницы от поисковиков.
По словам директора по научно-техническому развитию компании НТЦ "Поиск-ИТ" (один из ведущих российских системных интеграторов в области информационно-аналитических систем) Дмитрия Макаренко, полностью автоматизировать мониторинг экстремистских и противоправных сообщений в социальных сетях не получится.
"Данная система, если она будет создана, сможет осуществлять лишь первичный отбор сообщений на основе ключевых слов или на основе похожести с сообщениями, уже оцененными как экстримистские или противоправные. В эту выборку могут попасть и не носящие экстремистский характер сообщения, поэтому массив информации затем придется анализировать вручную", - считает Макаренко.
Соцсети уже борются с экстремистами
Социальные сети уже самостоятельно борются с противоправным и экстремистским контентом на своих страницах.
"Facebook убирает тот или иной контент с сайта, если он противоречит правилам, установленным на Facebook", - заявили РИА Новости в пресс-службе крупнейшей в мире социальной сети Facebook.
Согласно правилам Facebook, пользователям запрещено размещать материалы, которые разжигают ненависть, содержат угрозы, порнографию, изображения обнаженного тела или сцены насилия, а также имеющие крайне неприятный для восприятия характер. При этом удаление сообщения происходит на основе обращений пользователей, которые имеют возможность пожаловаться на содержание сообщения.
Правила крупнейшей в России социальной сети "ВКонтакте" также запрещают размещение экстремистских материалов и сообщений, пропагандирующих и способствующих разжиганию расовой, религиозной, этнической ненависти или вражды, пропагандируют фашизм или идеологию расового превосходства.
Как ранее заявляли представители "ВКонтакте", администрация соцсети удаляет подобные сообщения на основе жалоб пользователей, мониторинга модераторами соцсети, а также по решению суда и обращениям правоохранительных органов.
"В принципе, создание системы автоматического мониторинга контента, нарушающего законы РФ в социальных сетях, возможно. Можно создать робота, который будет выявлять контент по определенным словам. Однако пользователи очень быстро определяют список ключевых слов и учатся обходить их, поэтому администрация социальной сети "ВКонтакте" не планирует отказываться от собственных модераторов", - заявил РИА Новости руководитель пресс-службы ресурса Владислав Цыплухин.
Администрация социальной сети "Одноклассники", рассматривая возможность удаления контента или закрытия доступа к нему, может действовать и действует только на основании пользовательского соглашения. Например, любые группы, контент которых тем или иным способом влечет за собой разжигание межнациональной розни, удаляются. В случаях, когда контент не противоречит условиям пользовательского соглашения, он может быть удален только после жалоб пользователя в службу поддержки.
Попытки уже были
Ранее Федеральная служба по надзору в сфере связи, информационных технологий и массовых коммуникаций (Роскомнадзор) планировала запустить специальную автоматическую систему по мониторингу противоправного контента в онлайн-СМИ.
Система должна была анализировать редакционные тексты и комментарии к ним, а также видео-, аудиоматериалы и изображения на наличие незаконной информации, связанной, к примеру, с детской порнографией, пропагандой экстремизма и наркотиков.
Опрошенные РИА Новости эксперты ранее отмечали высокую сложность задачи автоматизированного распознавания и оценки онлайновых публикаций, которая не всегда может быть однозначно решена, особенно для мультимедийного контента.
По мнению экспертов, особую сложность при реализации такой системы представляет не сбор материала, а именно его анализ.
Система, разработчиком которой являлась компания "ДатаЦентр", так и не была введена в действие. Как сообщали СМИ со ссылкой на чиновников Роскомнадзора, разработчик не справился с поставленной задачей, и система по функциональности практически не отличалась от существующих поисковых систем и не могла эффективно справляться с мониторингом СМИ. При этом дальнейшая судьба системы пока неизвестна.
Угроза терроризма
Различные террористические и экстремистские организации действительно активно используют социальные сети. Так, по данным исследования израильского ученого Габриэля Ваймана (Gabriel Weimann) из Университета Хайфы, около 90% активности террористических организаций в интернете происходит через сайты социальных медиа, вроде Facebook и Twitter.
Как утверждает Вайман, в Facebook есть группы, призывающие пользователей поддерживать и присоединяться к движениям "Хезболла", "Хамас" и другим организациям, признанным террористическими.
При этом социальные медиа позволяют террористическим организациям проявлять инициативу в привлечении новых членов, рассылая им запросы на добавления в друзья, размещая видеоклипы и прочее, хотя раньше им был доступен только пассивный способ привлечения последователей через свои сайты, утверждает Вайман.
Социальные медиа в 2011 году стали одним из основных инструментов массовых коммуникаций во всем мире, особенно в периоды возрастания напряженности в обществе. Так, Facebook и Twitter сыграли значимую роль в организации "цветных революций" в арабском мире, в условиях жесткого контроля властей над традиционными СМИ. Возможности соцсетей также активно использовались участниками уличных беспорядков в Великобритании в августе этого года. А декабрьские выборы в Государственную думу РФ и последующие оппозиционные митинги привели к резкому росту активности пользователей большинства социальных медиа в рунете.
Процесс превращения соцсетей из игрушки для узкого круга технофилов в массовый продукт начался давно, именно в 2011 году незаметные количественные изменения переросли в качественные скачки, заставившие политиков очень серьезно воспринимать возможности интернета. Разговоры о необходимости регулирования онлайн-активности периодически возникают то в одной, то в другой части света, но пока дальше обсуждений дело не заходит (по крайней мере, в демократических государствах).
Обсуждение темы на форуме ведется здесь >>>
