Американские военные ищут оружие против интернет-ботов и троллей

[Ad]

Американские военные ищут оружие против интернет-ботов и троллей

Американские военные кинули клич для борьбы с ботами в интернете, вербующими террористов и занимающимися троллингом. Российские проплаченные «тролли» — в зоне особого внимания.

Американское агентство передовых оборонных исследовательских проектов DARPA – структурное подразделение Минобороны США, отвечающее за разработку новейших технологий для борьбы с потенциальным врагом на суше, в воде, под водой, в воздухе, космосе. И в интернете.

В 2015 году агентство организовало конкурс, целью которого стал поиск оптимальных методов борьбы с необычной напастью, которой американские военные уделяют повышенное внимание – твиттер-ботами.

Боты – специальные программы, имитирующие действия человека в сетевых играх, чатах, форумах, социальных сетях. И их число в сравнении с общим числом пользователей социальной сети довольно велико.

По данным самой компании Twitter, в 2014 году порядка 8% зарегистрированных пользователей были ботами, а это около 23 млн активных «юзеров».

Большинство этих ботов обычно безобидны – многие просто заточены на то, чтобы переопубликовывать твиты других пользователей. Другие причиняют явный вред, распространяя всевозможный спам, и становясь инструментом мошенников, например, мимикрируя под твитт-аккаунты уважаемых источников, например @CNN.

Однако куда больший вред в глобальном плане, по мнению специалистов DARPA причиняют «боты влияния» (Influence bots), которые могут воздействовать на общественное мнение, как в рамках отдельных дискуссий, так и в масштабах государств. В том числе, при обсуждении актуальных политических тем и для вербовки террористов.

Подобные боты участвуют в вербовке молодых членов ИГ (запрещенной в России террористической группировки), а дезинформация в социальных сетях сопровождала процесс присоединения Крыма к России и конфликт на Донбассе, уверены эксперты. Многие аналитики считают, что именно активность различных ботов сыграла не последнюю роль в исходе выборов в Индии в 2014 году.

В связи с этим актуальной становится чисто прикладная задача – создать алгоритм, позволяющий точно вычислять влиятельных ботов, выдающих себя за живых людей, активно насаждающих свои политические взгляды. Именно с этой целью в 2015 году DARPA провело 4-недельные соревнования Twitter Bot Detection Challenge, чтобы протестировать различные методы выявления ботов в социальных сетях. В конкурсе участвовало шесть команд – Университет Южной Калифорнии, Университет Индианы, Технологический институт Джорджии, Sentimetrix, IBM и Boston Fusion.

Организаторы предоставили участникам конкурса реальное твиттер-обсуждение проблем вакцинации, действительно происходившее в 2014 году.

Тогда в эту дискуссию намеренно добавляли твиты искусственно созданных персонажей, чтобы узнать, как роботы способны влиять на ход дискуссии.

Всего в этой дискуссии, логи которой остались на сервере, оказалось около 4 млн твитов от более чем 7 тыс. аккаунтов, из которых надо было выявить лишь 39 ботов, которые, кстати, были сторонниками вакцинации. Каждый твит содержал свой уникальный ID-номер, у ботов имелся заполненный профиль и юзер-пик. Анализируя поток твитов, участникам предстояло выявить искусно скрывающихся боты от реальных участников дискуссии. За каждого верно отгаданного бота команда получала 1 балл, однако теряла 0,25 балла за то, что бота угадывали в живом человеке. Кроме того, в счет команды добавлялось число дней, остававшихся до дедлайна после того, как были угаданы все боты.

Победителем оказалась команда аналитической компании Sentimetrix, специализирующейся на социальных сетях,

которая угадала всех ботов за 12 дней до окончания конкурса, сделав всего одну ошибку.

Команда из Университета Южной Калифорнии, занявшая второе место, набрала 45 баллов, угадав всех ботов за шесть дней до дедлайна, не допустив ни одной ошибки. Исследование ученых из Мэриленда и других университетов, которые под эгидой DARPA провели этот конкурс, опубликовано в архиве электронных препринтов (предпубликаций).

Алгоритм, использованный победителями, был отработан в ходе индийской предвыборной кампании 2014 года, в которой «участвовало» множество интернет-ботов. Он основан на выявлении необычной грамматики в постах, сходства постов с языком известных чат-ботов типа Eliza и необычными особенностями печатания, например –

когда юзер долго печатает ответы без перерывов, что не похоже на живого человека.

Кроме того, анализ выявлял временные особенности активности ботов, а также юзеров, которые могли менять свои убеждения, временно превращаясь из сторонников вакцинации в противников.

Программисты считают, что таким образом боты втираются в доверие оппонентов, а затем приводят опровергающие аргументы.

Все три победителя пришли к выводу, что один лишь автоматический алгоритм не гарантирует успеха в поиске ботов из-за отсутствия тренировки на реальных твитах. Поэтому к успеху приводили полуавтоматические алгоритмы, в работу которых вмешивались люди.

Поскольку никто из участников не знал, сколько всего ботов участвуют в дискуссии, одной из проблем было понять, в какой момент остановить поиск. Sentimetrix, к примеру, решили остановиться, когда кончились аккаунты-кандидаты на принадлежность к ботам.

Результаты конкурса и представленные методы борьбы с ботами дали возможность понять, в каком направлении будет двигаться наука борьбы с ними в будущем. «По мере усложнения ботов влияния необходимо значительно усилить инструментарий аналитиков для их распознавания», — считают устроители конкурса.

Однако с другой стороны, публикация подобных исследований может иметь обратный эффект, поскольку борьба создателей ботов и охотников за ними постоянно усложняется,

«ботоводы» вынуждены разрабатывать более изощренные стратегии, признают эксперты.

«И хотя эти описанные методы разработаны для полностью автономных ботов, мы считаем, что они могут пригодиться для выявления и срежиссированных кем-то операций. Среди них попытки ИГ вербовать террористов и использование Россией социальных сетей в контексте продолжающегося конфликта на Украине (о подобных троллях в 2015 году писали российские и зарубежные СМИ)», — заключают авторы статьи.

http://www.gazeta.ru/army/2016/02/03/8053649.shtml

[Ad]

Новость по теме.

Обвинения в адрес государств в причастности к компьютерным атакам должны быть подкреплены доказательствами, сообщила в среду пресс-служба аппарата Совета Безопасности Российской Федерации.

В аппарате Совета Безопасности РФ подведены итоги деятельности органов государственной власти, направленной на содействие формированию системы международной информационной безопасности.

"В итоговый доклад Группы правительственных экспертов ООН по международной информационной безопасности, представленный на 70-й сессии Генассамблеи ООН, включены основные российские подходы в данной области. …В докладе также указано, что государства обладают суверенитетом над информационно-коммуникационной инфраструктурой на своей территории, любые обвинения в адрес государств в причастности к компьютерным атакам должны быть подкреплены доказательствами, государства не должны использовать посредников для осуществления компьютерных атак и не допускать того, чтобы их территории использовались в этих целях", – говорится в сообщении.

В ходе 70-й сессии Генеральной Ассамблеи ООН принята российская резолюция "Достижения в сфере информатизации и телекоммуникаций в контексте международной безопасности". Ее соавторами стали 84 государства, среди которых партнеры России по ОДКБ, СНГ, ШОС и БРИКС, а также США, Япония, Республика Корея, Израиль и ряд ключевых членов ЕС, включая Великобританию, Германию, Испанию, Нидерланды и Францию.

РИА Новости http://ria.ru/defense_safety/20160203/1369092674.html

[Worohilow]

Мойте руки перед едой! Есть немытые руки вредно 

[Ad]

Американские военные ищут оружие против интернет-ботов и троллей

Пакт об электронном ненападении, предусматривающий запрет на виртуальные атаки на важные информационные ресурсы в мирное время, планируется подписать под эгидой ООН, заявил в ходе 18 национального форума информационной безопасности начальник восьмого управления Генштаба РФ Юрий Кузнецов.

"Глобальная информатизация общества позволяет использовать информационные технологии в целях дестабилизации социальной обстановки в государстве. Ведущие страны мира понимают необходимость правового регулирования в этой сфере. Первым шагом в этом направления станет подписание Пакта об электронном ненападении, подписание которого пройдет под эгидой ООН", — сказал он.

РИА Новости http://ria.ru/defense_safety/20160204/1369508661.html

[Ad]

Американские военные ищут оружие против интернет-ботов и троллей

"Глобальная информатизация общества позволяет использовать современные технологии для дестабилизации социальной обстановки внутри государств и воздействия на население. Руководители ведущих стран пришли к пониманию необходимости правового урегулирования данной сферы. Первым шагом на пути к созданию этих условий послужит пакт об электронном ненападении, который планируется подписать под эгидой ООН", - отметил генерал-майора Юрия Кузнецова.

В бумаге, по его словам, значительное внимание будет уделено обязательствам по соблюдению принципов и правил поведения в киберпространстве.

"Основное внимание в этом документе планируется уделить недопущению кибератак на критически важные информационные ресурсы государства", - добавил Кузнецов.

Также пакт будет содержать вопросы об использовании технологий террористами для пропаганды своей идеологии.

http://www.rg.ru/img/content/121/88/53/600_600x400.jpg