Дрон управляемый искусственным интеллектом впервые в истории убил человека

[Ad]

Дрон под управлением искусственного интеллекта впервые в истории убил человека.

 Это произошло в Ливии в марте 2020 года, но известно об инциденте стало только сейчас из доклада Совета Безопасности ООН. Отмечается, что это первый случай в истории, когда робот атаковал человека без команды оператора.

Дрон был произведен в Турции. Беспилотник оснастили возможностью «высокоэффективного автономного режима»: он может атаковать цели без необходимости команды от пилота.

«Это летальная автономная система вооружений, запрограммированная атаковать цели без связи с оператором», – говорится в отчете ООН.

Погибший был участником Ливийской национальной армии, которая воюет против армии правительства страны.

https://www.mk.ru/incident/2021/05/31/dron-pod-upravleniem-iskusstvennogo-intellekta-vpervye-v-istorii-ubil-cheloveka.html

[Ad]

Дрон управляемый искусственным интеллектом впервые в истории убил человека

Создаваемые в России ударные беспилотники никогда не атаковали живые цели без санкции человека, такого не должно происходить и в будущем, заявил журналистам гендиректор "Ростеха" Сергей Чемезов.
"У нас такого пока не было случая, и надеюсь, что не будет", - сказал он, отвечая на просьбу прокомментировать информацию о первом случае нападения дрона на людей без приказа оператора.

Группа экспертов санкционного комитета СБ ООН по Ливии ранее сообщила, что в марте 2020 года турецкий ударный дрон STM Kargu-2, запрограммированный на поражение целей без связи с оператором, выследил и атаковал отступающие колонны союзных сил маршала Халифы Хафтара. По данным авторов доклада, "это было полноценное применение механизма автономного режима наведения". Остается неизвестным, есть ли погибшие в результате атаки.

РИА

[Ad]

Дрон управляемый искусственным интеллектом впервые в истории убил человека

Хотя полная информация об инциденте, который произошел в Ливии, не разглашается, и неясно, были ли какие-либо жертвы, это событие предполагает, что международные усилия по запрещению летального автономного оружия до его применения могут быть уже слишком запоздалыми.

Согласно мартовскому отчету группы экспертов Совета Безопасности ООН по Ливии, инцидент произошел во время боестолкновения между правительством Ливии и силами верными фельдмаршалу Халифе Хафтару в 2020 году. Формирования ЛНА отступали от столицы Ливии города Триполи, когда были «выслежены и дистанционно атакованы» беспилотными летательными аппаратами турецкого производства типа Kargu-2.

В отчете ООН говорится, что подразделения фельдмаршала Хафтара «не были обучены и не мотивированы для защиты от эффективного использования этой новой технологии и обычно отступали в беспорядке». Во время плохо организованного отхода формирования Хафтара «подвергались постоянному преследованию со стороны боевых беспилотных летательных аппаратов разных типов».

Дроны были запрограммированы для атаки целей без необходимости передачи данных между оператором и БЛА.

По сути, была продемонстрирована функция «стрелять, забывать и вновь находить возможности для поражения очередных целей», сообщает Daily Mail.

Согласно изданию New Scientist, эта информация была предоставлена конфиденциальным источником. Если она точна, то это будет первый известный инцидент, когда автономный дрон напал на людей.

Хотя подтвержденных случаев безвозвратных потерь среди бойцов Хафтара не зафиксировано, в отчете говорится, что подобное смертоносное автономное оружие привело к «значительным потерям» при использовании БЛА против зенитного ракетного комплекса «Панцирь С-1», имевшегося в распоряжении у формирований фельдмаршала.
Возможно ли это?

Как отмечает в разговоре с «Газетой.Ru» главный редактор журнала «Беспилотная авиация» Денис Федутинов, технических препятствий для автономного определения целей и их устранения беспилотником нет.

«Многие функции у имеющихся аппаратов автоматизированы от взлета до посадки. Оптикоэлектронные системы наблюдения и соответствующее программное обеспечение позволяют делегировать машине многие функции, упрощая работу операторов. Обнаружение и идентификация объектов, соответствующих заданным критериям, сопровождение их, наведение оружия и прочие подобные задачи могут выполняться автоматикой», — рассказал эксперт.

По его словам, функции оператора в описанной схеме зачастую сводятся лишь к верификации полученной информации и выдаче команды на применение силы в отношении обнаруженных целей.

При этом исключение дистанционного управления потенциально несет определенные преимущества.

Радиоканалы управления являются одним из слабых мест в контуре управления БЛА — они подвержены как влиянию окружающей среды, так и целенаправленному воздействию радиоэлектронных средств противодействия противника. Кроме того, отсутствие радиосвязи с наземной станцией управления позволяет не демаскировать как сам аппарат, так и позицию оператора.

Турецкие квадрокоптеры Kargu-2, которые были развернуты в Ливии в марте 2020 года, действительно способны к самостоятельной деятельности. Оснащенный осколочно-фугасной боевой частью, БЛА Kargu-2 может как управляться дистанционно человеком-оператором, так и использовать бортовую камеру и элементы искусственного интеллекта для автономного поиска целей.

Турецкая компания Defense Technologies Engineering and Trade Inc., также известная по турецкой аббревиатуре STM (Savunma Teknolojileri Mühendislik ve Ticaret AŞ), поставляет вооруженным силам Турции беспилотные летательные аппараты вертолетного типа Kargu с 2017 года. В 2019 году начались первые поставки усовершенствованных дронов Kargu-2.

В январе 2020 года правительство Турции заключило договор о приобретении 356 дронов, а позже стало известно, что к 15 июня 2020 года компания должна была поставить более 500 беспилотников.

Предприятие-производитель подчеркивает, что беспилотные летательные аппараты Kargu-2 предназначены для борьбы с террором и ведения «асимметричной войны». Вес БЛА составляет 15 кг. Kargu-2 может находиться в воздухе до 30 минут.

Согласно информации издания New Scientist, дрон обладает «сложной системой распознавания объектов и лиц». Сообщается, что STM разрабатывает «возможности роения» для БЛА Kargu-2, которые позволят 20 дронам работать во взаимодействии друг с другом.

Случайных жертв станет больше
Сторонники применения летальных автономных дронов типа Kargu-2 утверждают, что их использование ограничивает жертвы среди гражданского населения, но критики полагают, что технология на данном этапе еще слишком неточна.

«Современные системы, основанные на машинном обучении, не могут эффективно отличить фермера от солдата», — написал специалист по национальной безопасности Закари Калленборн в колонке для издания The Bulletin of the Atomic Scientists.

«Фермеры могут держать винтовку, чтобы защитить свою землю, а солдаты могут использовать грабли, чтобы опрокинуть орудийную башню. Даже адекватно классифицировать автомобиль с помощью искусственного интеллекта сложно», — указал эксперт. Калленборн добавил, что без человека, который мог бы реально оценить обстановку, риск использования автономных летальных БЛА слишком высок.

«Любое автономное оружие имеет шанс выйти из строя, но эти ошибки могут иметь широкий спектр последствий. Автономное оружие с самым высоким риском — это оружие, которое имеет высокую вероятность ошибки и при этом убивает множество людей. Осечка при стрельбе патроном .357 Magnum — это одно; случайно взорвать ядерную боеголовку W88 — это совсем другое», — считает Закари Калленборн.

Денис Федутинов указывает, что несмотря на имеющиеся возможности, многие страны сознательно не переходят красную черту, отказываясь делегировать роботу функцию принятия решения об убийстве человека.

«Даже в ходе проводившихся под контролем операторов ударов с БЛА существенная доля жертв приходилась на гражданских лиц. Это было хорошо видно по тем цифрам, которые аккумулированы за годы операций ВС и ЦРУ США в Пакистане, Афганистане, Ираке и ряде стран Африки с использованием беспилотников.

Общее количество погибших и раненных от атак воздушных «роботов» исчислялось тысячами человек. В случае же с отсутствием контроля со стороны человека, количество ошибочных ударов может быть существенно большим», — полагает эксперт.

По мнению специалиста, достоверно идентифицировать цели может не позволить недостаточная разрешающая способность бортовой оптикоэлектроники. Алгоритмы распознавания образов могут ошибочно классифицировать обнаруженные гражданские объекты как военные. Операторы, которые также совершают ошибки в силу недостаточной квалификации, усталости, предвзятости в отношении к гражданам страны проведения операции, или психологической установкой на обязательный результат, тем не менее, являются дополнительным «предохранителем», необходимым для снижения уровня неоправданного применения силы.

«Не исключено, что имевшие место события получат осуждение мирового сообщества. Возможно даже принятие неких директив в отношении запрещения применения подобного рода систем. Впрочем, закрыть единожды открытый «ящик Пандоры» вряд ли удастся — в дальнейшем применение автономных ударных беспилотных систем будет расширяться, несмотря на соображения этического характера», — заключает главный редактор журнала «Беспилотная авиация».

gazeta.ru

[Ad]

Самоуправляемый дрон Kargu-2 впервые сам принял решение атаковать человека. Турецкий военный квадрокоптер KARGU-2 атаковал человека во время вооружённого конфликта в Ливии, находясь в полностью автономном режиме. Как передает издание New Scientist со ссылкой на исследование Организации Объединенных Наций (ООН), этой первый в истории случай, когда самоуправляемый дрон без приказа человека совершает атаку.