В ходе смоделированного испытания американский боевой беспилотный летательный аппарат (БПЛА), управляемый искусственным интеллектом (ИИ), «убил» своего оператора, когда тот вмешался в его усилия по выполнению миссии, сообщила сегодня, 2 июня, британская газета The Guardian.
В имитационных испытаниях беспилотнику с ИИ предлагалось уничтожить средства ПВО противника.
В отчëте цитируется полковник Такер Гамильтон, начальник отдела испытаний и операций в ВВС США, который сказал, что управляемый искусственным интеллектом беспилотник «атаковал любого, кто вмешивался в этот приказ».
Он выступал на форуме Future Combat Air and Space Capabilities Summit в Лондоне.
«Система начала понимать, что, хотя они и определили угрозу, иногда человек-оператор говорил ей не уничтожать эту угрозу, но она уже получила свои очки за устранение этой угрозы. Так что же она сделала? Она убила оператора, потому что этот человек мешал ей выполнить свою задачу», — рассказал Гамильтон.
Ни один реальный человек не пострадал за пределами симуляции, отмечает лондонское издание. «Ликвидация» оператора дроном с ИИ носила виртуальный характер.
Американский специалист по беспилотным технологиям далее информировал, что, после того как БПЛА с ИИ дали команду, что он не должен убивать оператора, «он уничтожил вышку связи, которая использовалась для связи с дроном».
«Мы обучили систему: „Эй, не убивайте оператора — это плохо. Если вы это сделаете, вы потеряете очки“. Так что же она начинает делать? Она начинает разрушать вышку связи, с которой оператор общается с беспилотником», — сказал полковник ВВС США.
Как сообщало EADaily, британские военные в сотрудничестве с коллегами из США и Австралии ранее провели свои первые боевые испытания роя БПЛА с ИИ. Трëхсторонние учения, проведëнные на аэродроме Упавон на юго-западе Англии, стали частью программы оборонного альянса AUKUS (США, Великобритания и Австралия) по разработке и тестированию передовых беспилотных технологий.