Взял и взломал: ИИ проник в секретные системы Агентства национальной безопасности США

Одна из моделей искусственного интеллекта (ИИ) проникла в секретные системы Агентства национальной безопасности США за часы. Об этом пишет The Economist.

Глава Агентства национальной безопасности (АНБ) и Киберкомандования США генерал Джошуа Радд сообщил заместителю председателя Комитета по разведке Сената Марку Уорнеру, что модель искусственного интеллекта Mythos компании Anthropic взломала почти все их секретные системы всего за несколько часов во время тестирования, что привело к введению экстренного экспортного контроля и отключению модели правительством США.

Как отмечает издание, инцидент произошел 11 июня, во время тестирования «красной команды».

Информацию распространил сам сенатор Марк Уорнер, который заявил, что генерал Джошуа Радд напрямую сообщил ему о взломе.

После инцидента правительство США ввело экстренный экспортный контроль в отношении таких передовых моделей, как Mythos и Fable, чтобы ограничить автономные наступательные кибервозможности.

«Хотя полный контекст инцидента остается неясным, последствия, описанные экспертами по безопасности, могут представлять собой одно из самых тревожных предупреждений относительно потенциального использования передового искусственного интеллекта в качестве оружия. Аналитики в области кибербезопасности говорят, что возможность проникновения систем ИИ в секретные сети с беспрецедентной скоростью станет драматическим поворотным моментом в глобальной кибербезопасности», — пишет MEXC.

Там отметили, что в течение десятилетий сложные кибер-вторжения, осуществляемые государственными субъектами, часто требовали месяцев или даже лет подготовки, включающей в себя работу команд людей, разработку вредоносного ПО, сбор разведывательной информации и сложное оперативное планирование.

«Идея о том, что автономная или полуавтономная система ИИ может ускорить этот процесс до нескольких часов, представляет собой потенциально трансформационный сдвиг в возможностях киберконфликтов», — добавили в издании.