Российские ученые разработали метод усовершенствования нейросетей. Решение представлено на открытой конференции Института системного программирования им. В. П. Иванникова (ИСП) РАН, посвященной 75-летию отечественных информационных технологий, которая проходит 4—5 декабря в Москве, передает ТАСС.
«Мы развиваем платформу доверенного искусственного интеллекта (ИИ), которая позволяет разработчикам проверять разрабатываемые нейронные сети на уязвимости и защищаться от них. Она может распознавать области, которые были атакованы, „закрашивать“ их, и после этого нейронная сеть, несмотря на атаку, способна обнаруживать человека», — пояснил инженер Исследовательского центра доверенного искусственного интеллекта на базе ИСП РАН Леонид Старых.
Злоумышленники с помощью специальных изображений на объектах могут сделать так, что системы обнаружения воспринимают их как часть фона и не замечают. Новый подход позволяет защищать системы от «слепоты» и принятия неверных решений.
Это поможет повысить безопасность эксплуатации беспилотников, а также защитить пользователей функции «оплата лицом», считают авторы.
Президент Узбекистана неожиданно сменил своего главного охранника
Подросток, который облил ребенка едкой жидкостью в Финляндии, — с Украины
Триумф: школьники из России стяжали победы на олимпиадах в Шанхае и Ташкенте
Альпинисты сорвались во время восхождения на Эльбрус
Сборная Англии впервые за 60 лет взяла медали на ЧМ по футболу
ВС России нанесли удары по Киеву — список пораженных целей