БПЛА, фейс пэй и другие: в России разработали метод усовершенствования нейросетей

Российские ученые разработали метод усовершенствования нейросетей. Решение представлено на открытой конференции Института системного программирования им. В. П. Иванникова (ИСП) РАН, посвященной 75-летию отечественных информационных технологий, которая проходит 4—5 декабря в Москве, передает ТАСС.

«Мы развиваем платформу доверенного искусственного интеллекта (ИИ), которая позволяет разработчикам проверять разрабатываемые нейронные сети на уязвимости и защищаться от них. Она может распознавать области, которые были атакованы, „закрашивать“ их, и после этого нейронная сеть, несмотря на атаку, способна обнаруживать человека», — пояснил инженер Исследовательского центра доверенного искусственного интеллекта на базе ИСП РАН Леонид Старых.

Злоумышленники с помощью специальных изображений на объектах могут сделать так, что системы обнаружения воспринимают их как часть фона и не замечают. Новый подход позволяет защищать системы от «слепоты» и принятия неверных решений.

Это поможет повысить безопасность эксплуатации беспилотников, а также защитить пользователей функции «оплата лицом», считают авторы.