Правительства будут участвовать в тестировании безопасности новых моделей ИИ — Сунак

Технологическим компаниям не следует предоставлять исключительные полномочия по контролю безопасности новых моделей искусственного интеллекта (ИИ). Об этом, как сообщает агентство Reuters, заявил премьер-министр Великобритании Риши Сунак, который подвел итоги двухдневной международной конференции высокого уровня по безопасности искусственного интеллекта, созванной британским правительством.

Британский премьер отметил, что в настоящее время только компании, разрабатывающие эти модели, следят за безопасностью новых моделей искусственного интеллекта.

«Так продолжаться не может, поэтому правительственные участники британской конференции по безопасности искусственного интеллекта и компании-разработчики искусственного интеллекта достигли в четверг, 2 ноября, знакового соглашения, в соответствии с которым безопасность новых моделей искусственного интеллекта будет проверяться совместно перед их использованием», — объявил премьер-министр Великобритании.

По данным Даунинг-стрит, правительства и компании, занимающиеся технологиями искусственного интеллекта, присутствующие на конференции, согласились с тем, что обе стороны должны сыграть решающую роль в тестировании моделей искусственного интеллекта следующего поколения, чтобы обеспечить безопасность этих моделей до и после их внедрения.

Это включает в себя разработку методологии тестирования для изучения потенциально опасных возможностей новых моделей искусственного интеллекта, таких как те, которые могут быть развернуты против критически важной инфраструктуры национальной безопасности.

Стороны соглашения также признают, что правительствам необходимо убедиться в том, что было проведено внешнее тестирование безопасности передовых моделей искусственного интеллекта. Это положит конец существовавшей до сих пор практике, согласно которой контроль безопасности этих моделей является исключительной ответственностью компаний-разработчиков, заявила канцелярия премьер-министра Великобритании.

В заявлении Риши Сунак отметил, что компаниям, занимающимся разработкой искусственного интеллекта, не следует позволять самостоятельно классифицировать свою «домашнюю работу», и многие компании в секторе искусственного интеллекта согласны с этим.

Премьер-министр Великобритании также объявил, что британское правительство создаст институт безопасности искусственного интеллекта для координации контрольной деятельности, подобно тому, как это делается Соединенными Штатами.

В британском саммите по безопасности искусственного интеллекта — первой конференции правительства Великобритании такого рода, приняли участие представители 28 стран и организаций, включая Соединенные Штаты, Китай, Индию, Японию, Германию, Францию, Италию, Израиль и Украину, а также Европейский союз и Организацию Объединенных Наций.

Вице-президент Камала Харрис представляла Соединенные Штаты, Урсула фон дер Ляйен — Европейский союз, а генеральный секретарь Антонио Гутерриш присутствовал на мероприятии от имени Организации Объединенных Наций.

Среди крупнейших компаний в секторе технологий искусственного интеллекта в мероприятии также приняли участие Amazon, Google, Google DeepMind, Inflection AI, Meta*, Microsoft, Mistral AI и Open AI.

Встреча состоялась в замке Блетчли-Парк, бывшем секретном центре британской военной разведки, специализировавшемся на взломе кодов связи противника.

*Экстремистская организация, запрещена на территории РФ