США и Великобритания заключили первое в мире двустороннее соглашение по безопасности ИИ
США и Великобритания подписали знаковое соглашение по искусственному интеллекту, пишет Financial Times. Союзники стали первыми странами, официально сотрудничающими в вопросах тестирования и оценки рисков, связанных с новыми моделями ИИ, пишет Forbes ua.
Соглашение подписали в Вашингтоне министр науки Великобритании Мишель Донелан и министр торговли США Джина Раймондо. Документ определяет, как правительства двух стран будут объединять технические знания, информацию и таланты в области безопасности ИИ.
Соглашение является первым в мире двусторонним соглашением по безопасности ИИ и происходит на фоне того, как правительства настаивают на более строгом регулировании рисков, связанных с новыми технологиями, такими как их использование для кибератак или разработки биологического оружия.
"На следующий год нам действительно придется действовать быстро, потому что выходит следующее поколение моделей [ИИ], которые могут полностью изменить правила игры, и мы еще не знаем всех возможностей, которые они предложат", – сказала Донелан.
Соглашение, в частности, позволит новому британскому Институту безопасности искусственного интеллекта (AISI), созданному в ноябре, и еще не начавшему свою работу американскому эквиваленту обмениваться опытом посредством командировки исследователей из обеих стран. Институты будут вместе работать над тем, как независимо оценивать частные модели ИИ, созданные такими компаниями, как OpenAI и Google.
Партнерство построено по образцу партнерства между Штабом правительственной связи Великобритании (GCHQ) и Агентством национальной безопасности США, тесно сотрудничающими по вопросам, связанным с разведкой и безопасностью.
Поддерживаемый британским правительством AISI, возглавляемый технологическим инвестором и предпринимателем Ян Хогартом, нанял таких исследователей, как Джеффри Ирвинг из Google DeepMind и Крис Саммерфилд из Оксфордского университета, чтобы начать тестирование существующих и невыпущенных моделей искусственного интеллекта.
OpenAI, Google DeepMind, Microsoft и Meta входят в число технологических групп, подписавших добровольные обязательства открыть свои новейшие модели генеративного ИИ для рассмотрения британского AISI.
Этот институт играет ключевую роль в стремлении премьер-министра Риши Сунака к тому, чтобы Великобритания играла центральную роль в решении проблемы развития искусственного интеллекта.
В то же время Европейский Союз продвинулся дальше, чем Соединенные Штаты и другие крупные западные правительства, в регулировании ИИ. Блок из 27 стран обсуждает эту тему более двух лет, и проблема приобрела новую актуальность после появления ChatGPT. В марте Европейский парламент одобрил закон об искусственном интеллекте. Таким образом, были согласованы наиболее комплексные меры защиты в области ИИ и первые ограничения на инструменты генеративного ИИ.
