США, Великобритания и ряд стран подписали соглашение о защите искусственного интеллекта от мошенников

США, Великобритания и ряд других стран 26 ноября обнародовали первое международное соглашение о защите искусственного интеллекта от мошенников, пишет Reuters.

Документ на 20 страниц в общей сложности подписали 18 стран, включая Германию, Италию, Чехию, Эстонию, Польшу, Австралию, Чили, Израиль, Нигерию и Сингапур.
Страны согласились, что компании, разрабатывающие и использующие ИИ, должны разрабатывать и внедрять его таким образом, чтобы обезопасить клиентов и широкую общественность от злоупотреблений.

Соглашение не имеет обязательной силы и содержит преимущественно общие рекомендации, в частности, мониторинг систем ИИ относительно злоупотреблений, защиты данных от подделки и проверки поставщиков программного обеспечения.

В документе говорится о том, как защитить технологию ИИ от кражи хакерами, а также содержатся рекомендации, например, выпускать модели только после тестирования по безопасности.

В то же время соглашение не касается острых вопросов относительно надлежащего использования ИИ или способов сбора данных, питающих эти модели, отмечает издание.

Развитие искусственного интеллекта вызвало ряд беспокойств в мире. Речь идет, в частности, о риске, что ИИ может использоваться для подрыва демократии. Также есть опасения, что он приведет к всплеску мошенничества и разрушительного влияния на рынок труда и т. д.

Весной этого года более 1000 технологических лидеров и исследователей подписали открытое письмо с призывом ввести шестимесячный мораторий на разработку новых систем, поскольку технологии ИИ несут "серьезные риски для общества и человечества". Через несколько дней 19 нынешних и бывших лидеров Ассоциации по развитию искусственного интеллекта, академического общества с 40-летней историей, выпустили письмо с предупреждением о рисках, связанных с ИИ.

Также забили тревогу 350 технических руководителей и ученых, занимающихся ИИ, подчеркнув в совместном заявлении, что технология является таким же большим риском, как пандемия и ядерная война. Среди подписавшихся заявлений – Сэм Альтман, гендиректор OpenAI.

В своей колонке основатель Microsoft Билл Гейтс писал, что риски, которые несет искусственный интеллект, реальны, но с ними можно справиться.

По данным источников Reuters, накануне увольнения Сэма Альтмана с должности гендиректора OpenAI несколько исследователей компании направили совету директоров письма с предупреждением о более важном открытии в области искусственного интеллекта (ИИ), которое потенциально может угрожать человечеству.

Европа опережает США по вопросу регулирования ИИ. Европейские законодатели уже работают над правилами использования искусственного интеллекта. Франция, Германия и Италия недавно достигли соглашения по регулированию так называемых базовых моделей ИИ, разработанных для получения широкого диапазона результатов.

Администрация президента США Джо Байдена оказывает давление на законодателей в вопросе регулирования ИИ, но поляризованный Конгресс пока мало продвинулся в этом направлении.