США, Велика Британія та низка країн підписали угоду про захист штучного інтелекту від шахраїв

США, Великобританія і низка інших країн 26 листопада оприлюднили першу міжнародну угоду про захист штучного інтелекту від шахраїв, пише Reuters.

Документ на 20 сторінок загалом підписали 18 країн, включно з Німеччиною, Італією, Чехією, Естонією, Польщею, Австралією, Чилі, Ізраїлем, Нігерією і Сінгапуром.
Країни погодилися, що компанії, які розробляють і використовують ШІ, повинні розробляти і впроваджувати його таким чином, щоб убезпечити клієнтів і широку громадськість від зловживань.

Угода не має обов'язкової сили і містить переважно загальні рекомендації, зокрема, щодо моніторингу систем ШІ стосовно зловживань, захисту даних від підробки та перевірки постачальників програмного забезпечення.

У документі йдеться про те, як захистити технологію ШІ від крадіжки хакерами, а також містяться рекомендації, наприклад, випускати моделі лише після тестування з безпеки.

Водночас угода не стосується гострих питань щодо належного використання ШІ або способів збору даних, що живлять ці моделі, зазначає видання.

Розвиток штучного інтелекту викликав низку занепокоєнь у світі. Йдеться, зокрема, про ризик, що ШІ може використовуватися для підриву демократії. Також є побоювання, що він призведе до сплеску шахрайства та руйнівного впливу на ринок праці тощо.

Навесні цього року понад 1000 технологічних лідерів і дослідників підписали відкритий лист із закликом запровадити шестимісячний мораторій на розробку нових систем, оскільки технології ШІ несуть "серйозні ризики для суспільства і людства". За кілька днів 19 нинішніх і колишніх лідерів Асоціації з розвитку штучного інтелекту, академічного товариства з 40-річною історією, випустили лист із попередженням про ризики, пов'язані з ШІ.

Також забили на сполох 350 технічних керівників і вчених, які займаються ШІ, наголосивши у спільній заяві, що технологія є таким самим великим ризиком, як пандемія і ядерна війна. Серед тих, хто підписав заяви, – Сем Альтман, гендиректор OpenAI.

У своїй колонці засновник Microsoft Білл Гейтс писав, що ризики, які несе штучний інтелект, реальні, але з ними можна впоратися.

За даними джерел Reuters, напередодні звільнення Сема Альтмана з посади гендиректора OpenAI кілька дослідників компанії надіслали раді директорів листи з попередженням про більш важливе відкриття у сфері штучного інтелекту (ШІ), яке потенційно може загрожувати людству.

Європа випереджає США з питання регулювання ШІ. Європейські законодавці вже працюють над правилами використання штучного інтелекту. Франція, Німеччина та Італія нещодавно досягли угоди щодо регулювання так званих базових моделей ШІ, розроблених для отримання широкого діапазону результатів.

Адміністрація президента США Джо Байдена чинить тиск на законодавців у питанні регулювання ШІ, але поляризований Конгрес поки що мало просунувся в цьому напрямку.