Австралия потребует от поисковых систем удалять материалы о жестоком обращении с детьми, созданных ИИ

Правительство Австралии заставит такие поисковые системы, такие как Google и Bing, принять меры для предотвращения распространения материалов о сексуальном насилии над детьми, созданные искусственным интеллектом, сообщает Reuters.

Новый кодекс, разработанный по требованию правительства, потребует от поисковых систем гарантировать, что содержание материалов о сексуальном насилии над детьми не будет выдаваться в результатах поиска.

Кроме того, будет требоваться, чтобы функции ИИ, встроенные в поисковые системы, не могли создавать синтетические версии того же материала, например, материала также известные как deepfakes.

Кодекс представляет пример того, как нормативно-правовой ландшафт вокруг интернет-платформ меняется из-за взрыва продуктов, которые автоматически генерируют реалистичный контент.

Комиссар по электронной безопасности Джули Инман Грант сказала, что предыдущий код, разработанный Google, принадлежащий Alphabet и Bing, а также Microsoft, не охватывает контент, созданный ИИ.

"Когда крупнейшие игроки отрасли объявили, что интегрируют генеративный искусственный интеллект в свои поисковые функции, у нас был проект кода, который явно больше не соответствовал целям. Мы попросили индустрию попробовать еще раз", – добавила Грант.

В начале этого года регулятор зарегистрировал коды безопасности для нескольких других интернет-сервисов, таких как социальные сети, приложения для смартфонов и поставщики оборудования. Эти кодексы вступят в силу в конце 2023 года.

Регулятор все еще работает над разработкой кодов безопасности в отношении интернет-хранилищ и служб частных сообщений, которые сталкиваются с сопротивлением защитников конфиденциальности во всем мире.