По мнению экспертов, некоторые пункты документа нуждаются в доработке.
Европейский союз рассматривает возможность о запрете использования искусственного интеллекта для ряда сфер, включая массовое наблюдение и социальные кредитные рейтинги. Об этом сообщает The Verge со ссылкой на издание Politico, которое получило доступ к разработанному документу.
Если проект предложения будет принят, это приведет к тому, что ЕС займет твердую позицию в отношении определенных направлений ИИ. В частности, некоторые варианты использования технологии будут контролироваться аналогично Общему регламенту по защите данных (GDPR).
Государства-члены, например, должны будут создать оценочные комиссии для тестирования и проверки систем искусственного интеллекта с высоким риском. А компании, которые разрабатывают или продают запрещенное в ЕС программное обеспечение, в том числе базирующиеся в других странах мира, могут быть оштрафованы до 4% от общего дохода.
Согласно копии черновика, с которой ознакомился портал The Verge, проект правил включает:
1. Запрет на ИИ для «неизбирательного наблюдения», включая системы, которые напрямую отслеживают людей в физической среде или собирают данные из других источников.
2. Запрет на ИИ, которые создают социальные кредитные рейтинги, для оценки чьей-либо благонадежности на основе социального поведения и личностных качеств.
3. Специальное разрешение на использование «удаленных систем биометрической идентификации», таких как распознавание лиц в общественных местах.
4. Уведомления о взаимодействии человека с ИИ, если это не «очевидно из обстоятельств и контекста использования».
5. Надзор за «высокорисковыми» ИИ, которые представляют прямую угрозу безопасности. Речь идет о беспилотных автомобилях, и системах, которые могут повлиять на чьи-то средства существования, например, для найма на работу и судебных решений.
6. Оценка контролирующими органами систем с высоким уровнем риска до их ввода в эксплуатацию. Обучение таких ИИ должно будет проходить на проверенных «высококачественных» наборах данных.
7. Создание Европейского совета по искусственному интеллекту, состоящего из представителей всех стран ЕС.
По мнению экспертов, некоторые пункты документа нуждаются в доработке.
«Описания запрещенных систем искусственного интеллекта расплывчаты и содержат нечеткие формулировки, которые могут создать лазейки в их трактовании», — заявил аналитик европейской политики Access Now Дэниел Леуфер.
В частности, он отметил, что раздел о запрете использования ИИ для массовое наблюдение и социальных кредитных рейтингов «далек от идеала».
Источник psm7.com