Европарламент законом об искусственном интеллекте запретил собирать изображения лица с записей камер видеонаблюдения для создания баз данных

Европейский парламент 12 марта одобрил Закон об искусственном интеллекте. Как сообщает Европарламент, закон направлен на защиту фундаментальных прав, демократии, верховенства права от искусственного интеллекта с высоким риском, одновременно стимулируя инновации и утверждая Европу как лидера в этой области.

Запретные программы

Новые правила запрещают определенные приложения искусственного интеллекта, угрожающие правам граждан, включая системы биометрической категоризации на основе конфиденциальных характеристик и нецелевого сбора изображений лица из Интернета или записей камер видеонаблюдения для создания баз данных распознавания лица.

Распознавание эмоций на рабочем месте и в школах, социальная оценка, прогнозная полиция (если она основывается исключительно на профилировании личности или оценке ее характеристик), а также искусственный интеллект, манипулирующий человеческим поведением или использующий уязвимые места людей, также будет запрещен.

Исключения для правоохранительных органов

Использование биометрических систем идентификации (biometric identification systems или RBI) правоохранительными органами в принципе будет запрещено, за исключением исчерпывающе перечисленных и узко определенных ситуаций.

Такие системы RBI «в реальном времени» могут быть развернуты только при соблюдении строгих мер безопасности, например, его использование ограничено по времени и географически, а также при специальном предварительном судебном или административном разрешении. Такие виды использования могут включать, например, целенаправленный поиск пропавшего или предотвращение террористического нападения. Использование таких систем постфактум («после удаленного RBI») считается случаем использования с высоким риском, требующим судебного разрешения, связанного с уголовным преступлением.

Обязательства для систем высокого риска

Четкие обязательства также предусмотрены для других систем искусственного интеллекта с высоким риском (из-за их значительного потенциального вреда для здоровья, безопасности, основных прав, окружающей среды, демократии и верховенства права). Примеры использования искусственного интеллекта с высоким риском включают критическую инфраструктуру, образование и профессиональную подготовку, трудоустройство, основные частные и государственные услуги (например, здравоохранение, банки), определенные системы правоохранительных органов, управление миграцией и границами, правосудие и демократические процессы (например, влияние на выборы).

Такие системы должны оценивать и уменьшать риски, вести журналы использования, быть прозрачными и точными и обеспечивать человеческий контроль. Граждане будут иметь право подавать жалобы на системы искусственного интеллекта и получать объяснения относительно решений, основанных на системах высокого риска искусственного интеллекта, влияющих на их права.

Требования к прозрачности

Системы искусственного интеллекта общего назначения (GPAI) и модели GPAI, на которых они базируются, должны отвечать определенным требованиям по прозрачности, включая соблюдение законодательства ЕС об авторском праве и публикацию подробных резюме содержимого, используемого для обучения. Более мощные модели GPAI, которые могут создавать системные риски, сталкиваются с дополнительными требованиями, включая выполнение оценки модели, оценку и смягчение системных рисков, а также отчеты об инцидентах.

Кроме того, искусственные или поддельные изображения, аудио- или видеоконтент (дипфейки) должны быть четко обозначены как таковые.

Цитаты

Во время пленарных дебатов во вторник содокладчик Комитета внутреннего рынка Брандо Бенифеи сказал: «Благодаря парламенту неприемлемые практики ИИ будут запрещены в Европе, а права работников и граждан будут защищены. Теперь будет создан Офис искусственного интеллекта, который поможет компаниям начать соблюдать правила до того, как они вступят в силу. Мы убедились, что люди и европейские ценности находятся в самом центре развития ИИ».

Содокладчик Комитета гражданских свобод Драгош Тудораче отметил, что впереди еще много работы, которая выходит за рамки самого Закона об искусственном интеллекте: «ИИ заставит нас переосмыслить общественный договор, лежащий в основе наших демократий, наши модели образования, рынки труда и способ ведения войны. Закон об искусственном интеллекте является отправной точкой для новой модели управления, построенной вокруг технологий. Сейчас мы должны сосредоточиться на том, чтобы этот закон был реализован».

Новый закон вступит в силу через 20 дней после его публикации в официальном журнале и будет полностью применен через 24 месяца после его вступления в силу, за определенными исключениями.

Напомним, как ранее писала «Судебно-юридическая газета», в МВД сообщили, что для безопасности украинцев в целом в рамках региональных систем видеонаблюдения и видеоаналитики функционируют более 50,6 тысячи видеокамер, из которых 7 191 камера работает с функциями аналитики – распознавание лица, номерных знаков и авто по цвету и марке.

Также тема использования искусственного интеллекта в судопроизводстве стала предметом круглого стола 1 марта, посвященного Заключению Консультативного совета европейских судей (КРЕС) №26 (2023) от 1 декабря 2023 года «Двигаясь вперед: использование ассистивных технологий в судопроизводстве». Представитель от Украины в КСЕС, судья КСУ Виктор Городовенко рассказал, какие красные линии очертило Заключение КСЕС относительно искусственного интеллекта в судопроизводстве.

Автор: Наталя Мамченко 

Подписывайтесь на наш Тelegram-канал t.me/sudua и на Google Новости SUD.UA, а также на нашу страницу в Facebook и в Instagram, чтобы быть в курсе самых важных событий.