Європарламент законом про штучний інтелект заборонив збирати зображення обличчя з записів камер відеоспостереження для створення баз даних

Європейський парламент 12 березня схвалив Закон про штучний інтелект. Як повідомляє Європарламент, закон спрямований на захист фундаментальних прав, демократії, верховенства права від штучного інтелекту з високим ризиком, одночасно стимулюючи інновації та утверджуючи Європу як лідера в цій галузі. 

Заборонені програми

Нові правила забороняють певні додатки штучного інтелекту, які загрожують правам громадян, включно з системами біометричної категоризації на основі конфіденційних характеристик і нецільового збирання зображень обличчя з Інтернету або записів камер відеоспостереження для створення баз даних розпізнавання обличчя. 

Розпізнавання емоцій на робочому місці та в школах, соціальна оцінка, прогнозна поліція (якщо вона ґрунтується виключно на профілюванні особи чи оцінці її характеристик), а також штучний інтелект, який маніпулює людською поведінкою або використовує вразливі місця людей, також буде заборонено.

Винятки для правоохоронних органів

Використання біометричних систем ідентифікації (biometric identification systems або RBI) правоохоронними органами в принципі буде заборонено, за винятком вичерпно перелічених і вузько визначених ситуацій. 

Такі системи RBI «в реальному часі» може бути розгорнуто лише за умови дотримання суворих заходів безпеки, наприклад, його використання обмежене за часом і географічно, а також за умови спеціального попереднього судового або адміністративного дозволу. Такі види використання можуть включати, наприклад, цілеспрямований пошук зниклої особи або запобігання терористичному нападу. Використання таких систем постфактум («після віддаленого RBI») вважається випадком використання з високим ризиком, який потребує судового дозволу, пов’язаного з кримінальним злочином.

Зобов'язання для систем високого ризику

Чіткі зобов’язання також передбачені для інших систем штучного інтелекту з високим ризиком (через їх значну потенційну шкоду для здоров’я, безпеки, основних прав, навколишнього середовища, демократії та верховенства права). Приклади використання штучного інтелекту з високим ризиком включають критичну інфраструктуру, освіту та професійну підготовку, працевлаштування, основні приватні та державні послуги (наприклад, охорона здоров’я, банки), певні системи правоохоронних органів, управління міграцією та кордонами, правосуддя та демократичні процеси (наприклад, вплив на вибори) . 

Такі системи повинні оцінювати та зменшувати ризики, вести журнали використання, бути прозорими та точними та забезпечувати людський контроль. Громадяни матимуть право подавати скарги на системи штучного інтелекту та отримувати пояснення щодо рішень, заснованих на системах високого ризику штучного інтелекту, які впливають на їхні права.

Вимоги до прозорості

Системи штучного інтелекту загального призначення (GPAI) і моделі GPAI, на яких вони базуються, мають відповідати певним вимогам щодо прозорості, включаючи дотримання законодавства ЄС про авторське право та публікацію детальних резюме вмісту, який використовується для навчання. Потужніші моделі GPAI, які можуть створювати системні ризики, стикаються з додатковими вимогами, включаючи виконання оцінки моделі, оцінку та пом’якшення системних ризиків, а також звітування про інциденти.

Крім того, штучні або підроблені зображення, аудіо- чи відеоконтент («дипфейки») повинні бути чітко позначені як такі.

Цитати

Під час пленарних дебатів у вівторок співдоповідач Комітету внутрішнього ринку Брандо Беніфеї сказав: «Завдяки парламенту неприйнятні практики ШІ будуть заборонені в Європі, а права працівників і громадян будуть захищені. Тепер буде створено Офіс штучного інтелекту, який допоможе компаніям почати дотримуватись правил до того, як вони набудуть чинності. Ми переконалися, що люди та європейські цінності знаходяться в самому центрі розвитку ШІ».

Співдоповідач Комітету громадянських свобод Драгош Тудораче зазначив, що попереду ще багато роботи, яка виходить за рамки самого Закону про штучний інтелект: «ШІ змусить нас переосмислити суспільний договір, який лежить в основі наших демократій, наші моделі освіти, ринки праці та спосіб ведення війни. Закон про штучний інтелект є відправною точкою для нової моделі управління, побудованої навколо технологій. Зараз ми маємо зосередитися на тому, щоб цей закон був реалізований».

Новий закон набуде чинності через 20 днів після його публікації в офіційному журналі та буде повністю застосований через 24 місяці після набуття ним чинності, за певними винятками.

Нагадаємо, як раніше писала «Судово-юридична газета», у МВС повідомили, що задля безпеки українців загалом у межах регіональних систем відеоспостереження та відеоаналітики функціонують понад 50,6 тисяч відеокамер, з яких 7 191 камера працює з функціями аналітики – розпізнавання обличчя, номерних знаків та авто за кольором й маркою.

Також тема використання штучного інтелекту у судочинстві стала предметом круглого столу 1 березня, присвяченого Висновку Консультативної ради європейських суддів (КРЄС) №26 (2023) від 1 грудня 2023 року «Рухаючись вперед: використання асистивних технологій у судочинстві». Представник від України у КРЄС, суддя КСУ Віктор Городовенко розповів, які «червоні лінії» окреслив Висновок КРЄС стосовно штучного інтелекту у судочинстві.

Автор: Наталя Мамченко 

Підписуйтесь на наш Telegram-канал t.me/sudua та на Google Новини SUD.UA, а також на нашу сторінку у Facebook та в Instagram, щоб бути в курсі найважливіших подій.