Комиссар ООН по правам человека призывает к мораторию на системы искусственного интеллекта

Верховный комиссар ООН по правам человека Мишель Бачелет призывает к мораторию на продажу и использование систем искусственного интеллекта, которые, по ее словам, представляют серьезную опасность для прав человека.

Как сообщает VOA, отчет Верховного комиссара, который будет представлен Совету ООН по правам человека, содержит анализ того, как достижения цифровых технологий влияют на права человека. В отчете утверждается, что искусственный интеллект, или ИИ, может быть силой добра, но также может быть чрезмерно навязчивым и иметь негативные, даже катастрофические, последствия для права людей на неприкосновенность частной жизни и других прав человека.

Пегги Хикс, директор по тематическому взаимодействию Управления ООН по правам человека, говорит, что системы искусственного интеллекта могут быть неисправными и иметь укоренившиеся предубеждения. По ее словам, это может привести к дискриминации, которая может поставить под угрозу перспективы трудоустройства или социальные пособия.

Она говорит, что есть множество случаев несправедливого обращения с людьми из-за неправильного использования ИИ в правоохранительных органах, национальной безопасности, уголовном правосудии и пограничном контроле.

«Мы видим, что ИИ используется для профилирования и идентификации подозреваемых, - сказала она. - Биометрические технологии, такие как распознавание лиц и эмоциональное распознавание, используются, в том числе удаленно в реальном времени, для идентификации людей с задокументированными случаями ошибочной идентификации и непропорционального воздействия на определенные группы, часто меньшинства».

В отчете отмечается, что биометрические технологии все чаще используются правительствами, международными организациями и технологическими компаниями для идентификации людей в режиме реального времени и на расстоянии. Это потенциально позволяет отслеживать людей без ограничений. Хикс говорит, что Верховный комиссар особо рекомендует ввести мораторий на использование технологии удаленного биометрического распознавания в общественных местах, учитывая серьезные угрозы общественным свободам, связанные с таким наблюдением.

Комиссар ООН по правам человека Бачелет говорит, что компаниям и государствам необходимо обеспечить большую прозрачность в том, как они разрабатывают и используют ИИ. Она говорит, что способность искусственного интеллекта служить людям неоспорима, как и его способность вторгаться в их частную жизнь и нарушать права человека в огромных масштабах и практически незаметно.

Подписывайтесь на наш Telegram-канал и на Twitter, чтобы быть в курсе самых важных событий.