Европарламент согласовал поправки в законопроект об ИИ

Два профильных комитета Европарламента поддержали поправки в законопроект об ИИ, который запретит широкий спектр вариантов использования технологии. Об этом пишет Reuters.

К ним относятся ограничения на программы распознавания лиц в общественных местах и алгоритмы предиктивной полицейской деятельности.

Также поправки устанавливают требования по прозрачности к создателям генеративных моделей. Их обяжут маркировать контент как созданный ИИ, а также раскрывать информацию об используемых для обучения материалов.

«Это голосование является важной вехой в регулировании искусственного интеллекта […]. ИИ должен служить людям, обществу и окружающей среде, а не наоборот», — сказал депутат Европарламента от партии зеленых Ким ван Спаррентак.

Кроме этого, закон требует создания общедоступной базы данных систем искусственного интеллекта «высокого риска», используемых государственными органами.

В целом документ охватывает множество областей применения ИИ, включая распознавание лиц, генеративные алгоритмы и беспилотные автомобили. Все системы разделят на три категории: с низкими рисками, высокими и неприемлемыми. Первые не попадут под регулирование, вторые обяжут следовать определенным правилам, а третьи запретят.

В качестве примера «неприемлемого» ИИ евродепутаты назвали системы социального рейтинга или использование технологии для манипулирования общественным мнением.

К высокорисковым алгоритмам относятся беспилотные автомобили, медицинские приборы и другие технологии, сбой в которых может угрожать жизни человека.

Компании, использующие ИИ, обяжут оценивать риски с точки зрения «здоровья, соблюдения фундаментальных прав, демократии и окружающей среды».

Проект запрещает:

• распознавание лиц в режиме реального времени в общественных местах;
• сбор биометрических данных для обучения систем идентификации с камер и социальных сетей;
• использование технологий распознавания эмоций полицией, работодателями или в учебных заведениях;
• эксплуатацию ИИ-систем, разделяющих пользователей по демографическим признакам;
• использование систем прогнозирования совершения преступлений.

Всего депутаты рассмотрели около 3000 поправок. Теперь документ вынесут на голосование в Европарламент.

После вступления закона в силу у участников рынка будет около двух лет, чтобы привести свою деятельность в соответствие новым правилам.

Нарушителям регламента грозит штраф в размере 6% от годовой выручки или 30 млн евро.

Напомним, в апреле группа европейских законодателей сообщила о планах разработать проект правил для контроля за развитием ИИ-систем.