В США представили правила регулирования дискриминационного ИИ
Американские конгрессмены возобновили усилия по привлечению технологических компаний к ответственности за предвзятость в алгоритмах. Они представили обновленную версию законопроекта, требующего аудита ИИ-систем в таких областях, как финансы, здравоохранение, снабжение жилищем и образование.
Proud to be introducing this much-needed legislation with @SenBooker and @RepYvetteClarke to hold companies accountable for reliance on flawed systems that discriminate against Americans based on age, gender, and race. https://t.co/GKJt5FpMPI
— Ron Wyden (@RonWyden) February 3, 2022
По словам одного из авторов документа сенатора Рона Уайдена, законопроект должен приоткрыть занавес над секретными алгоритмами, которые решают, смогут ли американцы обратиться к врачу, арендовать дом или поступить в школу.
«Если кто-то не сдает вам дом из-за цвета кожи, это абсолютная незаконная дискриминация. Использование ошибочного алгоритма или программного обеспечения, которое приводит к дискриминации и предвзятости, также плохо», — говорится в пресс-релизе.
Законопроект потребует от компаний провести аудит систем искусственного интеллекта и сообщить о результатах в Федеральную торговую комиссию (FTC). Сюда относятся любые решения предприятий, среди которых:
- стоимость, условия и доступность образования;
- трудоустройство;
- основные коммунальные услуги;
- планирование семьи;
- здравоохранение;
- обеспечение жилищем;
- юридические услуги;
- любые другие услуги, программы или возможности, влияющие на жизнь потребителя.
Согласно документу, FTC обязуется обнародовать громкие дела, связанные с алгоритмической предвзятостью. Комиссия также должна создать общедоступную базу данных, где потребители смогут просматривать, какие решения принимаются автоматизированными системами в той или иной компании.
Законопроект поддержали ряд правозащитных групп. Вице-президент организации Color Of Change Ариша Хэтч выразила надежду, что Конгресс примет документ в ближайшем будущем.
Впервые законопроект об алгоритмической ответственности Уайден представил в 2019 году, однако он не проходил слушаний в комитетах ни в Палате представителей, ни в Сенате.
Напомним, в апреле 2021 года Уайден предложил законодательно запретить системы распознавания лиц вроде Clearview AI.
В ноябре конгрессмены представили правила регулирования рекомендательных алгоритмов.
В январе 2022 года в США предложили законодательно запретить таргетинг цифровой рекламы на платформах вроде Facebook и Google.
Подписывайтесь на новости ForkLog в Telegram: ForkLog AI — все новости из мира ИИ!
Рассылки ForkLog: держите руку на пульсе биткоин-индустрии!