В США предложили законодательно запретить ИИ запускать ядерные бомбы

Группа американских конгрессменов представила законопроект, запрещающий системам ИИ самостоятельно принимать решения о применении ядерного оружия.

Nuclear weapons are horrifically damaging and devastating. In an increasingly digital age, we can’t allow robots to hold the power to command them. We must adopt the Autonomous Artificial Intelligence Act and ensure that AI will never make decisions to use deadly force.

— Ed Markey (@SenMarkey) April 26, 2023

«В эпоху цифровых технологий мы не можем позволить отдать роботам контроль над ним [ядерным оружием]. Мы должны принять Закон об автономном искусственном интеллекте для гарантии того, что ИИ никогда не примет решения о применении смертоносной силы», — написал сенатор Эдвард Марки, один из авторов законопроекта.

Минобороны США уже запрещает искусственному интеллекту автономный запуск ядерного оружия. Предложенный законопроект призван узаконить положения Пентагона, которые гласят:

«Во всех случаях Соединенные Штаты будут держать человека “в курсе” всех действий, имеющих решающее значение для информирования и выполнения решений президента о начале и прекращении применения ядерного оружия».

В законопроекте также говорится, что ни одна автономная система без значимого человеческого контроля не может запустить ядерное оружие или «выбрать цели» с намерением поразить их.

«Любое решение о запуске ядерного оружия не должно приниматься искусственным интеллектом», — говорится в тексте.

Намерение продублировать правила Пентагона в законе конгрессмены обосновали отчетом Комиссии национальной безопасности по искусственному интеллекту 2021 года. В нем авторы рекомендовали запретить автономные запуски ядерного оружия не только для внутреннего регулирования. Эксперты считают, что это простимулирует аналогичные обязательства со стороны Китая и России.

Документ также привлечет внимание к другим усилиям сторонников нераспространения оружия массового поражения, уверены авторы. В качестве примера они привели инициативу, ограничивающую право президента США в одностороннем порядке объявлять ядерную войну.

Напомним, в октябре 2022 года Нидерланды развернули первых автономных «роботов-убийц» НАТО.

В декабре 2021 года генсек ООН Антониу Гутерриш призвал принять меры для регулирования использования автономного оружия.