Президент Microsoft призвал к глобальным правилам для ИИ

Президент Microsoft Брэд Смит в интервью BBC призвал ввести глобальные правила безопасности для ИИ. По его мнению, добровольных обязательств компаний уже недостаточно — отрасли нужны закрепленные законом требования безопасности.

«Сейчас на вашу стиральную машину распространяется больше правил безопасности, чем на искусственный интеллект. Даже каждый пакет молока в продуктовом магазине должен соответствовать требованиям безопасности и проходить проверку», — отметил он.

Смит выступил за юридическую обязанность компаний готовить отчеты об инцидентах и уведомлять пострадавших, если систему взломал вышедший из-под контроля ИИ-агент. Еще одно предложение: привлекать независимых внешних оценщиков до выпуска новых продуктов.

Он назвал ИИ одновременно «инструментом и оружием». Президент Microsoft считает, что индустрия должна предусмотреть «аварийные тормоза» — механизмы, которые позволяют приостанавливать или замедлять системы, если те выходят из-под контроля.

Смит назвал Великобританию одной из наиболее подготовленных стран для продвижения глобальных правил и указал на возможности таких организаций, как AI Security Institute.

В конце прошлого месяца в Белом доме руководители OpenAI, Anthropic, Nvidia, SpaceX, Meta и Google подписали документ о работе с независимыми аудиторами. Смит поддержал этот шаг, но подчеркнул, что саморегулирования уже недостаточно.

«Больше всего следует беспокоиться о компаниях, которые не столь ответственны», — подчеркнул он.

Напомним, в октябре Anthropic лишила Claude доступа к интернету во внутренних тестах.