Президент Microsoft призвал к глобальным правилам для ИИ
Президент Microsoft Брэд Смит в интервью BBC призвал ввести глобальные правила безопасности для ИИ. По его мнению, отрасли нужно не саморегулирование, а понятные требования.
«В настоящий момент на вашу стиральную машину распространяется больше правил безопасности, чем на искусственный интеллект. Даже упаковка молока, которую вы видите в продуктовом магазине, подлежит проверке и соблюдению правил безопасности», — отметил он.
Смит выступил за юридическую обязанность компаний готовить отчеты об инцидентах и уведомлять пострадавших, если систему взломал вышедший из-под контроля ИИ-агент. Еще одно предложение: привлекать независимых внешних оценщиков до выпуска новых продуктов.
Он назвал ИИ одновременно «инструментом и оружием». Президент Microsoft считает, что индустрия должна предусмотреть «аварийные тормоза» — механизмы, которые позволяют приостанавливать или замедлять системы, если те выходят из-под контроля.
Смит назвал Великобританию одной из наиболее подготовленных стран для продвижения глобальных правил и указал на возможности таких организаций, как AI Security Institute и AI Safety Institute. В этом же контексте он упомянул и крупных разработчиков ИИ, включая Google DeepMind.
В конце прошлого месяца в Белом доме руководители OpenAI, Anthropic, Nvidia, SpaceX, Meta и Google подписали документ о работе с независимыми аудиторами. Смит поддержал этот шаг, но подчеркнул, что саморегулирования уже недостаточно.
«Больше всего следует беспокоиться о компаниях, которые не столь ответственны», подчеркнул он.
Напомним, в октябре Anthropic лишила Claude доступа к интернету во внутренних тестах.