OpenAI выделила $1 млн на ИИ-кибербезопасность

Компания OpenAI учредила программу грантов на $1 млн в области кибербезопасности технологий на основе искусственного интеллекта (ИИ). 

Основная цель инициативы — изменение подхода к безопасности в онлайн-пространстве «за счет применения ИИ и координации действий единомышленников». 

Согласно заявлению, фонд OpenAI будет выплачивать по $10 000 проектам, которые представят свои идеи и пройдут отбор. 

В компании выделил три главных направления: 

• расширение возможностей «защитников» посредством внедрения инструментов на основе ИИ;
• решения для оценки эффективности технологий кибербезопасности для улучшения их возможностей; 
• стимулирование обсуждений вокруг ИИ-безопасности.

«Хотя нападающие сталкиваются с меньшими ограничениями и пользуются своей гибкостью, у защитников есть кое-что более ценное — координация для достижения общей цели ради безопасности людей», — заявили в компании. 

OpenAI также предложила свои идеи для возможных проектов: 

• сбор, анализ и сортировка данных о киберпреступлениях;
• механизмы по изучению социальной инженерии;
• автоматизация исправления уязвимостей; 
• создание «приманок» для злоумышленников;
• обнаружение вредоносных программ с помощью ИИ;
• создание безопасного ПО для написания и публикации кода. 

Ранее глава компании Сэм Альтман призвал Конгресс США к регулированию искусственного интеллекта. Бизнесмен предложил сформировать новое агентство по вопросам ИИ, которое занималось бы выдачей и изъятием лицензий на разработку подобных технологий.   

Напомним, в мае вице-президентка США Камала Харрис провела встречу с Альтманом и другими руководителями техгигантов, на которой они обсудили риски искусственного интеллекта.