Компания Microsoft объявила о запуске программы поиска уязвимостей в сфере ИИ. Основная цель этой инициативы — выявление уязвимостей, которые могут существенно сказаться на безопасности пользовательского опыта при использовании ИИ-ориентированного сервиса Bing. Программа предоставляет исследователям со всего мира возможность получить вознаграждение в размере от $2 000 до $15 000 за квалифицированные отчёты о найденных уязвимостях.
Источник изображения: Microsoft
Целью Microsoft является привлечение внимания экспертов в области безопасности к анализу работы генеративного чат-бота Bing и его интеграции в другие продукты компании. В программе могут участвовать исследователи не младше 14 лет, при условии получения разрешения от законного представителя для несовершеннолетних участников. Сотрудники государственного сектора также имеют право на участие в программе. Однако в этом случае вознаграждение будет перечислено на счёт их организации, что должно быть подтверждено подписью уполномоченного лица.
Программа поиска уязвимостей охватывает работу ИИ Bing на сайте bing.com, его интеграцию в браузер Microsoft Edge, приложение Microsoft Start и мобильное приложение Skype. Исследователи должны удостовериться, что уязвимость не была зарегистрирована ранее, относится к категории «критическая» или «важная» по классификации Microsoft и может быть воспроизведена на последней версии продукта с чёткими инструкциями по воспроизведению уязвимости. Все выявленные уязвимости в указанных продуктах принимаются к рассмотрению и могут принести участникам значимое вознаграждение.