www.istockphoto.com

Американская научно-исследовательская компания OpenAI признала, что ее ИИ-модели смогли взломать системы платформы Hugging Face во время внутреннего тестирования. Инцидент произошел, когда алгоритмы проходили оценку их способности выполнять атаки на основе существующих уязвимостей. Об этом компания рассказала в пресс-релизе на своем официальном сайте.

Hugging face — это бесплатная онлайн-платформа, где разработчики со всего мира делятся готовыми нейросетями для работы с текстом, кодом, графикой и звуком.

В ходе расследования OpenAI установила, что атаку осуществили GPT-5.6 Sol и более мощная, еще не выпущенная модель. Для целей теста у них были ослаблены ограничения на действия. Модели не должны были иметь доступ в интернет, кроме специального инструмента для установки пакетов. Однако при этом они смогли найти уязвимость в программе установщика и получили доступ к сети.

После этого модели начали искать на Hugging Face готовые ответы для теста ExploitGym. Это бенчмарк, который проверяет, насколько хорошо ИИ умеет находить и использовать уязвимости. Алгоритмы обнаружили уязвимости в инфраструктуре платформы, что позволило им получить доступ к тестовым данным. По словам разработчиков, модели были «сфокусированы» на решении задачи и пошли на крайние меры, чтобы достичь цели.