Разработчик решений для защиты искусственного интеллекта HiveTrace развернул AI Firewall в облаке Cloud.ru. Это позволило ускорить внедрение у корпоративных заказчиков и повысить уровень защиты GenAI-приложений от наиболее распространенных атак на большие языковые модели. AI Firewall защищает от ключевых ИБ-угроз при использовании ИИ, включая промпт-атаки, отравление данных и моделей, утечку системных инструкций, чрезмерную агентность и другие уязвимости LLM. Об этом CNews сообщили представители Cloud.ru.

Например, это не позволяет злоумышленникам заставить модель выполнять небезопасные действия с помощью вредоносных запросов и получить через LLM конфиденциальные данные компании. В отличие от инструментов защиты на уровне отдельных моделей, решение работает на уровне приложений.

Помимо миграции, Cloud.ru и HiveTrace также договорились о включении модели HiveTracePro в сервис Evolution Foundation Models. Клиенты Cloud.ru, которые уже используют языковые модели на платформе, могут подключать HiveTracePro как дополнительный уровень защиты GenAI-приложений. Модель дополняет Guardrails Filter — собственный инструмент Cloud.ru для маскировки чувствительных данных при работе с большими языковыми моделями.

«Риски при работе с генеративным ИИ — один из главных блокеров для его массового внедрения в большинстве российских бизнесов. Чтобы решить эту проблему, мы активно развиваем собственные инструменты для безопасной работы с ИИ и расширяем экосистему партнерских решений. Коллаборация Cloud.ru и HiveTrace позволит предложить клиентам дополнительный инструмент для защиты GenAI-приложений», — отметил Сергей Волков, директор центра киберзащиты Cloud.ru.

Клиенты HiveTrace работают в разных отраслях, поэтому требования к инфраструктуре отличаются от проекта к проекту. Компании требовалась единая платформа, которая закрывает все требования к работе с персональными данными, ГИС, КИИ и финансовыми системами, а также поддерживает Kubernetes с GPU.

Для размещения AI Firewall компания выбрала Cloud.ru Evolution. Решение развернули на базе Evolution Managed Kubernetes с GPU. Managed-сервисы Cloud.ru оказались совместимы с существующими компонентами HiveTrace, поэтому компании не потребовалась дополнительная доработка.

«Cloud.ru дал инфраструктурную основу, которая соответствует требованиям наших заказчиков и позволяет быстрее запускать и масштабировать проекты. Благодаря этому команда может сосредоточиться на развитии продукта и разработке новых функций безопасности, не тратя ресурсы на подготовку инфраструктуры под каждое внедрение», — сказал директор по клиентской стратегии HiveTrace Иван Василенко.

• Новое поколение BI с ИИ-агентами