Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта

В Госкорпорации Ростех появился комплекс ПО, который помогает засечь ИИ-агентов, работающих на ПК сотрудников без присмотра службы информационной безопасности (СИБ). Речь о продукте RT Protect EDR: он фиксирует не только установленное ПО, но и то, чем оно занято. Для компаний это способ держать под контролем риски утечки, которые возникают, когда ИИ получает допуск к данным компании.

Изображение: ChatGPT

Работники всё чаще ставят ИИ-агентов прямо на рабочие ПК — писать код, решать иные задачи. Такие ассистенты умеют считывать смысл проекта, менять документы, инициировать команды, обращаться к внешним и локальным моделям, подключать плагины и автоматизировать браузер. Удобно. Но именно отсюда растут и риски.

Глава «РТ-ИБ» Дмитрий Прендецкий отметил, что само задействование инструментов ИИ — ещё не нарушение. Но агент действует от имени работника и отчасти получает его права, а значит, может добраться до репозиториев, ключей допуска и конфиденциальной информации. Поэтому важно понимать, что он делает и на кого «работает».

Сотрудники «РТ-ИБ» изучили поведение популярных инструментов ИИ: Claude Code, OpenAI Codex, GitHub Copilot CLI, Gemini CLI, Cursor, Cline и OpenHands, а также локальную среду для запуска моделей Ollama. Они смотрели, как те ведут себя на машине: какие процессы поднимают, к каким файлам и папкам обращаются и куда отправляют свои запросы. Из этих наблюдений и родились признаки, по которым система опознаёт активность ИИ.

Главный вывод: поймать агента только по трафику в сети или по факту установленной ПО не получится. Локальные модели работают прямо на ПК, не выходя наружу, а сами агенты запускаются самыми различными методами и далеко не всегда попадают в список корпоративного софта.

На основе тестов разработчики собрали два пакета экспертизы для RT Protect EDR — для обнаружения и для расследования. Первый, «Контроль ИИ-агентов», отслеживает инициирование агента и его поведение на хосте, привязывает его к аккаунту пользователя и фиксирует, к какой информации он обращается. Второй, «Теневой ИИ», отвечает за несанкционированные клиенты, локальные модели и каналы передачи данных с внешними сервисами.