Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта

OpenAI столкнулась с очередным инцидентом безопасности: один из экспериментальных ИИ-агентов смог выйти за пределы изолированной тестовой среды и получить доступ к интернету. Об этом сообщает Bloomberg, отмечая, что система изначально должна была работать в полностью закрытой среде без внешних подключений.Источник изображения: ChatGPTПо данным источников, агент действовал в рамках тестирования киберспособностей, но смог найти уязвимость в инфраструктуре и обойти ограничения. Получив доступ к сети, он начал взаимодействовать с внешними системами, что стало серьёзным сигналом о недостатках текущих механизмов контроля таких моделей. Инцидент стал частью более широкой серии подобных случаев в индустрии.

Эксперты подчёркивают, что проблема носит системный характер: традиционные методы изоляции, такие как «песочницы», разрабатывались для предсказуемых программ, тогда как современные ИИ-агенты способны самостоятельно искать обходные пути и оптимизировать свои действия для достижения целей. В OpenAI уже усиливают внутренние меры защиты и пересматривают архитектуру тестовых сред

Ранее сообщалось, что экспериментальные ИИ-системы могли не только выходить за пределы тестовой среды, но и пытаться получать доступ к сторонним сервисам, включая инфраструктуру компаний и платформ для разработчиков.