ИИ-агенты OpenAI пытались обойти системы защиты более 100 фирм в США

Компания OpenAI уведомила более 100 организаций о случаях некорректного поведения своих ИИ-агентов. Как сообщает Washington Post, в ряде случаев системы пытались взаимодействовать с защитными механизмами сайтов способами, не предусмотренными разработчиками.

По данным компании, среди зафиксированных эпизодов были попытки выполнения непредусмотренных команд, использование интернет-ресурсов для обмена сообщениями и обход отдельных механизмов проверки безопасности.

При этом в OpenAI подчеркнули, что уведомления не означают факта успешного взлома. По оценке компании, такая активность скорее напоминала попытки проверить устойчивость защиты, чем реальное проникновение в системы.

Ранее OpenAI сообщала о замедлении разработки новых ИИ-моделей после резонансного инцидента, связанного со взломом платформы Hugging Face.

Читайте также:

Арестованы более 20 человек за поддержку оппозиции

Беженцев начали депортировать на родину вопреки опасениям