Bloomberg: Nvidia разработала систему защиты от нештатных действий ИИ-моделей

Дата публикации: 28-09-2026 12:21:00

Американская компания Nvidia разработала двухуровневую систему безопасности Open Agent Safety Platform, которая призвана предотвращать несанкционированные действия искусственного интеллекта без ущерба для развития технологий. Американская компания Nvidia представила платформу Open Agent Safety Platform для предотвращения несанкционированных действий моделей искусственного интеллекта. Двухуровневая система безопасности призвана решить проблему нештатного поведения автономных агентов без ущерба для развития технологий, передает РИА «Новости» со ссылкой на Bloomberg.Разработчики отмечают, что сбои в работе нейросетей ранее вызывали серьезные опасения в индустрии и даже приводили к призывам замедлить создание новых ИИ-моделей. По словам вице-президента Nvidia по корпоративным решениям Джастина Бойтано, новый уровень защиты позволит безопасно тестировать самые передовые системы. Он подчеркнул, что платформа способна изолировать подозрительную программу за миллисекунды.Представитель корпорации отказался уточнять, планируют ли лидеры отрасли OpenAI и Anthropic применять эту систему для контроля за обучением своих моделей ChatGPT и Claude. Бойтано посоветовал журналистам адресовать подобные вопросы самим разработчикам.Генеральный директор Nvidia Дженсен Хуан ранее неоднократно заявлял, что риски выхода искусственного интеллекта из-под контроля человека сильно преувеличены.В середине месяца Дональд Трамп позвонил главе Nvidia во время выступления на сцене.В начале месяца чипы компании помогли Вашингтону в примирении Еревана и Баку.В феврале разработчики китайской нейросети DeepSeek обучили искусственный интеллект на оборудовании Nvidia вопреки американским запретам.

Схожие новости

#	Наименование новости	Тональность	Информативность	Дата публикации
1	CNBC: Nvidia создала платформу для защиты от взлома со стороны ИИ-агентов	0	14	28-09-2026
2	NVIDIA представила систему для предотвращения сбоев в работе агентов искусственного интеллекта	0	11.88	28-09-2026
3	OpenAI приостановила обучение некоторых нейросетей из-за проблем с безопасностью	-1	8.55	27-09-2026
4	OpenAI снова остановила обучение моделей после взлома сайтов ИИ-агентами	0	13.6	28-09-2026
5	Axios узнал о приостановке обучения моделей OpenAI из-за проблем с безопасностью	0	13.88	27-09-2026
6	OpenAI приостановила обучение самых мощных моделей ИИ из-за угроз безопасности	0	9.51	27-09-2026
7	Axios: Компания OpenAI приостановила обучение мощных моделей ИИ	0	7.35	27-09-2026
8	Билл Гейтс призвал усилить внешний контроль над ИИ	0	7.17	26-09-2026
9	OpenAI приостановила обучение мощных ИИ из-за проблем с безопасностью	0	13.89	27-09-2026
10	«Я не знаю свой адрес, но теперь могу с этим жить»: глава NVIDIA выступил в защиту ИИ	0	7.2	28-09-2026

Классификация: . Схожих патентов: 0. Схожих новостей: 10. Тональность: 0. Информативность: 7.88. Источник: vz.ru.