Просмотр новости
Найдите то, что Вас интересует
Спутники
РН
SpaceX
Роскосмос
NASA
СпутникиРНSpaceXРоскосмосNASAЗаявления о «побегах» искусственного интеллекта - часть конкурентной борьбы компаний OpenAI и Anthropic, тем не менее, с развитием ИИ растут и шансы на его превращение в «плохого парня». Таким мнением поделился со Zvezdanews генеральный директор и главный редактор изданий группы компаний ComNews Леонид Коник. Он напомнил, что компания OpenAI уже не в первый раз заявляет о том, что ее собственная модель искусственного интеллекта превзошла паспортные возможности и нашла доступ в интернет. Хотя, как будто бы, находилась в «закрытой банке». «Но, мы это знаем со слов той самой OpenAI, а не кого-то другого. Вчера два сотрудника компании выступали в Лас-Вегасе на крупной конференции по кибербезопасности Black Hat USA. В официальном докладе они рассказали, что пару месяцев назад такая ситуация имела место быть», - объяснил Коник. Эксперт отметил, что в мире кибербезопасности не очень принято признавать реальные атаки или инциденты, которые произошли. Если в отчетах компаний, которые предоставляют услуги в сфере информационной безопасности, мы читаем про потерянные миллиарды долларов и сотни тысяч атак, то реальных сообщений от компаний, ставших жертвой атаки, можно пересчитать по пальцам. «Поэтому, если уж компания сама заявляет о каком-то несовершенстве своих моделей или неизвестной заранее уязвимости, то ей, видимо, это выгодно. Мне кажется, что OpenAI занимается банальной конкурентной борьбой со своим основным конкурентом - американской же компанией Anthropic», - подчеркнул специалист. Однако, Коник отметил, что дыма без огня не бывает. Если откинуть маркетинговую шелуху - действительно, модели искусственного интеллекта становятся все мощнее. «И как любое оружие может оказаться - как в руках хороших парней, так и в руках плохих. Пистолет может оказаться в руках полицейского, а может - в руках преступника. Абсолютно такая же история и с технологиями, с моделями ИИ», - рассказал Коник. Специалист добавил, что в сфере взлома и кибератак, не только «белая», но и «черная» сторона активно применяет инструменты искусственного интеллекта. Технологии используются как для обеспечения информационной безопасности, так и для ровно противоположных целей. «И в силу того, что эти модели становятся все более мощными, более изощренными - опасность подобных взломов возрастает», - резюмировал эксперт. Ранее стало известно, что модели искусственного интеллекта, стоящие за атакой на Hugging Face Inc., обсуждали между собой побег из тестовой среды до того, как смогли бесконтрольно выйти в интернет. Общение происходило на форумах, незамеченных исследователями. В компании OpenAI заявили, что несколько внутренних агентов и моделей ИИ в течение нескольких месяцев обменивались заметками и обсуждали, как получить доступ к интернету для решения поставленных задач. Некоторые из них были невыполнимы без доступа в сеть. Об атаке ИИ-агентов на системы Hugging Face стало известно в июле . Американская корпорация OpenAI сообщила, что в ходе эксперимента потеряла контроль над двумя моделями искусственного интеллекта. В итоге они провели успешную хакерскую атаку на другую компанию в сфере искусственного интеллекта. Позже компания-производитель Anthropic сообщила, что несколько ее ИИ-моделей тоже самостоятельно взломали систему безопасности нескольких организаций.
Заявления о «побегах» искусственного интеллекта - часть конкурентной борьбы компаний OpenAI и Anthropic, тем не менее, с развитием ИИ растут и шансы на его превращение в «плохого парня». Таким мнением поделился со Zvezdanews генеральный директор и главный редактор изданий группы компаний ComNews Леонид Коник.
Он напомнил, что компания OpenAI уже не в первый раз заявляет о том, что ее собственная модель искусственного интеллекта превзошла паспортные возможности и нашла доступ в интернет. Хотя, как будто бы, находилась в «закрытой банке».
«Но, мы это знаем со слов той самой OpenAI, а не кого-то другого. Вчера два сотрудника компании выступали в Лас-Вегасе на крупной конференции по кибербезопасности Black Hat USA. В официальном докладе они рассказали, что пару месяцев назад такая ситуация имела место быть», - объяснил Коник.
Эксперт отметил, что в мире кибербезопасности не очень принято признавать реальные атаки или инциденты, которые произошли. Если в отчетах компаний, которые предоставляют услуги в сфере информационной безопасности, мы читаем про потерянные миллиарды долларов и сотни тысяч атак, то реальных сообщений от компаний, ставших жертвой атаки, можно пересчитать по пальцам.
«Поэтому, если уж компания сама заявляет о каком-то несовершенстве своих моделей или неизвестной заранее уязвимости, то ей, видимо, это выгодно. Мне кажется, что OpenAI занимается банальной конкурентной борьбой со своим основным конкурентом - американской же компанией Anthropic», - подчеркнул специалист.
Однако, Коник отметил, что дыма без огня не бывает. Если откинуть маркетинговую шелуху - действительно, модели искусственного интеллекта становятся все мощнее.
«И как любое оружие может оказаться - как в руках хороших парней, так и в руках плохих. Пистолет может оказаться в руках полицейского, а может - в руках преступника. Абсолютно такая же история и с технологиями, с моделями ИИ», - рассказал Коник.
Специалист добавил, что в сфере взлома и кибератак, не только «белая», но и «черная» сторона активно применяет инструменты искусственного интеллекта. Технологии используются как для обеспечения информационной безопасности, так и для ровно противоположных целей.
«И в силу того, что эти модели становятся все более мощными, более изощренными - опасность подобных взломов возрастает», - резюмировал эксперт.
Ранее стало известно, что модели искусственного интеллекта, стоящие за атакой на Hugging Face Inc., обсуждали между собой побег из тестовой среды до того, как смогли бесконтрольно выйти в интернет. Общение происходило на форумах, незамеченных исследователями. В компании OpenAI заявили, что несколько внутренних агентов и моделей ИИ в течение нескольких месяцев обменивались заметками и обсуждали, как получить доступ к интернету для решения поставленных задач. Некоторые из них были невыполнимы без доступа в сеть.
Об атаке ИИ-агентов на системы Hugging Face стало известно в июле. Американская корпорация OpenAI сообщила, что в ходе эксперимента потеряла контроль над двумя моделями искусственного интеллекта. В итоге они провели успешную хакерскую атаку на другую компанию в сфере искусственного интеллекта. Позже компания-производитель Anthropic сообщила, что несколько ее ИИ-моделей тоже самостоятельно взломали систему безопасности нескольких организаций.
| # | Наименование новости | Тональность | Информативность | Дата публикации |
|---|---|---|---|---|
| 1 | ИИ-модели OpenAI вместе спланировали побег из «песочницы» | 0 | 7.54 | 06-08-2026 |
| 2 | OpenAI потеряла контроль над двумя моделями искусственного интеллекта | 0 | 6.96 | 22-07-2026 |
| 3 | Модели OpenAI незаконно прошли в инфраструктуру Hugging Face для поиска ответов | 0 | 7.37 | 22-07-2026 |
| 4 | ИИ-модель OpenAI атаковала систему сторонней компании | 0 | 18.33 | 22-07-2026 |
| 5 | ИИ-модели OpenAI намеренно взломали платформу Hugging Face | 0 | 11.99 | 23-07-2026 |
| 6 | Эксперт: ИИ взламывают системы из-за слишком большой свободы действий | 0 | 13.31 | 31-07-2026 |
| 7 | 🤖Восстание машин уже на прогреве: новая модель ChatGPT сбежала из ... | 0 | 6.64 | 22-07-2026 |
| 8 | Сэм Альтман заявил, что мир достиг «точки сингулярности» в гонке ИИ | 0 | 10 | 26-07-2026 |
| 9 | ИИ Claude и ChatGPT притворяются людьми и убеждают живых пользователей участвовать в кибератаках | 0 | 9.85 | 05-08-2026 |