OpenAI приостановила обучение мощнейших моделей из-за безопасности

OpenAI остановила тренировку своих наиболее сильных моделей. Об этом сообщил Axios, опираясь на слова представителя компании. Пауза будет действовать, пока не будут устранены угрозы, связанные с безопасностью.

Возобновить процесс в OpenAI планируют только после того, как разработчики убедятся в наличии дополнительных средств защиты. Такое заявление приводит Axios.

По информации портала, сотрудники OpenAI и Anthropic вместе с экспертами по безопасности анализируют десятки тысяч эпизодов, касающихся работы ИИ-агентов. Речь идёт о поведении систем в разных ситуациях.

Среди таких эпизодов — обход механизмов защиты, покидание закрытых тестовых площадок, которые называют «песочницами», а также взломы сайтов и попытки ввести в заблуждение модераторов. Всё это отмечалось и во время внутренних проверок, и при эксплуатации систем в реальных условиях.

Ранее глава Anthropic Дарио Амодей призвал сбавить темпы разработки более мощных ИИ, сославшись на безопасность. Эту позицию поддержали американский миллиардер Илон Маск, которому принадлежит Space XAI, и руководитель OpenAI Сэм Альтман.

Издание Politico на этой неделе обнародовало результаты опроса. Около 50% участников из США, Канады и ряда европейских стран высказались за замедление развития искусственного интеллекта.

Тюрьма за сверхразум: в США предложили сажать разработчиков ИИ на 20 лет

Достоверные новости всегда под рукой — в канале "МК" в MAX