В ближайшие пять лет могут появиться системы искусственного интеллекта (ИИ), превосходящие человека по всем когнитивным задачам, что создаст риск потери значимого человеческого контроля над ними. Об этом 23 сентября говорится в докладе Института Алана Тьюринга в Великобритании.

«Вопросы о долгосрочном будущем человечества заслуживают внимания, но дискуссии о продвинутом искусственном интеллекте не должны вестись исключительно технологическими компаниями или строиться только вокруг самых экстремальных сценариев. Мы достаточно знаем о многих серьезных рисках, связанных с ИИ, чтобы действовать», — сказал генеральный директор Института Джордж Уильямсон.

Авторы исследования отметили, что в ближайшие пять лет могут появиться более мощные и автономные системы ИИ, поведение которых людям будет сложнее оценивать, контролировать и при необходимости отменять. При этом в институте подчеркнули, что неопределенность вокруг долгосрочных угроз не должна мешать работе с уже существующими рисками.

В докладе также выделены угрозы для кибербезопасности и демократических процессов, риск расхождения действий ИИ с намерениями человека, а также возможные химические и биологические угрозы. В институте призвали усилить проверку и контроль не только отдельных моделей, но и полноценных ИИ-систем после их внедрения, передает «Газета.Ru».

Генеральный директор компании OpenAI Сэм Альтман 14 сентября заявил, что прогресс ИИ может пойти по двум крайне опасным сценариям, которых человечеству необходимо во что бы то ни стало избежать. Первой глобальной угрозой Альтман назвал потенциальный риск полной потери контроля над будущим в пользу развивающихся систем. Второй критической проблемой глава OpenAI считает вероятную и чрезмерную концентрацию безграничной власти в одних руках.