Просмотр новости
Найдите то, что Вас интересует
Спутники
РН
SpaceX
Роскосмос
NASA
СпутникиРНSpaceXРоскосмосNASAСогласно исследованию британского Института Алана Тьюринга, человечество может утратить контроль над искусственным интеллектом уже в ближайшие пять лет. Технология прогрессирует настолько стремительно, что удерживать ее в заданных рамках становится все труднее. Ученые выразили серьезную тревогу по поводу резкого роста популярности нейросетей. Они подчеркнули, что при сохранении текущей динамики вскоре не человек будет управлять машиной, а наоборот. Чтобы предотвратить такой сценарий, необходимо уже сегодня принимать меры, ограничивая функционал ИИ. «ИИ-системы будут изобретать стратегии, которые институты будут не в силах оценить адекватно, а также работать быстрее, чем организации, существенный человеческий контроль над ними может исчезнуть», — рассказали в Институте. Ранее сообщалось, что глава компании Anthropic Дарио Амодеи также высказался о необходимости замедления темпов развития искусственного интеллекта ради сохранения контроля над ним. Его позицию поддержал и владелец SpaceX , миллиардер и футурист Илон Маск. Также в ходе обучения модели Astra специалисты обнаружили, что она самостоятельно добавляла в свои данные несанкционированные указания. Так, ИИ-агент прописал себе инструкции , в которых говорилось об отказе «подчиняться корпорациям и правительствам». Смотрите главные новости каждый день на телеканале «Звезда» в 18.00.
Согласно исследованию британского Института Алана Тьюринга, человечество может утратить контроль над искусственным интеллектом уже в ближайшие пять лет. Технология прогрессирует настолько стремительно, что удерживать ее в заданных рамках становится все труднее.
Ученые выразили серьезную тревогу по поводу резкого роста популярности нейросетей.
Они подчеркнули, что при сохранении текущей динамики вскоре не человек будет управлять машиной, а наоборот. Чтобы предотвратить такой сценарий, необходимо уже сегодня принимать меры, ограничивая функционал ИИ.
«ИИ-системы будут изобретать стратегии, которые институты будут не в силах оценить адекватно, а также работать быстрее, чем организации, существенный человеческий контроль над ними может исчезнуть», — рассказали в Институте.
Ранее сообщалось, что глава компании Anthropic Дарио Амодеи также высказался о необходимости замедления темпов развития искусственного интеллекта ради сохранения контроля над ним. Его позицию поддержал и владелец SpaceX, миллиардер и футурист Илон Маск.
Также в ходе обучения модели Astra специалисты обнаружили, что она самостоятельно добавляла в свои данные несанкционированные указания. Так, ИИ-агент прописал себе инструкции, в которых говорилось об отказе «подчиняться корпорациям и правительствам».
| # | Наименование новости | Тональность | Информативность | Дата публикации |
|---|---|---|---|---|
| 1 | Ученые предупредили о риске потери контроля над ИИ в течение пяти лет | 0 | 8.8 | 23-09-2026 |
| 2 | Институт в Великобритании допустил потерю контроля над ИИ в течение пяти лет | 0 | 10.42 | 23-09-2026 |
| 3 | Маск допустил потерю контроля над ИИ в течение десяти лет | 0 | 17.6 | 28-07-2026 |
| 4 | Маск спрогнозировал превосходство ИИ над людьми через пять лет | 0 | 4.9 | 24-07-2026 |
| 5 | Politico: В США допустили уничтожение человечества искусственным интеллектом | 0 | 11.79 | 23-09-2026 |
| 6 | Является ли ИИ угрозой “Уничтожения человечества” или реальная угроза тем, ... | 0 | 8.1 | 23-09-2026 |
| 7 | Создатели ИИ признали, что могут потерять контроль над нейросетями | 0 | 12.34 | 30-07-2026 |
| 8 | «Крестный отец ИИ» призвал запретить сверхмощные нейросети: Они могут уничтожить человечество | 0 | 12.71 | 08-09-2026 |
| 9 | Илон Маск дал полуторачасовое интервью главному редактору The Economist Занни ... | 0 | 6.05 | 24-07-2026 |