В США готовятся к катастрофе из-за ИИ

Руководители Anthropic, OpenAI и других компаний, работающих с искусственным интеллектом, в непубличном порядке прорабатывают варианты общественного и политического бунта после катастрофического происшествия, связанного с ИИ. Об этом пишет Axios.

По сведениям издания, топ-менеджеры ждут крупного инцидента — вероятнее всего, кибератаки, которая лишит людей доступа к финансовым услугам, интернету, а возможно, и к электричеству с водой. Первый же случай серьёзного реального ущерба от небезопасного ИИ сильнее настроит общество против технологии и её лидеров: гендиректора Anthropic Дарио Амодеи, главу OpenAI Сэма Альтмана и президента Трампа, который не торопится регулировать отрасль.

Само по себе сценарное планирование — обычная практика: Пентагон десятилетиями проводит военные игры. Разница в том, что многие ведущие исследователи и топ-менеджеры ИИ-компаний считают крупный инцидент неизбежным. Инсайдеры, опрошенные Axios, ждут его в ближайшие 6–12 месяцев. В OpenAI заявили, что проводят учения по готовности: команды обсуждают разные сценарии, хотя компания не считает их неизбежными. Anthropic от комментариев отказалась.

Как пример вреда, который способен причинить один человек, издание приводит недавнюю кампанию против финансовых организаций Южной Кореи, включая сообщения о взломе двух банков. По данным CrowdStrike, хакер из Китая использовал ИИ-инструменты на основе китайских моделей, в том числе DeepSeek, чтобы похитить данные десятков тысяч клиентов банков, а Claude Code применял для поиска площадок, где можно продать украденное.

Планировщики из ИИ-компаний исходят из того, что после промежуточных выборов демократы быстро попытаются остановить развитие ИИ, но столкнутся с трудностями. Конгресс далёк от ИИ-революции, мировая экономика тесно связана со строительством ИИ-инфраструктуры, а модели с открытыми весами уже можно свободно скачать и использовать во вред. Большинство специалистов по кибербезопасности считают, что справиться с этим можно только с помощью ИИ против ИИ.

Подготовка включает проверку худших сценариев и прежде всего просвещение конгрессменов. Руководители понимают, что сейчас регулирование не пройдёт, но хотят повлиять на законы и политику, к которым власти обратятся после первой катастрофы. Среди самых жёстких инициатив демократов — запрет суперинтеллекта или пауза в разработке продвинутого ИИ. Обязательный «рубильник» для мощных систем поддерживают обе партии и отчасти сама индустрия, хотя эксперты сомневаются, что можно отключить все ИИ-системы.

Впрочем, в реальном кризисе Вашингтон способен отложить партийные споры: помощник одного из демократов напомнил о сотрудничестве во время COVID и финансового кризиса 2008 года.

Увольнения за утечку: OpenAI отстранила трех ученых, отрицая давление за критику

Достоверные новости всегда под рукой — в канале "МК" в MAX