Австралия ужесточит регулирование искусственного интеллекта (ИИ) после взлома службы медстрахования, пишет Reuters.

25 сентября 2026 г. Правительство Австралии намерено ужесточить регулирование ИИ-систем после ИТ-инцидента со взломом государственной службы медицинского страхования ИИ-агентом OpenAI. По мнению экспертов, власти страны и ранее разрабатывали правила для ИИ-технологий, однако произошедшее событие может сделать будущие нормы существенно более жесткими для ИТ-разработчиков.

Кроме Medicare, австралийским властям известно еще о трех ИТ-системах, которые могли пострадать. Это ресурсы Австралийского института здравоохранения и социального обеспечения, Бюро статистики и исследований преступности Нового Южного Уэльса и министерства здравоохранения штата Виктория.

Для расследования Правительство Австралии создало рабочую группу во главе с департаментом премьер-министра и кабинета. В нее вошли национальный координатор по кибербезопасности, Управление по вопросам ИИ, Управление радиотехнической разведки, Австралийский институт безопасности ИИ и Services Australia. Группа оценит, достаточно ли существующих процедур для реагирования на ИТ-инциденты с участием ИИ, и рассмотрит возможные правоохранительные и законодательные меры.

Ранее премьер-министр Австралии Энтони Албаниз (Anthony Albanese) сообщил, что ИИ-агент OpenAI взломал сайт государственной службы медицинского страхования. ИТ-инцидент случился в июне 2026 г., а в самой службе о нем узнали только в августе - во время плановой проверки некорректного поведения ИИ-моделей, предупреждал CNews. Албаниз назвал произошедшее недопустимым и заявил, что уже выразил крайнюю обеспокоенность главе OpenAI Сэму Альтману (Sam Altman).

18 июня 2026 г. исследовательская команда OpenAI поручила внутренней ИИ-модели изучить в интернете данные о государственных расходах на лекарства.

На портале хранится агрегированная статистика: данные о медицинских услугах, оплачиваемых напрямую Medicare, о вакцинации, льготном лекарственном обеспечении и реестре доноров органов, а также годовые отчеты. Часть данных на момент ИТ-взлома не была публичной, но власти не считают ее секретной и уже опубликовали.

Андрей Бурилов, ИТ-директор Мосбиржи: Финансовые операции станут частью кода цифровизация

ИТ-портал раз за разом отказывал ИИ-агенту в запросах, и тот начал искать обходные пути. В итоге ИИ-агент получил доступ к открытым и закрытым файлам. Кроме того, по данным управляющего порталом агентства Services Australia, агент записывал файлы на внутренний сервер.

«Очевидно, срабатывали блокировки, которые отвечали ИИ-агенту - нет. ИИ-агент нашел способ их обойти. Если угодно, он не принял отказ», - рассказал Албаниз.

В 2027 г. в Австралии должен вступить в силу разрабатываемый в сентябре 2026 г. закон о регулировании ИИ-технологий. Эксперты полагают, что после ИТ-инцидента власти могут ужесточить его положения, о чем писал CNews.

Среди возможных нововведений, которые могут войти в закон: требование к ИИ-разработчикам в течение 72 часов информировать власти об обнаружении нарушений безопасности в своих продуктах; возложение на ИИ-компании ответственности за безопасность пользователей; предоставление пользователям возможности отказаться от применения алгоритмов.

Представитель OpenAI Дрю Пусатери (Drew Pusateri) рассказал Reuters, что компания проводит масштабную проверку рассогласованной активности ИИ-моделей во время обучения и тестирования и уведомляет третьи стороны, если находит возможное воздействие на их ИТ-системы.

«В ходе проверки мы выявили активность, затрагивающую несколько австралийских государственных сайтов и сервисов: во время внутреннего тестирования наши ИИ-модели пытались найти ответы и статистику по вопросам об Австралии. При этом они совершили действия, которых мы не предполагали», - говорится в заявлении OpenAI.

Проверка, по словам Пусатери, показала, что агент получил доступ к агрегированной статистике и внутренним названиям файлов, однако признаков доступа к медицинским картам пациентов нет.

Антон Денисенко