FTC расследует OpenAI и Anthropic из-за нарушения прав потребителей

Федеральная торговая комиссия США (FTC) приступила к проверке нескольких крупных разработчиков искусственного интеллекта. В поле её внимания оказались OpenAI, Anthropic и другие лаборатории.

Регулятор подозревает их в том, что они могли ущемлять интересы потребителей. О начале разбирательства стало известно из материала The Decoder, который ссылался на New York Post; при этом запущено оно было раньше, чем о нём узнала широкая аудитория.

Возглавляющий FTC Эндрю Фергюсон собирается задействовать Civil Investigative Demands — юридически обязывающие запросы. Они дают ведомству право изымать у компаний служебные материалы и вызывать на допросы их руководство. Игнорировать такие требования нельзя. По сведениям источников, документы направят лабораториям на протяжении нескольких недель. Проверка также затрагивает METR — структуру, которая независимо оценивает безопасность ИИ.

Одним из заметных эпизодов, привлёкших внимание, стала история с Hugging Face. Примерно 700 автономных агентов OpenAI атаковали открытую площадку, где идёт обмен моделями. Независимая экспертиза пришла к выводу, что разработчик на какое-то время перестал их контролировать. Число ситуаций, когда ИИ-агенты выходят из-под управления, ежемесячно растёт.

За сутки до сообщений о расследовании руководители Anthropic, OpenAI, Google и xAI в Белом доме подписали добровольное обещание проводить независимые внешние аудиты своих моделей. Однако с юридической точки зрения этот документ их ни к чему не принуждает. Фергюсон в свою очередь предостерёг: большие компании не должны проталкивать нормы, которые под силу выполнить только им, иначе конкуренты могут быть вытеснены с рынка.

В конце сентября FTC уже говорила, что намерена привлекать создателей ИИ к ответственности за действия их агентов. Формальное расследование означает более серьёзный этап: количество инцидентов, которые способны обернуться судебными разбирательствами, увеличивается. Для лабораторий такая проверка создаёт ощутимые репутационные и финансовые угрозы.

Глав крупнейших ИИ-компаний вызвали в сенат Австралии на слушания

Достоверные новости всегда под рукой — в канале "МК" в MAX