В США ИИ-бот написал донос на женщину, поделившуюся с ним планами нападения

В американском штате Флорида 30-летняя женщина оказалась под следствием после того, как рассказала чат-боту Claude о намерении открыть огонь в офисе шерифа. Об инциденте сообщает телеканал WINK Nеws.

По версии следствия, пользовательница общалась с искусственным интеллектом (ИИ) как с личным дневником. 26 сентября в переписке появилось сообщение о планах устроить стрельбу в офисе шерифа, а уже на следующий день женщина якобы написала о новом оружии.

Система безопасности платформы распознала сообщения как потенциальную угрозу. Переписку передали на дополнительную проверку специалистам, после чего сведения получили правоохранительные органы. Полицейские установили личность женщины и задержали ее дома. Ей предъявили обвинение в письменной угрозе насилием, рассмотрение дела продолжается.

Компания Anthropic, разработавшая Claude, предупреждает, что переписка пользователей может анализироваться системами безопасности. В экстренных обстоятельствах, связанных с угрозой неминуемой смерти или серьезного физического вреда, политика компании допускает раскрытие пользовательских данных правоохранительным органам.

Читайте также:

Путин прокомментировал идею создать нейросеть для учеников.

Нейросеть нашла в мозге признаки болезни точнее индекса массы тела.

Достоверные новости всегда под рукой — в канале МК в “MAX”.