ИИ Claude выдал полиции пользователя, которая планировала устроить стрельбу

Система безопасности Anthropic обозначила сообщение как потенциальную угрозу, а после проверки человеком информацию передали правоохранительным органам. Женщине предъявили уголовное обвинение.