Американский искусственный интеллект Claude сдал пользователя полиции после того, как жительница Флориды написала в чат-боте о планах устроить стрельбу.
Женщина использовала нейросети в качестве личного дневника, откровенно обсуждая с ботом свои мысли. Однако во время переписки алгоритмы безопасности зафиксировали угрозу реального насилия. Пользовательница оставила сообщение о намерении купить оружие и атаковать офис шерифа.
Как нейросеть заблокировала угрозу
Системы безопасности компании Anthropic мгновенно среагировали на опасный контент. Вся текстовая история анализируется на предмет потенциальных угроз жизни.
- Анализ данных: переписка была автоматически передана разработчикам компании Anthropic.
- Реакция правоохранителей: полученные от компании материалы незамедлительно перенаправили в полицию.
- Уголовное преследование: властям потребовалось минимум времени для установления личности и задержания подозреваемой.
Правовые последствия для любителей откровенничать с ИИ
После вмешательства разработчиков и правоохранительных органов девушку арестовали. Ей официально предъявили обвинение в письменной угрозе насилием. Согласно местному законодательству, такое правонарушение квалифицируется как преступление второй степени тяжести.
Когда общаешься в формате беседы, не сразу чувствуешь, что все записывается и анализируется алгоритмами безопасности,
Подобные технологические прецеденты заставляют пользователей по-новому взглянуть на безопасность персональных данных. Облачные чат-боты не гарантируют конфиденциальность, если речь заходит о нарушении законов и угрозах общественной безопасности.
Источники информации: Telegram-канал GPT News.