Пользователи применяли Claude для слежки и кибератак

В сентябре компания Anthropic опубликовала отчет о случаях злоупотребления Claude, которые удалось выявить с декабря 2025 по август 2026 года. Под подозрение попали пользователи из России, Йемена, Китая и других стран. Ряд аккаунтов был заблокирован.

Например, в одном из кейсов русскоязычный пользователь использовал модель для разведки, разработки вредоносных инструментов и обработки украденных данных. Объектами атак стали больше 20 организаций Европы и Ближнего Востока: военные и разведывательные структуры, государственные ведомства, дипломатические представительства и оборонные компании. Если защитные системы обнаруживали вредоносную программу, ИИ помогал переписать ее и снова развернуть.

В другом случае российские пользователи, которых авторы отчета обозначили как группу фрилансеров, с помощью Claude писали и тестировали программное обеспечение автономных FPV-дронов-камикадзе. Система могла самостоятельно выбирать цель и принимать решения без участия человека. Также Antropic обнаружил несколько аккаунтов, связанных с российским информагентством Sputnik: с помощью Claude создавались посты для соцсетей и новостные заметки. 

Еще один кейс связан с ячейкой из Йемена, которая вела сразу три программы по разработке вооружений: управляемую ракету с системой наведения, многоступенчатую баллистическую ракету дальностью свыше 2000 км и линейку изделий с гиперзвуковым вариантом. С помощью Claude создавали программное обеспечение для управления и навигации. После неудачного тестового пуска одного из образцов разработчики снова обратились к Claude, чтобы разобраться в причинах сбоя. Anthropic отмечает, что не нашла свидетельств того, что разработчикам удалось создать боеспособное оружие.

Несколько кейсов в отчете связаны с Китаем. ИИ-агент для разведывательного ведомства собирал досье о религиозных группах: о тибетских буддистах, католических кардиналах, тайваньских протестантских лидерах. В него входили личные данные, аккаунты и публикации в социальных сетях конкретных персон. Задачей агента было отслеживать их деятельность и высказывания, связанные с Китаем.

Другой случай — сеть из более чем 20 приложений для знакомств китайской студии, пользователи которой переписывались с ИИ-персонажами. За две недели от их имени Claude отправил около 2,36 млн сообщений. Операторы нанимали реальных людей, которые подписывались на пользователей в социальных сетях и созванивались с ними. Получилась конвейерная система: Claude вел тысячи романтических переписок, а люди доказывали пользователям, что по другую сторону экрана находится человек.

В отчет попала и китайская нейросеть DeepSeek. Anthropic обнаружил несколько случаев, когда DeepSeek перенаправлял запросы своих пользователей к Claude без их ведома. За 14 дней было зафиксировано более 12,1 млн таких обменов. Среди них оказались внутренние документы китайской технологической компании, информация из российской правительственной базы данных и китайской системы распознавания лиц.

Почему это важно?

ИИ-инструменты достаточно развиты для того, чтобы причинять вред, и далеко не всегда его можно вовремя пресечь. Отчет показывает, что разработчики LLM — в данном случае это Anthropic — не только сами отслеживают и останавливают случаи ее неправомерного использования, но и решают, что  допустимо, а что нет. Компании видят переписку пользователей, и определяют, было ли нарушение и стоит ли его обнародовать. Поскольку внешнего наблюдателя у этого процесса нет, о случаях злоупотребления мы узнаем только в том объёме, который компания сама решает раскрыть.