Команда Threat Intelligence компании Anthropic опубликовала отчет по безопасности, в котором раскрыла схему использования модели Claude для мошенничества. Злоумышленники запустили более 20 фальшивых дейтинг-платформ, где боты имитировали реальных людей, чтобы выманивать деньги у пользователей.
Масштабы залива и структура схемы
Операция оказалась разветвленной. По данным расследования, сеть включала более 4 700 автоматизированных персонажей, которые общались с реальными юзерами.
За короткий промежуток времени боты сгенерировали около 2,36 миллиона сообщений.
Жертвами романтического скама стали более 25 000 человек по всему миру.
Чтобы максимизировать прибыль, организаторы сочетали искусственный интеллект с живыми операторами (гиг-воркерами), которые подключались на финальных этапах для убеждения пользователей купить платные пакеты сообщений или подписки.
Как работали защитные механизмы
Anthropic выявила эту сеть не через чтение приватных чатов, а благодаря поведенческому анализу. Алгоритмы безопасности зафиксировали подозрительные кластеры аккаунтов, совпадения по часовым поясам, использование одинаковых прокси-серверов, виртуальных карт и украденных API-ключей.
После обнаружения аномальных всплесков трафика компания заблокировала задействованные учетные записи и передала индикаторы компрометации партнерам по индустрии. Подобные кейсы показывают, как дейтинг-скам адаптирует генеративный ИИ для масштабирования черных вертикалей, заставляя антифрод-системы и рекламные сети жестче проверять офферы и источники трафика.