Claude шпионит за каждым вашим диалогом, и вы этого не видите

Anthropic рассказала, что Claude после каждого своего ответа получает короткую скрытую инструкцию: оценить, насколько безопасен только что прошедший разговор. Пользователь этого не видит. Модель выдаёт компактный отчёт: есть ли в беседе потенциально вредный запрос, к какой категории он относится, отказала ли она, какой приоритет у проверки человеком и одна фраза с объяснением.

Компания называет это самооценкой. Работает она с июня, стоит во всех моделях начиная с Claude Fable 5 и покрывает значительную часть мирового трафика. Публично Anthropic объявила о ней только сейчас, вместе с запуском отдельного блога о защитных механизмах.

Цифры такие. На Fable 5 самооценка ловит 78% разговоров, которые более мощный и дорогой классификатор помечает как потенциально вредные, и 94% случаев с высоким приоритетом. Ложных срабатываний на безопасных беседах около 1%. Поскольку разговор уже лежит в памяти модели, проверка добавляет в среднем около десятка токенов и меньше 2% к вычислениям.

Самый наглядный пример компания привела сама: в сентябре самооценка вывела на операцию, где через Claude Code собрали и запустили автоматическую романтическую аферу против десятков жертв. После проверки людьми аккаунты забанили.

Запросы система сама не блокирует, она только помечает разговоры для разбора. В эксперименте Anthropic проверила, что будет, если поставить её на блокировку: доля успешных атак на набор из 24 хакерских задач упала лишь с 79% до 54%, тогда как полноценный классификатор опускал её до 25%. То есть как сторож она слабая, зато как широкая сеть дешёвая. Новых данных о пользователях, по словам компании, не собирается: проверка идёт только по тому трафику, который Anthropic и так может хранить по своим правилам.

Отдельная деталь: оценивает разговор та же модель, которая его вела. Чем умнее Claude, тем точнее он судит сам себя.

Итог простой: каждый ваш диалог с Claude уже кто-то читает, и этот кто-то сам Claude.