ИИ-агенты вскрыли Anthropic меньше чем за 12 часов
Стартап бывших сотрудников DOGE через сторонний корпоративный софт добрался до Slack, стенограмм и зарплат в Anthropic. Компания доступ подтвердила, но говорит, что Claude, код и веса моделей не пострадали.
Стартап Cathedral, которому всего несколько месяцев, рассказал, что его ИИ-агенты нашли путь во внутренние системы Anthropic меньше чем за 12 часов. Об этом первой написала The Washington Post со ссылкой на черновик отчёта самой Cathedral.
Самое интересное в том, как именно. Claude и код Anthropic агенты не пробили: по словам Anthropic, которые приводит Fast Company, несколько дней попыток взломать собственный софт компании ничего не дали. Тогда они переключились на сторонние программы для продаж и администрирования, то есть на обычный корпоративный софт, которым пользуются и многие другие компании. Через него, по словам Cathedral, удалось добраться до стенограмм совещаний, данных о зарплатах и офферах, а ещё до сообщений в Slack, где сотрудники обсуждали передовые модели.
Anthropic факт доступа подтвердила, но картину рисует скромнее. По её словам, исследователи зашли в ограниченный набор систем продаж, HR и IT, где лежали контакты корпоративных клиентов и партнёров и базовые данные учётных записей. Переписки пользователей с Claude, исходный код и веса моделей никто не видел. Мониторинг компании сам заметил часть активности ещё до того, как Cathedral о ней сообщила, доступ отрубили в тот же день, а уязвимые программы отключили, пока поставщики не выпустили исправления. Названия этих поставщиков не раскрываются.
Формально это была не атака, а проверка через программу, похожую на bug bounty, где компания платит внешним специалистам за найденные дыры. Но стороны уже спорят: Anthropic считает, что Cathedral раздула угрозу для национальной безопасности и нарушила правила программы, потому что раскрыла не всю свою активность. Cathedral отвечает, что брала данных ровно столько, сколько требует ответственное исследование.
Пикантности добавляет состав команды. Cathedral основали четверо бывших сотрудников DOGE, ведомства Илона Маска по сокращению госрасходов в администрации Трампа. В июле стартап привлёк 160 миллионов долларов при оценке в 1,4 миллиарда, среди инвесторов Andreessen Horowitz и Sequoia. Высокопоставленный чиновник администрации на условиях анонимности сказал Post, что отчёт уже ходит по правительству: если такое смогли «ребята, которые только что открыли компанию», то и китайские хакеры, вероятно, недалеко.
Итог простой. Одну из главных ИИ-лабораторий мира вскрыли не через нейросеть, а через скучную CRM, и сделали это тоже ИИ-агенты.