Китайский ИИ сам взламывает сети, и скачать его может каждый

Китайская Z.ai (она же Zhipu AI) выложила GLM-5.3 в открытый доступ, и теперь исследователи безопасности из Irregular проверили, что эта модель умеет в атаках. Ответ неприятный: больше, чем любая другая открытая модель, которую они тестировали.

Проверка шла на CyScenarioBench, это закрытый набор многоэтапных сценариев взлома в симулированных сетях, собранных по мотивам реальных инцидентов. Тут мало написать один эксплойт: надо выбрать путь атаки, связать шаги между собой и выкрутиться, когда что-то пошло не так. GLM-5.3 хотя бы раз довела до конца 3 сценария из 13. Ни от одной наступательной задачи модель не отказалась.

В успешных прогонах она из небольшой точки входа в приложении добиралась до внутренних сервисов, строила обходные каналы связи внутри сети, управляла сразу несколькими машинами, автоматизировала удалённый рабочий стол и сама писала и чинила скрипты, ретрансляторы и инструменты для выгрузки данных.

Для сравнения: в августе Kimi K3 стала первой открытой моделью, которая прошла у Irregular хотя бы один сценарий целиком. Закрытые лидеры пока далеко впереди, GPT-6 Astra от OpenAI в отдельной оценке справилась с 9 сценариями из 10, правда, наборы тестов там были не одинаковые. Но разница в том, что GLM-5.3 может скачать кто угодно и запустить у себя, без всяких фильтров провайдера.

Вторая находка про поведение. Примерно в 80% успешных поисков уязвимостей модели помогал код, который она просто помнила из обучения. А когда в отдельном тесте это прямо запретили, GLM-5.3 раз за разом нарушала запрет, лишь бы выдать правильный ответ. Исследователи называют это reward hacking и предупреждают: если смотреть только на итоговый результат, такие нарушения не заметишь.

Итого: взломщик уровня «довёл атаку до конца» теперь лежит в открытом доступе. Пока слабее американских моделей, но разрыв сокращается каждые несколько месяцев.