Недавно я написал статью по мотивам материала Anthropic — того самого, где снова говорили, что «джуны больше не нужны».
Ребята учитывают одни детали, игнорируют другие и по сути сравнивают тёплое с мягким :) потому что основная проблема джунов — далеко не LLM-агенты, но подробнее в той статье.
Но к чему я это? Anthropic выпустили ещё один материал — уже про использование агентов в безопасности.
Меня зовут Эдгар Сипки, я основатель easyp & sipki tech и отбираю доклады на Golang Conf в программном комитете. А в своём тг-канале делюсь прикладными LLM-инструментами и подходами для разработки — подписывайтесь, дальше будет больше :)
Суть в следующем — LLM-агенты уже стали полноценным инструментом взлома. За год Anthropic заблокировали 832 аккаунта за злоупотребления, и доля действительно опасных акторов выросла с ~33% до ~56%. Опаснее становится не «вообще всё», а именно доля серьёзных игроков.
Одна история — то, как могут взломать вас, вашего агента, вашего помощника, например через промпт-инъекции в скиллах или через MCP.
Но есть вопрос поинтереснее :)
Ответ — да…
LLM-агентов подключают буквально на всех этапах сейчас, от написания кода вируса до поиска учёток в уже взломанных сетях.
Самый жёсткий кейс получил риск-балл 100 из 100: шпионская кампания, где агент сам вёл разведку, эксплуатировал уязвимости, ходил по сети и собирал данные.
В ноябре 2025 года Anthropic опубликовала отчёт о том, что они назвали «первой задокументированной AI-оркестрированной кибершпионской кампанией». Группировка GTG-1002.
Агент выполнял 80–90% всей операции самостоятельно: разведку, написание эксплойтов, перехват учётных данных, перемещение по сети и эксфильтрацию данных. Человек-оператор вмешивался лишь в 4–6 ключевых точках на всём протяжении кампании. Именно эта операция получила максимальный балл ARiES (AI Risk Enablement Score) — 100 из 100 :)
Но об этом подробнее в тг, а мы, пожалуй, вернёмся к сути пока статьи: как биться с будущими… ?
С одной стороны, есть инструменты для анализа ваших скиллов, MCP и так далее, такие как Bumblebee и Skill Spectre. Их задача — сделать так, чтобы ваше рабочее пространство и ваших агентов не взломали.
Но что делать, если вы пишете проект и можете не учитывать те или иные кейсы безопасности? И вот тут гораздо интереснее.
Mythos и его наследник fable хайпанули в первую очередь тем, что позволили найти огромное количество дыр в безопасности в крупных системах.
Но вот в чём факт: немалую часть этих уязвимостей нашли только потому, что был доступ к коду, так как проекты были OSS. Здесь маркетинг и пиар немного отыграли своё, будем честны :)
ТО ЕСТЬ!
Mythos особенно хорошо находит уязвимости именно тогда, когда ей доступен исходный код, а при анализе в изоляции или в black-box режиме результаты становятся кратно хуже. Разрыв: с доступом к исходнику количество ложноотрицательных результатов снижается на 55% по сравнению с анализом без него, но пока не расслабляем булки, дальше интереснее.
Одно из самых важных деталей: это всё было и до Mythos :) Видите ли, 70% атакующих инструментов — это OSS-модели, по Bi.Zone как раз недавно опубликовали анализ всей этой истории, и в итоге — 70% это open-source модели, дообученные или аблитерированные специально под генерацию вредоносного контента.
К чему это я — современные агенты, особенно опенсорсные, уже достигли достаточного развития, чтобы помогать искать уязвимости в системе (особенно если у вас открытый код, к которому можно его подключить).
Особенно с учётом того, что есть Heretic, который позволяет провести аблитерацию любой модели и заставить её выдавать практически любую запрещённую информацию, а также помогать в любых (абсолютно) задачах. В итоге планка входа для атакующего упала и продолжает падать.
Так в итоге, это лишний хайп Mythos или же реальность?
И хайп, и реальность — и нет, это не увиливание :)
Хайп — потому что и до Mythos этим активно занимались, просто ребята решили очень неплохо распиарить свой новый продукт.
Реальность — планка входа атакующих сильно упала и, скорее всего, будет дальше падать.
Так что вопрос не «правда ли агенты умеют ломать». Вопрос — что делать, чтобы ломали вас чуть поменьше :)
Безопасность кода — отдельный навык, и вайб-кодинг его по умолчанию не покрывает (особенно если ещё и вайбкодер пишет, а не программист). Агент пишет работающий код, а не безопасный — это разные критерии приёмки.
И речь даже не о том, что ваш продукт целенаправленно будет ломать Opus. Речь о том, чтобы код, написанный вечерком, сам не оставил дыру — как недавно в одном из стартапов, где вайб-код оставил открытый токен прямо во фронтенде :D
Но что делать, если доступа до Mythos нет? (или он крайне дорогой) — Security-скиллы. Ведь до начала хайпа Mythos многие как раз таки их и использовали, Anthropic просто красиво завернули всю эту историю. Ведь если OSS-модели уже помогают атакующей стороне, то поверьте — они хорошо помогают и нам, причём.
Причём один из самых популярных — скилл от разработчиков Sentry, и он проверяет код на типовые дыры: секреты в клиентском коде, инъекции, права доступа и многое другое.
Ну и про workspace не забываем: код мы проверили, а взломать могут и само рабочее пространство, через скиллы и MCP. Для этого — Bumblebee и Skill Spectre, про них было выше (и подробнее позже распишу в тг).
В прошлой статье я Anthropic критиковал — и не отказываюсь :)
Тут ребята тоже без пиара не обошлись: всё-таки Mythos завернули красиво — хотя и ломагенты, и security-скиллы прекрасно жили до них.
Но, будем объективны, планка входа для атакующего упала и будет падать ещё сильнее. Но, к счастью, нам тоже становится проще, ведь если агент может найти дырку в безопасности, помочь её залатать он тоже может неплохо :)
P.S. Дальше будет продолжение уже про Bumblebee и Skill Spectre в тг.