Похек AI

Harness² от Google Research: агент правит свою обвязку без эталонных ответов

Harness² (arXiv:2610.14224) не трогает веса модели и правит восемь компонентов harness вокруг нее, от системного промпта и guardrails до skills и плагинов.

Шаг Propose–Probe–Compose предлагает правки, прогоняет кандидатов на той же задаче и собирает итоговый harness из различий в поведении запусков. Эталонные ответы не нужны. Принятые правки и выводы копятся в постоянном harness улучшений для следующих задач. По статье один шаг дает GLM-5 и Gemini 3.5 Flash до +11,5 пункта на WorkBuddy-Bench, +4,5 на JobBench и +11,8 п.п. частичного прохождения на LAB.

➡️Что придумали. Два приема.
• Сравнивать варианты между собой, а не с эталоном (Propose–Probe–Compose). Агент предлагает несколько правок своей обвязки и запускает каждый вариант на той же задаче. Потом смотрит, чем поведение отличалось: где один вариант проверил данные, а другой нет, где один застрял, а другой дошел до конца. Из удачных отличий он собирает итоговую обвязку. По сути это A/B-тест, где судья оценивает разницу в поведении, а не правильность ответа.
• Запоминать уроки между задачами. После каждой задачи удачная обвязка и выводы, подтвержденные этими сравнениями, сохраняются в отдельную «память об улучшениях». На следующей, уже другой задаче агент правит себя быстрее и точнее. Так улучшения не пропадают после одной задачи, а накапливаются.

Насколько это помогает. Один такой цикл добавляет GLM-5 и Gemini 3.5 Flash до 4,5–12 пунктов на трех бенчмарках с профессиональными задачами: офисная работа, юридические задачи, задачи по вакансиям. Если циклов больше, прирост растет.

Microsoft подвела итоги полугода поиска уязвимостей с помощью ИИ

Нейросети уже неплохо находят баги в коде. Microsoft поделилась опытом того, что происходит дальше, и оказалось, что самое сложное начинается после находки.

В Microsoft работает лаборатория FORGE. Она занимается поиском уязвимостей с помощью ИИ-агентов. Руководит ей Тэсу Ким, профессор Georgia Tech, чья команда выиграла конкурс DARPA AI Cyber Challenge.

Что удалось сделать с мая по сентябрь 2026 года:
• 140 CVE в Windows, 52 из них закрыты в сентябрьском обновлении;
• 155 проверенных отчётов по 23 open-source проектам, включая Linux, curl, FFmpeg, Node.js, SQLite и llama.cpp;
• 93 отчёта мейнтейнеры уже подтвердили;
• один из отчётов стал первым патчем в ядре Linux, прошедшим через Akrites, инициативу Linux Foundation по согласованному раскрытию уязвимостей.

Авторы делают из этого три вывода.

Первый: больше находок не значит больше исправлений. Если отчёты поступают быстрее, чем их успевают проверить, просто растёт очередь. Поэтому важны дедупликация и автоматическая проверка. Например, отсев дублей по синтаксическому дереву кода убрал около 45% повторов.

Второй: экономить нужно не токены, а время на разбор. Короткий, но неясный отчёт дёшево сгенерировать и дорого проверить. Простые задачи лучше отдавать обычным инструментам или дешёвым моделям, а мощные модели подключать там, где действительно нужно рассуждение. Результаты проверок к тому же можно использовать для дообучения моделей.

Третий: проверка и исправление входят в сам процесс поиска. Даже отклонённый отчёт полезен, если зафиксировано, почему он не подтвердился. Эта информация помогает следующим запускам.

Отдельно приведены расходы. В ядре Linux агенты собрали доказательства по 627 находкам. На 182 подтверждённых случаях генерация PoC стоила в среднем $3.61 и занимала около 21 минуты. Проверка возможности повышения привилегий обходилась примерно в $8.56 и 25 минут. Авторы считают, что дальнейшее удешевление заметно расширит круг находок, которые экономически имеет смысл проверять.

Итоговая рекомендация простая: оценивать такие системы по числу исправленных уязвимостей, а не найденных, и учитывать время людей, которое уходит на разбор.

🔗Источник: Microsoft Security Blog, «3 lessons from frontier AI vulnerability research».

Если вдруг вы считаете себя сильным сесурити ресерчером, можете им заслать своё резюме))

$240 млрд
компании по всему миру планируют потратить на кибербезопасность в 2026 году. 

Это на 12% больше, чем годом ранее. И причина опять в развитии ИИ, который теперь помогает и взламывать системы, и защищать их.

Так кто быстрее — атакующие или защитники? Завтра в новом выпуске 2ТОК разбираемся вместе с теми, кто знает обе стороны кибербезопасности изнутри.

↗️ Сергей Зыбнев, белый хакер и автор канала «Похек», по заказу компаний взламывает их системы и показывает слабые места

↗️ Николай Исламов, руководитель управления безопасности приложений Т-Банка, защищает банковские сервисы и проверяет их на прочность с помощью ИИ.

Обсудили, как ИИ меняет баланс сил и что это значит для бизнеса и каждого из нас. Смотрите завтра на YouTube и ВКонтакте. 

↗️ red_mad_robot

Задачи делать надо, но Попус был высосан полностью

Но я ОЧЕНЬ поражён в хорошем смысле тем, как много лимитов сейчас даёт Anthropic. Я после отпуска буквально каждый день по 14 часов сам сидел, фул фокус вайбкодил + кучу раз оставлял задачи на ночь, и там типа Клод ещё по 8–11 часов работал подряд без остановок. Понятно, что кучу времени занимают долгие тесты, но всё равно. У OpenAI сижу на плане за 100$, но как будто можно перейти и на 20$, чтобы чисто подписку оставить. Тупо не успеваю расходовать. Я за сегодня вбухал 16%, включая Codex Security Deep Scan на GPT 6 Astra High. А остальные задачи у OpenAI делаются только в режиме Fast на моделях GPT 6.1 Sol & GPT 6 Astra, т.к. модели OpenAI стали очень медленными: у меня от 7 до 20 tps без FAST-режима. Anthropic на Opus 5.5 даёт минимум 30 tps на непрогретом кеше.

Недавно записывал подкаст с уважаемым мною человеком, и мы совместно пришли к мнению, что сейчас Opus в прайме (работает как в лучшие годы). А OpenAI стал не так привлекателен, но если у вас нет ни CVP, ни Daybreak Access, то, вероятно, OpenAI будет менее жёстким по блокировкам.

Вот мне буквально сегодня на 5 часов сняли Daybreak Access, а я хотел свой ИИ-пентестер проаппсечить. Codex Security, собственно, у меня тоже отобрали, т.к. он привязан к Daybreak Access. Я взял тот харнесс, что мне нравится под AI Appsec. Ставлю gpt-6.1-sol high и сразу получаю гардрейлом в лицо. Но в итоге, после того как я попромптил, модель спокойно отработала час и ни разу не триггернулась. Так что обойти safety-фильтры OpenAI для поиска 0day вайтбоксом точно можно. В блекбоксе тоже можно искать баги, но явно будет больше сработок, хотя из раза в раз простое убеждение или слово Continue/Продолжай помогает после 2–3 попыток. Сейчас, благо, вернули мне мой Daybreak Access)))

По z.aiже в тоот хотел сегодня поиспользовать и дать фидбек, но у них лёг коннект с их же IDE и вообще работа по API/coding plan. Я ни в opencode, ни в ZCode не смог обратиться к модели, хотя в вебе работает. Но в целом GLM 5.3 довольно хороша, а GLM 5.3 Flash — это вообще hidden gem, как по мне. По цене немного дороже DeepSeek v4.1 Flash и, естественно, медленнее (навскидку 40 tps vs 100+ tps у DS). Но есть лайфхак. Берёте подписку Z.AI Coding Plan за 18$/месяц и получаете фактически безлимитную glm-5.3-flash (*-flashX не удалось потестить, вроде как это та же модель, но гораздо быстрее). Я так много тестирую агентские сценарии за копейки, даже не считаю это.

Следующий мой инсайт за это время… узнаете в следующей серии))

У Клода на тир Red Team Access я пока не претендую, но, возможно, в будущем получится как-нибудь раздобыть))

Хотя и сейчас я встречаю гардрейл Anthropic, наверное, раз в 100 задач, что очень редко и не бесит

Удобная штука для отсеивания резетом Codex и обновлений. Есть также Алерты в телегу (на ваш риск и усмотрение, бот и сайт не мой) 
https://resetalerts.com/codex-28-day-challenge

Вторая LLM safeguard, перед основной моделью тоже ломается prompt injection. Это один из тезисов нового выпуска с Александром Кельчиным, CTO/CISO Medici Lab.

Схема «одна модель проверяет вход другой» упирается в две проблемы: обе модели рано или поздно галлюцинируют, и проверяющая читает тот же недоверенный текст, что и основная. Поэтому разбирали подходы, которые отделяют недоверенные данные от управления на уровне архитектуры: CaMeL и Dual LLM, плюс работу про внедрение CaMeL.

Что ещё в выпуске:
— свой SIEM с ИИ: события обрабатываются прямо на хостах агентом на 60 КБ, коллектор на двух ядрах CPU держал 150 хостов
— Qwen, дообученный под правила корреляции: модель получает около 200 токенов контекста, корректных ответов 96–97% (это внутренняя задача команды, не публичный бенчмарк)
— AI SOC: почему 60% правильно обработанных событий на L2 — плохой результат; рядом ExCyTIn-Bench про LLM-агентов в расследовании инцидентов
— поиск бэкдоров в весах моделей (DFBScanner) и LLM firewall против DLP
— кто размечает данные для ИИ

Тестовый разбора выпуска вы можете прочитать на Хабре (1 часть)

📺 YouTube | RuTube | VK Видео
🎧 Mave | Apple Podcasts | Яндекс Музыка — скоро

🌚 @poxek_ai / Чат канала / ❤️ shop.poxek.cc

#meme Gigachat

#meme

Долго пришлось ждать, но долгожданные мои первые 3 CVE зареганы в итоге))

— authentik 26к ⭐ —
CVE-2026-94611 = GHSA-m9h4-7j9c-55x9 CVSS 8.1
CVE-2026-94609 = GHSA-h6c5-mpvq-j4jc CVSS 8.8
CVE-2026-61574 = GHSA-rv9x-92g6-9cpf CVSS 8.8

p.s. Возник вопрос почему GHSA? Потому что сейчас из РФ очень проблемно работать CNA (центры регистрации CVE), а в Гитхаб я увидел френдли путь к своим первым CVE, в чем оказался прав

Есть ещё два крита в менее популярном ПО (DocsGPT 18к ⭐):
GHSA-q463-hvr7-49m3 CVSS 9.1
GHSA-46rm-v974-c7gw CVSS 9.8

Не помню какая из них, но одна из GHSA была завышена на мой взгляд оценка критичности. Но приняли как есть

Поздравления принимаются в комментариях))

AI is not second brain, when you don't use your main brain