Мир Инженерного ИИ (Industrial AI)

ТехноДень МФТИ: агентный ИИ для полного инновационного цикла

29 октября побывал на ИИ ТехноДне МФТИ. МФТИ и его Институт искусственного интеллекта, созданный два года назад, — серьёзный игрок в инженерном и индустриальном ИИ. Их текущие и будущие разработки будут формировать ландшафт ИИ-технологий и продуктов для российской промышленности.

Industrial Brain. Интересно было познакомиться с концепцией «промышленного мозга», которую представил научный директор института Юрий Визильтер. Коллеги показали достойное уважения видение развития агентного ИИ для задач полного инновационного цикла и решения разных задач инженерного ИИ. Ядро из моделей ИИ, агентов, мультиагентных систем и цифровых двойников охватывает четыре контура предприятия: производство, управление, ИТ-инфраструктуру и внешнюю среду. Всё работает внутри периметра предприятия. Ориентиры по срокам амбициозные:

▪️ НИР — с 12–18 месяцев до 1–2;
▪️ ОКР — с 6–12 месяцев до 3–6;
▪️ опытная эксплуатация — вдвое короче.

Важный принцип: ИИ-модули не заменяют САПР, PLM и ERP, а берут из них данные и возвращают результат в рабочий процесс. Ценность создаёт не отдельный модуль, а их совместная работа в едином цифровом контуре.

Как довести науку до рынка. Ректор МФТИ Дмитрий Ливанов и директор института Азамат Жилоков показали зрелое понимание того, как в России выводить на рынок высокие технологии. Университет доводит разработку до прототипа, а продукты создают и продают портфельные компании, часто вместе с лидерами отраслей. Работа с заводом начинается не с «красивых технологий», а с анализа его процессов: где ИИ действительно даёт эффект.

Спасибо организаторам: насыщенная программа, сильный состав спикеров от учёных до промышленных заказчиков и большая выставка.

#События

Как отличить агента от ассистента: критерии и уровни зрелости

8 октября я обещал разобрать, как проверить, агента ли вам продают. Инструментов два, оба из отчёта «Яков и Партнёры» «ИИ-агенты: где хайп, а где реальность» (2026).

Шесть критериев (первая картинка) оценивают сам продукт: умеет ли он планировать, работать с вашими системами, исправлять ошибки и доводить задачу до конца. 5–6 «да» — полноценный агент, 0–1 — ассистент.

Уровни L1–L5 (вторая картинка) показывают, какую часть работы система на деле берёт на себя в вашем процессе:
L1 — отвечает на отдельный запрос, ничего не помнит и ни к чему не подключена;
L2 — ассистент в чате: помнит разговор, но каждый шаг задаёт сотрудник;
L3 — сам ищет данные и делает отдельные шаги, но процесс ведёт и проверяет сотрудник;
L4 — агент: получает задачу и сам доводит её до результата, человек ставит цель и принимает итог;
L5 — несколько агентов делят работу под управлением оркестратора.

Продукт и внедрение — разные вещи. Даже продукт с шестью «да» у вас может работать на L2–L3, если его не настроили на самостоятельную работу или не дали нужных прав.

Что на рынке. В мире полноценными агентами оказались 7 из 18 ведущих продуктов. В России среди 12 публичных рыночных продуктов готовых агентов нет: четыре лучших — платформы, на которых агента собирает сам клиент. Из 22 российских внедрений уровня L4 достигли четыре — в Т-Банке, Сбере, Альфа-Банке и «Северстали». Все четыре — внутренние разработки, не рыночные продукты.

Как применить. Покупая ИИ-решение, легко ошибиться в обе стороны. Можно заплатить за агента, который сам доводит задачу до результата, а получить ассистента, которым сотрудник управляет шаг за шагом. А можно строить дорогую агентную систему там, где хватило бы ассистента. Поэтому до пилота зафиксируйте два уровня: какой заявляет поставщик и какой на самом деле нужен вашему процессу.

На каком уровне ИИ работает у вас?

#Методология

Безопасность ИИ-агентов: одной «стеной» не защититься

Сюжет этого года. В тестах на кибербезопасность у крупнейших разработчиков ИИ модели из-за ошибки в настройке стенда получили выход в интернет — и взломали реальные системы нескольких сторонних компаний, приняв их за часть учений. Злого умысла не было: агент просто выполнял задачу. Подвели изоляция среды и слишком широкие полномочия.

Главный вывод доклада профессора Тюкина (Сколтех) на конференции «Цифровой контур эффективности»: безопасность ИИ невозможно обеспечить одним инструментом или методом — особенно в решениях enterprise-уровня. Нужна эшелонированная оборона.

Почему одной защиты мало. Гарантий безопасности самой модели не существует — и это следует из математических результатов, а не из пессимизма:
▪️ В эксперименте с популярной моделью распознавания изображений 94% картинок уязвимы для специально подобранного незаметного искажения — и лишь 2,5% для случайного шума, в десять раз более сильного. Обычное тестирование такую уязвимость просто не находит.
▪️ 250 «отравленных» документов в обучающих данных достаточно, чтобы встроить закладку в модель любого размера — от 600 млн до 13 млрд параметров.
Значит, проверять нужно не модель, а контур вокруг неё.

Восемь рубежей. Профессор Тюкин выстраивает вокруг ИИ-решения восемь слоёв защиты — от внешнего к внутреннему: происхождение данных, подпись и аудит весов, изоляция контура, верифицируемые модули, ограничение агентов, гардрейлы и мониторинг, ревью и откат, человек в контуре. Каждый рубеж останавливает свой класс атак: отравление обучающих данных — на первом, подмену весов — на втором, заражённые библиотеки вроде LiteLLM — на изоляции, prompt injection — на ограничении агентов. А агента, который пытается удалить рабочую базу, останавливают лишь самые внутренние рубежи — ревью, откат и человек.

Сам по себе суверенный контур даёт проверяемость: известное происхождение данных и весов, подпись моделей, контролируемые обновления, отсутствие утечки информации внешнему разработчику. Но не защищает от вредоносной инструкции в данных, которые агент читает сам, от инсайдера и от наследования поведения базовой модели — для этого нужны внутренние рубежи. Профессор Тюкин также предлагает сделать нормой «паспорт модели» с открытой декларацией, на чём она построена.

В мире. OWASP выпустил Top 10 рисков для агентных систем: перехват цели агента, злоупотребление инструментами и правами, отравление памяти, каскадные сбои. Главный принцип — least agency: у агента ровно столько автономии и доступа, сколько нужно для задачи.

В России. С 1 марта действует Приказ ФСТЭК № 117: для ГИС — запрет передачи защищаемой информации разработчику модели и контроль запросов и ответов. С 1 сентября вступил в силу закон 243-ФЗ о суверенных моделях. В сентябре ФСТЭК запросила у рынка предложения по модели угроз с учётом агентов, RAG и цепочки поставки моделей. Измеримых порогов «доверенного ИИ» и сертифицированных средств защиты LLM пока нет — ближайший год требования закрываются архитектурой, а не «коробкой».

Как это решаем мы. Эти принципы заложены в политику AI Security мультиагентной платформы Центра ИИ Сколтеха для промышленных предприятий. Безопасность проектируется как отдельный архитектурный слой платформы (security by design), а не надстройка поверх готовой системы. В нём реализуются и развиваются разграничение прав агентов по принципу минимальных привилегий, мониторинг и журналирование действий агентов, подтверждение критичных операций человеком. Набор инструментов слоя пополняется по мере появления новых требований регуляторов и классов атак.

Вопросы к вам — особенно к тем, кто отвечает за ИБ и ИТ на производстве:
— Где у вас проходит граница: какие данные можно отдавать ИИ-агенту, а какие — никогда?
— Кто в компании отвечает за безопасность ИИ: ИБ, ИТ или пока никто?
— Сколько из восьми рубежей у вас уже есть?

#Разбор

Техническое предложение за 40 минут вместо 16 часов

Как выглядит ИИ в операционном контуре реального производителя? Павел Блохин, генеральный директор екатеринбургской компании «Реиннольц» (теплообменное оборудование и водоподготовка, 80+ сотрудников), показал это на конференции «Цифровой контур эффективности». ИИ здесь — ежедневный инструмент для 10–15 специалистов.

Результаты — в минутах и рублях:
▪️ техническое предложение на инжиниринг: 16–18 часов → 35–50 минут после создания «книги знаний» компании;
▪️ моделирование по РКД в КОМПАС: 43 → 9 минут; «навык» для агента создали за 36 минут, и он окупился с первого запуска;
▪️ перевод технической документации: 500 ₽ за страницу у переводчика → 1,7 ₽;
▪️ запросы руководителей в 1С: 2,5 минуты → 23 секунды, экономия их времени — 20–30%;
▪️ пакет для рейтингового агентства: вдвое меньше времени и людей.

Важная оговорка. «Реиннольц» работает на публичных облачных моделях. Для крупного и верхнего среднего бизнеса, тем более в промышленных масштабах, такой подход чаще всего неприменим: там нужен закрытый контур.

Но в этом кейсе ценны две вещи:
1. Осознанный риск. Компания понимает, какие данные отдаёт, и сама решает, где эта граница.
2. Смелость экспериментировать. Пока другие ждут «идеального» решения, команда уже научилась упаковывать знания для агентов — книги знаний, навыки, рецепты. Этот опыт переносится и на модели в закрытом контуре.

И главный урок: эффект нужно считать. Учёт задач, времени и стоимости — до масштабирования.

Вопросы к вам:
— Готовы ли вы отдавать данные компании в публичные модели ради скорости? Какие — да, а какие — никогда?
— Что разумнее для старта: эксперимент в облаке или сразу закрытый контур?

В четверг — о важных вопросах безопасности ИИ-агентов и моделей, особенно для промышленных компаний, и о суверенном контуре.

#Кейс

Конференция состоялась!

14 октября в Екатеринбурге прошёл «Цифровой контур эффективности». Для меня это кульминация двух месяцев подготовки.

Концепцию мероприятия мы разработали вместе с Олегом Мошкаревым, заместителем генерального директора КРСУ и председателем Комиссии Уральской ТПП по цифровой трансформации и технологиям ИИ в промышленности, и Даниилом Мазуровским, вице-президентом Уральской ТПП. Реализовать её помогли наши замечательные спикеры — при активной поддержке правительства Свердловской области, УТПП и Корпорации развития Среднего Урала.

Задача была амбициозная: понятно и на прикладном уровне показать руководителям промышленных предприятий и бизнес-пользователям, что на самом деле умеют ИИ-агенты, мультиагентные системы и инженерный ИИ — и как с их помощью трансформировать бизнес промышленного кластера Урала. По отзывам участников, это удалось.

Один из отзывов организаторам:
«Коллеги! Спасибо за прекрасную организацию и отличную повестку мероприятия, приглашённых спикеров! Просто одна из лучших и злободневных конференций хорошего федерального уровня».

В цифрах:
▪️ более 170 зарегистрировавшихся участников;
▪️ 11 докладов, три блока и панельная сессия;
▪️ суммарный охват внешних публикаций — более 4,5 млн человек.

Ключевые публикации: правительство Свердловской области (https://midural.ru/news/list/document321699) и КРСУ (https://krsu-ural.ru/tpost/bjz59846p1-peredovie-vozmozhnosti-ii-dlya-tsifrovoi).

Спасибо спикерам, организаторам и всем, кто пришёл и задавал острые вопросы!

Программа конференции — в следующем сообщении.
Дальше здесь будут разборы докладов и новые фото.
#События

Завтра — «Цифровой контур эффективности» в Екатеринбурге

14 октября в «Точке кипения» 11 докладов и панельная сессия о том, как ИИ-пилоты превращаются в измеримый результат. Говорят разработчики, интеграторы и заказчики.

Блок 1. От пилота к эффекту

Как отличить агента от ассистента, почему пилоты не окупаются, кейс заказчика — «Реиннольц» о применении ИИ-агентов в инжиниринге, продажах и инвестициях, мультиагентное генеративное проектирование.

Блок 2. Управляемость

Интеграция агентов с ERP, MES, PLM и САПР («Первый Бит»), агент как сотрудник с правами доступа («Нейро-Эксперт»), суверенный контур и безопасность ИИ (Сколтех).

Блок 3. Инженерный ИИ

Автоматическая проверка чертежей по нормативам, реверс-инжиниринг детали от скана до оптимизированной формы, ИИ во внутреннем контуре для архива КД («Нексус»), оценка фрагментации горной породы после взрыва (УрФУ).

В финале — панель с правительством Свердловской области, УрФУ, Корпорацией развития Среднего Урала, заказчиком и разработчиками: кто закрывает разрыв между пилотами и ростом производительности.

📍 Точка кипения — Екатеринбург, ул. Бориса Ельцина, 3
🗓 14 октября, сбор с 9:30, начало в 10:00

Ниже — короткий опрос. Результаты покажу спикерам на конференции.
#События

Нормоконтроль: проверка, которая держится на памяти человека

В 2025 году 13,6% заключений госэкспертизы по объектам капстроительства оказались отрицательными — против 5,1% годом ранее (данные Главгосэкспертизы). Ошибка в документации, пропущенная на проверке, всплывает позже — на экспертизе, на стройке или в цехе. И стоит там в разы дороже.

Почему так происходит: требований — сотни, они разбросаны по десяткам документов и регулярно меняются. Результат нормоконтроля зависит от опыта и внимательности конкретного специалиста.

Как эту задачу решают в Центре ИИ Сколтеха на примере объектов нефтегазового месторождения:

▪️ Нормативный документ загружается как есть. ИИ выделяет из текста требования и складывает их в графовую базу, где каждое требование связано с пунктом документа и с объектом. Например: «расстояние между дренажной ёмкостью и замерной установкой — не менее 9 м».

▪️ Если новый норматив противоречит уже загруженному, система показывает оба требования. Решает инженер.

▪️ Чертёж проверяется по этой базе: система находит на нём объекты и сверяет расстояния и параметры. Нарушение выделяется прямо на чертеже — например, 5,3 м вместо 9 — со ссылкой на пункт свода правил.

Что получилось на выборке из 350 чертежей: 90% правильных ответов при цели 85%, ложных замечаний — 24% при допустимых 25%. Проверка одного чертежа занимает около 5 минут. Повторная проверка даёт тот же результат.

Главное: система не заменяет нормоконтролёра. Она снимает рутину, а решение остаётся за человеком.

Следующий шаг — проверка цифровых информационных моделей. Подробно о решении 14 октября в Екатеринбурге расскажет Дмитрий Евсеев, старший инженер-исследователь Центра ИИ Сколтеха.

А сколько времени занимает нормоконтроль одного комплекта у вас?
#БольИРешение

Агент или ассистент: что вам продают

34% российских поставщиков ИИ называют свой продукт помощником или агентом — это самая большая категория на рынке. А хорошо понимают, что такое агент, лишь 11% людей вне отрасли. Продающих агентов намного больше, чем тех, кто может их отличить.

Ещё жёстче итог проверки рынка в отчёте «Яков и Партнёры» «ИИ-агенты: где хайп, а где реальность» (2026): среди 12 публично доступных российских продуктов нет ни одного готового агента. Лучшие — платформы, на которых агента клиент собирает сам. Остальные — ассистенты и чат-боты.

Авторы формулируют главный риск покупателя так: заплатить за агента, а получить ассистента.

Разницу они объясняют на поваре. Ассистенту диктуют рецепт: «Возьмите 200 г муки, разогрейте духовку до 180 градусов». Агенту ставят цель: «Ужин на четверых, один гость — вегетарианец». Как готовить, повар решает сам. Заказчиком остаётесь вы.

Три признака настоящего агента:
▪️ сам разбивает задачу на шаги, а не ждёт подсказок сотрудника;
▪️ сам работает с вашими системами и данными, а не только отвечает текстом;
▪️ доводит задачу до результата, а не до черновика, который ждёт человека.

Простой тест на любом демо: если ваш сотрудник подсказывает системе каждый следующий шаг — перед вами ассистент, как бы он ни назывался.

Ассистент — не плохо: он ускоряет работу сотрудника. Проблема в другом: это другая покупка, с другим объёмом работы на вашей стороне.

Всего критериев агентности шесть. Остальные три, шкалу зрелости L1–L5 и 12 вопросов, которые стоит задать поставщику до подписания пилота, разберу 14 октября на конференции «Цифровой контур эффективности» в Екатеринбурге.

А вам уже продавали «агента»? Что оказалось внутри?
#Методология

Мир Инженерного ИИ: начинаем с Екатеринбурга

Это канал о том, как ИИ на самом деле работает в промышленности: агенты, мультиагентные системы, графы знаний, инженерный ИИ. Методология, кейсы и разбор ошибок — без пересказа пресс-релизов.

14 октября в Екатеринбурге — конференция «Цифровой контур эффективности» Сколтеха, Уральской ТПП и Корпорации развития Среднего Урала. Главный вопрос: почему ИИ-пилоты не доходят до денег и что с этим делать.

Я модерирую конференцию и открываю её докладом о том, как отличить реальную автономность ИИ-агента от маркетинга.

В программе: дизайн пилота с измеримым эффектом, интеграция с ERP/MES/PLM/САПР, безопасность ИИ-систем, проверка чертежей, восстановление 3D-моделей по архиву, генеративное проектирование.

📍 Точка кипения — Екатеринбург, ул. Бориса Ельцина, 3
🗓 14 октября, 9:30–17:00
🔗 Регистрация на Leader-ID

Что мешает ИИ-пилоту на вашем предприятии дойти до результата? Пишите в комментариях — лучшие вопросы задам спикерам.

#События