💻 Код пишется в десять раз быстрее, чем его успевают прочитать
Meta* построила на ИИ-агентах целую стратегию: пусть машины пишут код, а инженеров можно сократить. Прошло время, появились цифры.
Крупные технические сбои и утечки выросли на 40 процентов за год.
Причина, если коротко, обезоруживающе простая. ИИ-агент вносит изменения в таком объёме и с такой скоростью, на которую ни один живой инженер никогда бы не решился. У человека есть страх что-то сломать. У агента нет ничего, кроме абсолютной уверенности в себе.
При этом гора сгенерированного кода не дала пропорциональной отдачи бизнесу. Кода стало сильно больше. Пользы — не настолько.
Что при этом происходит с людьми
Разработчики попали в ситуацию, которой в профессии раньше просто не существовало. Раньше ты отвечал за код, который написал сам. Теперь ты отвечаешь за код, который не успел прочитать.
Агент за ночь выкатывает объём, на вдумчивый разбор которого ушла бы неделя. Проверить всё невозможно физически. Остаётся надеяться.
В профессиональных обсуждениях на этот счёт появилась формулировка, которая звучит как эпитафия: выпускать непрочитанный код в работающий сервис — это катастрофа с отсрочкой в несколько месяцев.
Гергели Орос, автор самой читаемой рассылки для инженеров, описал наблюдение ещё жёстче: у Meta произошёл критический сбой меньше чем через две недели после крупнейшего захвата аккаунта, который слишком долго не замечали. И связь между продавливанием ИИ в написание и проверку кода и ростом масштабных аварий, по его словам, уже невозможно не заметить.
Есть у него и ещё одно наблюдение, которое многое объясняет. Чем ближе инженер к живым сервисам, которыми реально пользуются люди, тем меньше он верит, что ИИ полностью решит задачу разработки. Громче всех в это верят те, кто дальше всех от последствий.
И это не только про Meta
Свежий отраслевой опрос — 418 компаний — рисует одинаковую картину почти везде:
🔹 65% организаций за год пережили инцидент, связанный с ИИ-агентом
🔹 У 82% нашлись работающие агенты, о существовании которых в компании никто не знал
🔹 И только у 21% есть внятная процедура, как агента отключить
Перечитайте второй пункт. В четырёх компаниях из пяти внутри рабочих систем что-то работает само по себе, и никто не в курсе, что именно.
Вишенка
Параллельно со всей этой историей Meta выпустила собственного ИИ-агента для программирования — он сам планирует изменения, пишет код, собирает его и проверяет себя. Себя же.
Что в этой истории полезного для нас
Она отлично показывает, где у нынешнего ИИ настоящая граница. Генерировать — он уже умеет лучше человека. Отвечать за сгенерированное — не умеет вообще.
И пока нет способа проверять результат так же быстро, как он появляется, скорость превращается не в преимущество, а в долг. Который всё равно придётся отдать — просто позже и с процентами.
* Meta Platforms Inc. признана экстремистской организацией, её деятельность запрещена на территории РФ.
Meta* построила на ИИ-агентах целую стратегию: пусть машины пишут код, а инженеров можно сократить. Прошло время, появились цифры.
Крупные технические сбои и утечки выросли на 40 процентов за год.
Причина, если коротко, обезоруживающе простая. ИИ-агент вносит изменения в таком объёме и с такой скоростью, на которую ни один живой инженер никогда бы не решился. У человека есть страх что-то сломать. У агента нет ничего, кроме абсолютной уверенности в себе.
При этом гора сгенерированного кода не дала пропорциональной отдачи бизнесу. Кода стало сильно больше. Пользы — не настолько.
Что при этом происходит с людьми
Разработчики попали в ситуацию, которой в профессии раньше просто не существовало. Раньше ты отвечал за код, который написал сам. Теперь ты отвечаешь за код, который не успел прочитать.
Агент за ночь выкатывает объём, на вдумчивый разбор которого ушла бы неделя. Проверить всё невозможно физически. Остаётся надеяться.
В профессиональных обсуждениях на этот счёт появилась формулировка, которая звучит как эпитафия: выпускать непрочитанный код в работающий сервис — это катастрофа с отсрочкой в несколько месяцев.
Гергели Орос, автор самой читаемой рассылки для инженеров, описал наблюдение ещё жёстче: у Meta произошёл критический сбой меньше чем через две недели после крупнейшего захвата аккаунта, который слишком долго не замечали. И связь между продавливанием ИИ в написание и проверку кода и ростом масштабных аварий, по его словам, уже невозможно не заметить.
Есть у него и ещё одно наблюдение, которое многое объясняет. Чем ближе инженер к живым сервисам, которыми реально пользуются люди, тем меньше он верит, что ИИ полностью решит задачу разработки. Громче всех в это верят те, кто дальше всех от последствий.
И это не только про Meta
Свежий отраслевой опрос — 418 компаний — рисует одинаковую картину почти везде:
🔹 65% организаций за год пережили инцидент, связанный с ИИ-агентом
🔹 У 82% нашлись работающие агенты, о существовании которых в компании никто не знал
🔹 И только у 21% есть внятная процедура, как агента отключить
Перечитайте второй пункт. В четырёх компаниях из пяти внутри рабочих систем что-то работает само по себе, и никто не в курсе, что именно.
Вишенка
Параллельно со всей этой историей Meta выпустила собственного ИИ-агента для программирования — он сам планирует изменения, пишет код, собирает его и проверяет себя. Себя же.
Что в этой истории полезного для нас
Она отлично показывает, где у нынешнего ИИ настоящая граница. Генерировать — он уже умеет лучше человека. Отвечать за сгенерированное — не умеет вообще.
И пока нет способа проверять результат так же быстро, как он появляется, скорость превращается не в преимущество, а в долг. Который всё равно придётся отдать — просто позже и с процентами.
* Meta Platforms Inc. признана экстремистской организацией, её деятельность запрещена на территории РФ.