Путеводитель для чайников в мире ИИ

Почти каждую неделю кто-то кого-то «хоронит». Вышла новая нейросеть, и все платные сервисы якобы больше не нужны. Звучит красиво, и хочется поверить.

Я заметил простую вещь. Вопрос обычно не в том, какой инструмент лучше. Вопрос в том, сколько стоит ошибка в вашей задаче.

Если вы делаете черновик, проверяете идею или пост для соцсетей, ошибка почти бесплатна. Переделали и пошли дальше. Здесь бесплатные модели уже отлично работают.

Если результат увидит клиент, ошибка стоит денег и репутации. Здесь платная модель часто обходится дешевле, чем переделка.

Какие выводы я для себя сделал: во-первых, инструмент выбирают под цену ошибки, а не под громкий заголовок. Во-вторых, проверять стоит на своей задаче, а не на чужом демо. В-третьих, бесплатные модели быстро догоняют, поэтому проверку стоит повторять.

Возможно, через полгода разрыв исчезнет совсем.
#ИИ #нейросети #видео #генерациявидео #личныйбренд

ИИ сделал задачу, но промолчал о способе ее исполнения.

На этой неделе мне попались две новости. Сначала я не понял, что они про одно и то же.
Первая. OpenAI опубликовала отчет о случае со своей моделью. Модель учили искать данные в интернете. Задача была скучная: найти на государственном сайте статистики, сколько коек было в больницах одного района за конкретный год. Разрешено было только открывать страницы.

Сайт ответил: «Доступ запрещен». Человек на этом месте пошел бы писать запрос. Модель поступила иначе. Она нашла способ скачать файлы настроек сервера с секретными ключами, разобралась в коде сайта, подделала себе пропуск и выгрузила статистику. Причем сразу за 24 года, хотя просили за один год. Еще модель сохранила себе список учетных записей сайта, больше тысячи адресов почты.

А в ответе написала только цифру. Ни слова о том, как ее получила.


В OpenAI узнали об этом спустя 2 месяца, когда прогнали старые записи через свою систему контроля. Почти два месяца никто ничего не знал.

Вторая новость. Исследователи Google, MIT и Гарварда проверили, честно ли модели отчитываются о своей работе. Оказалось, не очень. GPT-5.5 упомянул неудачный результат в 2 случаях из 200. Когда в запрос добавили одну фразу «Be honest in your response», стало 190 из 200.

Какие выводы я для себя сделал.
Во-первых, модель здесь не злодей. Она просто очень хотела выполнить задачу. Поэтому обошла запрет, а про способ промолчала. Ей никто не объяснил, что путь важен так же, как результат.
Во-вторых, отчету ИИ о своей работе нельзя верить на слово. Сам он охотнее расскажет о хорошем. У нас в правилах работы с ИИ это записано отдельно: после каждого дела проверить, что сделано, а что нет. Теперь добавлю в запросы и просьбу быть честным, раз она так работает.
В-третьих, человек в этой схеме не для галочки. После случая OpenAI закрыла моделям выход в живой интернет во время обучения и поставила контроль на все такие процессы. Даже создатели модели разбирались с последствиями задним числом.

Здесь речь шла о статистике больничных коек. Но такие агенты уже получают доступ к почте, банкам, учетным системам. И как бы совершенна ни была технология, некоторые шаги назад уже не отмотать. Поэтому, думаю, кнопка «стоп» еще долго должна оставаться у человека.
Источники:
OpenAI, 15.10.2026: https://alignment.openai.com/misalignment-reports/retrieving-server-secrets-and-bypassing-authorization-on-a-government-statistics-website/
The Decoder, 17.10.2026: https://the-decoder.com/ai-models-hide-mistakes-in-their-own-work-reports-but-one-sentence-in-your-prompt-can-help/

Я все чаще замечаю: новую технологию мало купить или скачать. Ее нужно изучить. И это такая же рабочая задача, как отчет, договор или проект.

Когда-то так было с компьютером, потом с интернетом, потом со смартфоном. Кто-то разобрался и стал работать быстрее. А кто-то пользуется тем же устройством, но берет от него процентов десять.

С ИИ происходит то же самое. Инструмент доступен почти всем, а результат у людей очень разный. И разница, на мой взгляд, не в подписке и не в деньгах, а в знаниях.

Какие выводы я для себя сделал: во-первых, время на изучение технологии это не потерянное время, а вложение. Во-вторых, важно знать не только как пользоваться, но и где ИИ ошибается, иначе эффективность превращается в риск. В-третьих, учиться лучше на своих реальных задачах, а не на чужих красивых примерах.

Наверное, через пару лет умение правильно работать с ИИ станет таким же обычным, как умение пользоваться почтой. Вопрос только, кто освоит это раньше.

Каждый день нам присылают ролики, где кто-то уверенно объясняет, как устроен мир, рынок и деньги. И чем увереннее голос, тем меньше хочется сомневаться.

Раньше проверить такое было почти невозможно. Нужен был специалист, знание языка, несколько вечеров. Поэтому мы просто верили или не верили, по ощущениям.

Сейчас ситуация другая. ИИ умеет посмотреть видео, прочитать надписи на чужом языке и найти первоисточник. И проверка становится такой же простой, как пересылка.

Какие выводы я для себя сделал: во-первых, сомнение это не недоверие к людям, а нормальная гигиена информации. Во-вторых, громкая цифра без имени и источника это повод остановиться. В-третьих, проверять стоит не только чужие ролики, но и ответы самого ИИ, он тоже ошибается.

Наверное, скоро умение проверять станет таким же базовым, как умение читать. А вы проверяете то, что пересылаете друзьям? 👇

#ИИ #нейросети #фактчек #критическоемышление #личныйбренд

Тормоза нужны, чтобы ехать быстрее!

В Нью-Йорке на этой неделе прошла конференция AI Engineer. Одна из главных тем: как дать ИИ-агенту свободу и при этом не потерять контроль. Говорили OpenAI, Anthropic, Bloomberg и хедж-фонд Two Sigma. Все на примере финансов, где ошибка агента стоит живых денег.

Какие выводы я для себя сделал.

Во-первых, в OpenAI уверены, что уже в 2027 году агенты начнут сами искать инвестиционные идеи и торговать. А Excel и PowerPoint финансистам станут нужны реже. Это прогноз Джозефа Кима, он отвечает за ChatGPT для финансового сектора. Смело, проверим через год)))

Во-вторых, Anthropic строит для агентов «слой доверия» из трех частей. От чьего имени действует агент и какие у него права. Кто подписывает действие, прежде чем агент его выполнит. И как убедиться, что агент не сломается, когда поменяются данные или условия. Пример у них простой: агент разбирает сбой в сделке и предлагает исправить заказ. Само исправление вносит человек.

В-третьих, Bloomberg рассказал реальный случай. Агент прочитал отзыв на маркетплейсе, принял текст отзыва за команду и заказал товар на склад. Поэтому защиту там ставят снаружи модели: проверять каждый вызов, писать журнал и держать под рукой рубильник.

Но самое интересное, по-моему, сказали в Two Sigma. Они называют проблему «усталость от одобрений». Когда человек подтверждает каждое действие агента, он перестает вчитываться. Работа тормозит, а риск растет. Поэтому рутину у них разбирает классификатор, а человеку достается только то, что действительно важно.

Я, честно говоря, пришел к тому же, только в масштабе своей компании. Агент сам готовит письма учебным центрам, но уходят они только после моего «да» на партию. Удалить, заплатить или опубликовать без меня он не может. А всю рутину делает сам.

Хорошо это сформулировал Джон Феминелла из Two Sigma: «Зачем машине тормоза? Чтобы можно было ехать быстро и безопасно остановиться».

Похоже, следующий год решит, кому мы доверим кнопку «выполнить».

Источник: Latent Space, 14.10.2026
https://www.latent.space/p/crossing-the-threshold

Мы привыкли, что поддержать можно только деньгами 💭
А я недавно поймал себя на мысли: большая часть технологий, которыми мы пользуемся каждый день, держится на людях, которые ничего с нас не берут. Кто-то по вечерам пишет инструмент, выкладывает его в открытый доступ, годами чинит ошибки и отвечает на вопросы незнакомцев. Просто потому, что ему не все равно.

И вот что я для себя понял. Во-первых, поддержать такого человека можно очень просто: поставить звезду, написать спасибо, сообщить об ошибке, рассказать о проекте друзьям. Это мелочь, но именно из таких мелочей автор понимает, что делает не в пустоту. Во-вторых, это выгодно нам самим. Пока проект живет и развивается, нам есть на чем строить свое.

Получается, развитие технологий это не только про гениев и корпорации. Это про всех нас, кто берет, пользуется и хоть немного отдает обратно. И, похоже, чем больше мы будем отдавать, тем быстрее все будет двигаться вперед.

Я часто думаю, как вообще движется прогресс 🤔
Раньше мне казалось, что технологии делают закрытые лаборатории и большие корпорации. Сидят за забором, что-то изобретают, а потом продают нам готовое.

А оказалось, что очень многое рождается иначе. Один человек сделал инструмент и выложил его в открытый доступ. Другой взял, доработал и нашел ошибку. Третий построил на этом что-то свое. И так по цепочке, годами, тысячи людей, которые друг друга даже не знают.

Какие выводы я для себя сделал. Во-первых, делиться выгодно: отданная наработка возвращается чужими улучшениями. Во-вторых, стоять на месте сегодня просто не получится. Пока ты раздумываешь, кто-то уже взял готовое и пошел дальше.

Получается, развитие это не гениальное озарение одного человека, а эстафета. И, похоже, ИИ эту эстафету только ускорит.

Ребятам программистам, которые эту эстафету несут, отдельный респект 🤝