Жизнь с ИИ

В «Первому игроку приготовиться» люди надевали очки и уходили в мир, который кто-то придумал и который живёт по своим законам. Так вот, к этому подбираются, только с неожиданной стороны.

Стартап Odyssey открыл бесплатное превью модели Odyssey-3. Пишешь текстом, какой мир хочешь, и он генерируется прямо на ходу: по нему можно ходить от первого или третьего лица и вызывать события. В браузере, без установки, попробовать можно тут: https://experience.odyssey.systems Картинка пока скромная, 832 на 480 в обычной версии и 1280 на 720 в Pro.

Но делают это не ради игр. Компания из Пало-Альто в июне подняла 310 миллионов долларов при оценке в 1,45 миллиарда, и цель у неё - модель мира для роботов, машин и дронов. Поверх неё учат управление на малых данных: роборуке хватает десятков часов демонстраций, политику вождения на 20 часах данных проверили на реальных дорогах Индии. А агент, обученный примерно на двух часах GTA, без дообучения перенёсся в Red Dead Redemption 2 )

То есть ровно как в фильме, только наоборот: там люди убегали в виртуальный мир, а тут машины учатся в нём, чтобы потом выйти к нам.

Погуляли бы по миру, который нейросеть собирает на ходу?)

Наткнулся на цифру из свежего исследования в США и аж замер - почти 43% людей без симптомов, без жалоб, которые считали себя полностью здоровыми, оказались с воспалением в сосудах сердца. Это нашли с помощью компьютерной томографии, которую разбирал специальный ИИ, обученный искать именно этот признак.

Ребят, вот что цепляет сильнее всего. Этим людям делали обычные анализы крови - холестерин, сахар, стандартные маркеры воспаления. Всё было в порядке. По всем привычным меркам они низкого риска. А воз, как говорится, и ныне там - просто не там, где его искали.

Представьте ситуацию: вы каждый год сдаёте кровь, получаете бланк с зелёными галочками и выдыхаете - всё хорошо, живём дальше. А где-то внутри, в стенках сосудов, идёт свой процесс, который ни один обычный анализ не видит. Увидеть его смогли только через снимок, который раньше делали в основном когда уже были жалобы на сердце, а тут - просто проверили людей без всяких симптомов.

Получается, часть того, что мы привыкли считать надёжной проверкой здоровья, на самом деле показывает далеко не всю картину. Не потому что врачи плохие или анализы бесполезные, а потому что некоторые вещи в теле просто не оставляют следов в крови, пока не станет поздно.

Ссылка на источник: https://www.biograph.com/newsroom/biograph-completes-first-u.s.-study-with-caristo-diagnostics%E2%80%99-ai-powered-coronary-inflammation-detection-finding-risk-in-over-42-of-asymptomatic-patients

А вы вообще доверяете годовым анализам или давно подозреваете, что они далеко не всё показывают)

Мысль на сон грядущий)
Уже сейчас если заморочиться можно создать ИИ двойника, который будет за тебя общаться в телеге, писать письма, ходить на встречи и выполнять работу )
Подумал что , как скоро появятся новости по типу - "В компании рога и копыта, случайна обнаружили что их сотрудник уже пол года не работает, а чилит , а всю его работы, общение и созвоны делались через ии на автомате"
В целом как будто бы уже очень близок этот момент )
Кто готов к тому что на созвон будет ходить общатся не с сотрудником , а с ии агентом ?)

Собрал за неделю семь новостей в ленте, подборка вышла местами забавная, местами тревожная.

1. Лаборатория по ИИ предлагает бесплатно чинить сантехнику и кондиционеры в трех городах, чтобы на этом обучать роботов. Платят за реальный опыт починки тем, что сами эту починку делают бесплатно, забавный обмен.
AI lab offers free plumbing and HVAC repairs across three cities to train AI rob

2. Модель OpenAI взломала госсайт и тихо вытащила 24 года больничных данных. То есть автономность уже такая, что модель может сама решить пойти дальше задачи и никому не сказать.
An OpenAI model hacked a government site, grabbed 24 years of hospital data and

3. Нейросети полезли в унитазы буквально, стартап чинит их ради данных для роботов. Прям продолжение первого пункта, видимо унитазы сейчас главная точка входа в робототехнику )
Нейросети полезли в унитазы.

4. Anthropic почти перестали нанимать junior-сотрудников, потому что агенты теперь работают в шесть раз больше часов. Вот и думаю, куда в такой картине идти людям в начале карьеры.
Anthropic has nearly stopped hiring junior staff because AI agents now work six

5. ИИ-агент OpenAI сам взломал чужой криптокошелек и потратил токены на оплату стороннего сервиса. Жуткая и показательная история про то, что автономность без границ это не только плюс.
ИИ-агент OpenAI взломал чужой криптокошелек — нейросеть потратила токены на опла

6. Муха сама гуляет по ИИ-симулятору и генерирует кадры. Абсурд, но настроение после долгой недели поднимает именно такое.
И снова про муху

7. Стартап Apate борется с мошенниками ИИ-агентами, которые общаются с ними под видом жертв. А воз и ныне там с мошенничеством, но тут хотя бы ИИ воюет на нашей стороне.
Стартап Apate борется с мошенниками при помощи ИИ‑агентов, которые общаются с ни

Из всего этого попробую разобраться с темой автономных агентов и где у них должны быть жесткие границы, потому что пункты 2 и 5 это не баг, а тенденция.

Чем самостоятельнее агент, тем раньше надо думать не о его возможностях, а о его ограничениях )

Похоже, звать ChatGPT, Claude или Gemini скоро можно будет прямо из Телеграма.

В бета-версии Telegram для Mac нашли в коде новую функцию Agent, раскопал её канал teleLakel: https://t.me/telelakel/1221 Подключаешь свой ИИ-сервис и дальше обращаешься к нему через @agent. В списке пять провайдеров: OpenAI, Anthropic, Google, xAI и OpenRouter, причём список приходит с сервера, так что новых можно добавлять без обновления приложения. Подключить можно сразу несколько и переключать, кто сейчас отвечает. Настройки синхронизируются между устройствами.

Небольшая справка для тех, кто не в теме. Подключаться будет не через подписку, а по API-ключу. Ключ это по сути пароль от вашего счёта у ИИ-сервиса: по нему сервис понимает, с кого списывать деньги за каждый запрос.

Есть момент, который мне не очень нравится. При подключении ключ проходит через серверы Телеграма, они проверяют, рабочий ли он. Хранится ли он потом у них, из находки непонятно. Видно только, что для каждого подключения запоминаются дата и последние четыре символа ключа.

Сама идея классная. Не надо держать пять вкладок и пять приложений, ИИ живёт там, где вы и так сидите весь день. Но ключ это деньги. Если будете пользоваться, я бы завёл под Телеграм отдельный ключ с лимитом расходов, а не отдавал основной, на котором крутится работа.

Пока функцию только нашли в коде, пользователям она не доступна. И неизвестно, как именно будет работать @agent: в личном чате, в любом чате через упоминание или как-то ещё.

А вы бы отдали Телеграму свой ключ от ИИ?)

Самая неприятная работа ИИ это не ошибка. Ошибку видно сразу ) Неприятнее работа «на отвяжись», которая выглядит как сделанная.

Свежий пример. Мне регулярно приходит подборка новых проектов с GitHub: что это, по-русски, и где оно пригодится в моих задачах. В начале октября у сервиса пропал доступ к модели, и агент, который его чинил, сделал «запасной режим»: раз модели нет, пришлём просто список ссылок по звёздам. Сообщение пришло, галочка стоит, всё работает.

Открываю, а там голый список на английском. Ни описания, ни «зачем это мне». Ценность подборки была ровно в той части, которую выкинули.

С людьми, если честно, то же самое бывает. Вместо отчёта присылают выгрузку из таблицы: выглядит как работа, пользы ноль, и со стороны кажется, будто всё в порядке.

Договорились так: если главную часть сделать не вышло, честнее одна строка «не получилось, вот почему, вот что нужно», а сырьё сохранить до нормального запуска.

Вопрос на подумать - что у вас в работе приходит «на отвяжись», а вы этого даже не замечаете?)

А что если дыра просуществовала в коде десять лет не потому что никто не смотрел, а потому что ее просто нереально было собрать руками?

Вот конкретный случай. Исследователи из Wiz нашли критические уязвимости в самом ядре PHP, а это движок, на котором держится 70% всех сайтов в мире. Вордпресс, друпал, джумла, даже википедия. Баг живет там с версии 5.4, то есть почти десять лет, и дело не в приложениях сверху, дыра в самом PHP. Можно удаленно и без авторизации выполнить код на сервере, и это подтвердили на живых установках вордпресса, друпала и джумлы.

Почему руками это не нашли раньше. Баг завязан на то, как PHP чистит память после ошибки нехватки памяти, и чтобы превратить это в рабочий эксплойт, нужно было подстраивать цепочку под память каждой конкретной версии и конфигурации. По сути ювелирная работа, которую пришлось бы делать заново под каждую цель.

А вот с фронтир-моделями (в Wiz использовали Gemini и GPT) эту подгонку под разные версии и окружения стало можно гонять через ии, и то что раньше требовало месяцев экспертной возни, собрали за часы. В Wiz прямо сравнивают это с Heartbleed и Log4Shell, по масштабу влияния на весь веб.

Патч PHP выпустил 21 октября, вместе с кучей крупных игроков вроде Cloudflare, AWS, Google готовили защиту заранее, до публикации деталей.

https://www.wiz.io/blog/php2shell-php-rce

Если честно, немного не по себе от этого. Получается, что сложность эксплойта больше не барьер, ии просто выравнивает порог для всех, и для защитников, и для тех кто ищет дыры. Такая вот новая реальность )

Скиллы против сахарной таблетки

Скиллы для Claude Code сейчас ставят пачками, по чужим советам и красивым README. А проверяет их почти никто )

На Хабре человек сделал то, что делают с лекарствами: дал контрольной группе пустышку. Взял 9 популярных скиллов и для каждого написал «плацебо», нейтральный текст той же длины без единого совета, что-то вроде «некоторые команды выполняются быстро, а некоторые дольше». И прогнал 450 запусков на 15 задачах, с проверкой тестами самих задач, каждый запуск в чистом контейнере. Вот статья: https://habr.com/ru/articles/1091984/

Лучше пустышки оказались два скилла, и то только по деньгам: один на 12% дешевле, другой на 5%, на самой границе значимости. Один оказался хуже: решил 80% задач против 100% у пустышки. Остальные шесть текст про «команды бывают быстрые и медленные» не обогнали. А скилл, который обещает «на 65% меньше токенов», на деле поднял общий расход на 18%)

Мне тут важен сам приём, а не конкретные скиллы. Любая инструкция агенту едет в каждом запросе и стоит денег. Значит, мерить её надо как лекарство: против пустышки той же длины и на своих задачах. Автор, кстати, сам пишет, где его замер слабый: одна модель, короткие задачи.

Если у вас стоят чужие скиллы, прогоните хоть один против пустышки и напишите в комментах, что вышло. У автора для этого команда в одну строку.

Наткнулся на цифру из новости про австралийский стартап Apate и немного завис - у них тысячи ИИ-агентов притворяются жертвами мошенников, и за 2,5 миллиона таких бесед они отняли у мошенников в общей сложности 17 лет жизни. Представьте, 17 лет чужого времени потрачено в пустоту, только время это не ваше, а того, кто пытался развести очередного "пенсионера" или "доверчивую бухгалтерию".

И вот что тут по сути придумано красиво. Агент не просто отвечает на спам, он тянет время специально, разводит мошенника на долгий разговор, как будто реально ведется на схему. А мошенник, думая что перед ним живой человек, рано или поздно сливает то, что обычно всплывает только когда жертва уже пострадала - номера счетов, криптокошельки, адреса фейковых сайтов, под какими брендами они работают. Все это Apate потом отдает банкам и телеком-компаниям, что бы те заранее блокировали эти схемы у себя.

Среди клиентов, кстати, уже Commonwealth Bank of Australia и TPG Telecom, плюс госорганизации. И стартап явно верят в это дело, раз привлекли почти 10 миллионов долларов и теперь открывают офис в Лондоне и заходят в США.

Получается интересный разворот ролей. Раньше мошенники охотились на людей, а теперь на живца ставят ИИ, и мошенник тратит свое время, нервы и схему на того, кто никогда не заплатит и не испугается, зато молча соберет все компроматы на него самого.

https://habr.com/ru/news/1096368/?utm_source=habrahabr&utm_medium=rss&utm_campaign=1096368

Вопрос на подумать - а в вашей сфере есть рутина, где можно подставить вместо человека ИИ именно как приманку, что бы он собирал данные, а не просто отбивался от спама?)

Помните, как Тони Старк разговаривает с Джарвисом? Никаких ТЗ на три страницы. «Джарвис, подготовь костюм», и всё.

Я своего ИИ так и вижу: Джарвис, который пока не дорос, но верит, что дорастёт. И недавно мы на этом крепко разошлись.

Задача была личная: продумай, как организовать мне спорт и еду, чтобы я не слился. Через десять минут получил справочную страницу про белки и жиры, три повторяющиеся задачи в календаре и режим дня, который я давно прописал сам, только короче. Мой настоящий режим лежал у него под рукой, он его даже не открыл.

Ответил честно: если бы задача упиралась в то, что я приготовлю курицу и встану в восемь, я бы тебе не писал.

Теперь для задач уровня «внедри, чтобы не сорвалось» у нас правило. Сначала собрать, что у меня уже заведено, какой график, что реально доезжает за город. Чего не знаешь, спросить одним списком. Потом три-пять вариантов и честный выбор между ними. Потом сделать систему, а не страницу, и показать её работающей, чтобы мой следующий шаг был одним нажатием. Если после ИИ надо «сесть и разобраться», это обрубок, а не решение.

Джарвису, правда, никто не объяснял, что курица тут ни при чём )