Eggent | Канал: AI-боты для бизнеса

Сегодня старший инженер по машинному обучению Центра ИИ Сколтеха Александра Кулешова выступила с докладом на конференции EMNLP 2026 в Будапеште — одной из ведущих международных конференций по обработке естественного языка с рейтингом A*.

Александра представила метод INTRYGUE, который позволяет более точно оценивать надежность ответов языковых моделей, использующих внешние источники информации. Эта работа была представлена на секции, посвященной интерпретируемости и анализу языковых моделей. В ней объясняется парадокс, при котором модель может давать правильный ответ на основе предоставленных документов, но стандартный способ оценки надежности может считать такой ответ подозрительным.

Метод касается RAG-систем, которые перед генерацией ответа ищут необходимую информацию во внешних источниках. Несмотря на такую поддержку, модели все еще могут «галлюцинировать», что подчеркивает важность оценки доверия к её ответам. Часто для этого используется энтропия выходного распределения — показатель, позволяющий определять уровень надежности.

#ИИ #нейросети #ChatGPT #ML #ИскусственныйИнтеллект

📱 OpenAI представила модель GPT-6.1 Terra — доступное решение для работы на компьютере.

Terra самостоятельно заполняет формы, анализирует чертежи и монтирует видео. Она доступна в платных тарифах ChatGPT Work и Codex.

Преимущества Terra:
✧ Вдвое дешевле GPT-6.1 Sol
✧ Втрое быстрее старших моделей
✧ Выдумывает факты втрое реже
✧ Задачи обходятся в 9 раз дешевле, чем у Claude

Все цифры поступают от самой OpenAI, что указывает на смещение гонки в сторону более дешевых решений.

#ИИ #нейросети #ChatGPT #ML #ИскусственныйИнтеллект

Разработчик решил заняться реверс-инжинирингом собственного телевизора Samsung стоимостью $3000, заподозрив, что тот неспроста показывает ему таргетированную рекламу. 🙅

По его словам, в ходе исследования он обнаружил множество механизмов слежения и сбора телеметрии, включая автоматическое распознавание контента, функции аудиомониторинга и составление пользовательских профилей.

Однако вскоре OpenAI заблокировала его аккаунт, обвинив в "злоупотреблениях в сфере кибербезопасности".

Сам разработчик утверждает, что никогда не использовал OpenAI для поиска или эксплуатации уязвимостей, ограничиваясь исключительно анализом локальных бинарных файлов.

В результате блокировки он, по собственным словам, лишился около $500 и накопленных сбросов лимитов.

Впрочем, отступать разработчик не собирается. Напротив, он решил приобрести ещё три компьютера, чтобы расширить собственный кластер для локального запуска ИИ.

«Владеть собственным ИИ куда приятнее».

Боб Мартин, автор книги "Чистый код", опубликовал свод правил, которыми руководствуются его собственные ИИ-агенты при написании кода.

Основные положения:

- Проверка, которая лишь скрывает сбой, не устраняя его причину, не может считаться исправлением.
- Если тест продолжает успешно проходить даже в том случае, когда все функции ничего не возвращают, от такого теста следует отказаться.
- Изменения в коде должны быть минимальными, но достаточными для решения поставленной задачи.
- Прежде чем приступать к изменению кода, необходимо написать тест, выявляющий существующую ошибку.

Установив этот скилл, вы сможете предотвратить сокрытие ошибок ИИ-агентами и избежать ситуаций, когда успешно пройденные тесты создают ложное впечатление об исправности кода.

Промпт для установки:

Установи скилл ub-mode из репозитория unclebob/ub-mode на GitHub в мою папку skills и используй команду /ub-mode при следующем изменении кода. Если crapper, dryer или mutator не установлены, пропусти соответствующие шаги.

https://github.com/unclebob/ub-mode

OpenAI представила четыре выдающихся научных результата, полученных с помощью собственной экспериментальной ИИ-модели, которая до сих пор остаётся недоступной широкой публике.

1. Математика. Модели удалось доказать гипотезу Какеи во всех размерностях. Прежде математики добивались успехов лишь в отдельных случаях: в двумерном пространстве в 2019 году и в трёхмерном в 2025 году.

2. Информатика. Модель опровергла гипотезу экспоненциального времени (ETH), на которой основывались сотни научных исследований. Это открытие позволяет предположить, что некоторые из наиболее сложных вычислительных задач могут решаться значительно быстрее, чем считалось ранее.

3. Физика. Модель представила математическое доказательство состоятельности квантовой хромодинамики (КХД), описывающей сильное взаимодействие, благодаря которому частицы удерживаются внутри атомных ядер. Аналогичный результат был получен и для объединённой версии Стандартной модели.

4. Теория Янга — Миллса. В ходе исследований модель также доказала существование теории Янга — Миллса, тем самым решив часть одной из семи задач тысячелетия, за решение которых назначена премия в размере $1 млн.

Доказательства, полученные в области математики, информатики и теории Янга — Миллса, прошли независимую компьютерную проверку.

Теперь полученные результаты изучают ведущие специалисты, в том числе исследователи, выдвинувшие опровергнутую гипотезу, и лауреат Нобелевской премии.

При этом OpenAI заявляет, что не намерена претендовать на научное признание полученных результатов. 👏

https://openai.com/index/building-scientific-understanding-with-academic-communities/

Это замечательная новость о бесплатном курсе от Себастьяна Рашки, который предоставляет возможность каждому желающему разобраться в обучении reasoning-моделей! 🎓 Давайте рассмотрим ключевые моменты и возможности, которые предлагает этот курс:

### Основные возможности курса
- **Обучение reasoning-моделей**: Курс на примере модели Qwen3-0.6B показывает, как обучаются reasoning-модели и какие этапы включает этот процесс.
- **Разнообразие подходов**: Участники курса научатся:
- Искать разные пути решения одной задачи.
- Автоматически проверять правильность полученных ответов.
- Улучшать поведение модели с помощью обучения по вознаграждению и GRPO.
- Наблюдать за тем, как модель может находить способы обойти систему вознаграждений.
- Обучать компактную модель на данных рассуждений DeepSeek-R1.

### Практическое применение
- **Запуск кода**: Весь код доступен для самостоятельного запуска, что позволяет участникам наблюдать за процессом обучения и изменениями в поведении модели.
- **Готовая модель**: Курс начинается с уже готовой небольшой модели, что упрощает процесс и позволяет избежать необходимости обучать фундаментальную модель с нуля.

### Уникальная возможность
- **Понимание моделей**: Этот курс предоставляет редкую возможность не просто читать о моделях, таких как DeepSeek-R1, но и пройти весь путь обучения собственными руками, что значительно углубляет понимание.

### Ссылка на курс
Вы можете ознакомиться с курсом и получить доступ к материалам по следующей ссылке: [reasoning-from-scratch](https://github.com/rasbt/reasoning-from-scratch).

Это отличная возможность для всех, кто интересуется искусственным интеллектом и хочет углубить свои знания в области reasoning-моделей. Если у вас есть вопросы о курсе или о том, как начать, дайте знать! 😊

Теперь собрать собственную reasoning-модель может практически любой желающий.

Себастьян Рашка выпустил полностью бесплатный курс и открыл исходный код всех материалов.

На примере небольшой модели Qwen3-0.6B он показывает, как на самом деле обучаются reasoning-модели и из каких этапов складывается этот процесс.

В ходе курса можно разобраться, как:

• научить модель искать разные пути решения одной задачи;
• автоматически проверять правильность полученных ответов;
• улучшать её поведение с помощью обучения по вознаграждению и GRPO;
• наблюдать за тем, как модель порой находит способы обойти саму систему вознаграждений;
• обучать более компактную модель на данных рассуждений DeepSeek-R1.

Весь код можно запускать самостоятельно, наблюдая за ходом обучения и постепенно замечая, как меняется поведение модели.

При этом начинать с самого нуля не придётся, так как в качестве исходной точки используется уже готовая небольшая модель, а не фундаментальная модель, которую пришлось бы обучать с нуля.

Если вам давно хотелось понять, как устроены модели вроде DeepSeek-R1, этот курс даёт редкую возможность не просто прочитать об этом, а пройти весь путь собственными руками.

https://github.com/rasbt/reasoning-from-scratch

Grok Imagine представила первые 7 минут ИИ-сериала «Одиссея», созданного совместно с Wonder Studios. Несколько месяцев назад Илон Маск анонсировал проект, обещая «исторически точный» фильм.

Критики отреагировали на первый эпизод с разнообразными мнениями:
✧ Некоторые кадры выглядят так, будто сняты на камеру
✧ Диалоги показались неестественными
✧ Закадровый голос воспринимается как затянутый
✧ Оригинальный древнегреческий язык не был использован

Режиссёр Кристофер Нолан снимал свою версию «Одиссеи» в шести странах, привлекая тысячи актёров. Grok обошлась без декораций и актеров, и это пока заметно в качестве исполнения.

#ИИ #нейросети #ИскусственныйИнтеллект #ML #ChatGPT