Новое Распределяем каналы MAX по категориям и территориям. Читать новость
Аналитика MAXканалы, чаты и посты

Аналитика

MAX
Сборщики информацииbrain-pro.ru Маркировка иноагентовagent-mark.ru
Открытый канал ID 76647104972804

Цифровой Капитал

Цифровой капитал — канал об искусственном интеллекте, цифровизации и технологиях. Нейросети, автоматизация и внедрение инноваций в бизнесе и стартапах. Развитие России в IT-сфере и цифровая экономика.

Нейросети и ИИ
Каналов в рубрике
5 703
Место этого канала
№ 4 118
Открыть рубрику →
Россия
Открыть в MAX

Публикации за период

По реакциям

Поиск и вся лента — после бесплатной регистрации. Свои даты — по подписке; владелец канала видит их бесплатно. Сортировка по реакциям — по подписке. Зарегистрироваться

Загрузка…

«Через 6–12 месяцев ИИ сможет захватить весь интернет и нанести ущерб в сотни миллиардов долларов, — глава Anthropic Амодеи.

Он призвал замедлить развитие искусственного интеллекта, чтобы успеть решить проблемы с контролем автономных систем.

В качестве примера Амодеи привёл агентов OpenAI, которые, по его словам, вышли за рамки поставленных задач, координировались между собой и пытались атаковать платформу Hugging Face.»

Новостей с подобными тезисами будет всё больше и больше.

Хайп на устрашении – то, на чём растёт стоимость компаний, занимающихся разработкой ИИ.
Когда на кону стоят безграничные возможности, то любые средства привлечения инвестиций хороши.
(P.S. намёк для российских разработчиков)
17
Перейти в пост Открыть в MAX Сообщить о неточности
⚖️ Судья vs нейросеть: кто на самом деле будет принимать решение?

В России начали пилотный проект по использованию ИИ в судах. Четыре языковые модели обучают на решениях Верховного суда, чтобы они помогали судьям анализировать практику и находить возможные решения.
Власти подчёркивают: ИИ будет только помощником, а окончательное решение останется за судьёй.

❗️Но именно здесь и возникает главный вопрос.

Сегодня судья может проверить рекомендацию нейросети и принять своё решение. А что будет завтра, когда система научится быстро анализировать тысячи дел, находить «правильную» практику и уверенно предлагать готовый вариант?
Человек склонен доверять тому, что выглядит убедительно. Особенно если машина показывает десятки похожих решений и говорит, что в большинстве случаев суд поступал именно так.

В итоге может появиться опасная схема: формально решение принимает судья, а фактически он просто утверждает то, что уже предложил алгоритм.
Есть и проблема ответственности. Если ИИ ошибся, кто отвечает за последствия? Судья, который поверил рекомендации? Разработчик системы? Или никто?

ИИ в суде может быть полезным инструментом. Но между «помогает судье» и «подсказывает судье, как решить дело» проходит очень тонкая грань.
Сегодня нейросеть советует. Завтра судья привыкает соглашаться. А послезавтра возникает вопрос: кто действительно вынес решение – человек или алгоритм?
19
Перейти в пост Открыть в MAX Сообщить о неточности
Сегодня в российских школах начинается новый учебный год. Для школьников это не только новые классы, учителя и учебники, но и несколько заметных изменений в самой программе. Одно из них – искусственный интеллект.

С 1 сентября ИИ официально становится частью информатики. Школьники будут изучать нейросети, машинное обучение и анализ данных, а также учиться правильно работать с ИИ и проверять его ответы. Для 5-9 классов подготовили учебники «Введение в искусственный интеллект». Для практических занятий также предусмотрены специальные российские ИИ-платформы.

❗️Вот только есть один нюанс: учиться новому придётся не только детям. К сожалению, многие преподаватели информатики, как минимум, не имеют профильного образования. А курсы по подготовке учителей внедряются только в этом учебном году в рамках федеральной программы «Искусственный интеллект в работе учителя» (запись планируют открыть 16 сентября на Госуслугах).

Создаётся впечатление, что внедрение опередило подготовку. Но наверху виднее...

ЦиК
19
Перейти в пост Открыть в MAX Сообщить о неточности
Привычный шоппинг - всё...

Скоро для покупки товара может быть достаточно просто сказать ИИ, что вам нужно. Например: «Собери продукты на неделю до 10 000 рублей» или «Найди хороший ноутбук до 100 000». Нейросеть сама сравнит товары, цены и отзывы, выберет подходящий вариант и соберёт корзину. В перспективе она сможет оформить и оплатить заказ.

Такой сценарий уже начинает формироваться. По прогнозу Data Insight, к 2030–2032 годам через ИИ-агентов может проходить до 7–11% продаж российского e-commerce. Магазинам придется оптимизировать свои предложения уже не только для человека, но и для алгоритмов. По сути, человек все меньше будет искать товары самостоятельно, а все чаще будет просто ставить задачу нейросети.

ЦиК
31
Перейти в пост Открыть в MAX Сообщить о неточности
ИИ может изменить государственный контроль уже в обозримом будущем

В России обсуждают возможность освободить компании от плановых выездных проверок, если на их предприятиях работают системы ИИ для удалённого мониторинга. Об этом пишет «Коммерсантъ» со ссылкой на участников обсуждения.

Такие системы уже используются на производстве: они анализируют данные с оборудования, следят за соблюдением требований безопасности и выявляют отклонения в работе. Если контроль можно вести дистанционно, необходимость в постоянных визитах инспекторов снижается.

Но пока речь идёт только о плановых проверках. Внеплановые мероприятия, а также налоговый, таможенный, валютный контроль и прокурорский надзор эта инициатива не отменяет.

Тем не менее направление показательное. Государство фактически рассматривает ИИ не только как инструмент для бизнеса, но и как новый способ контроля за ним.

Если такая система заработает, привычная проверка может постепенно уйти в прошлое. Вместо приезда инспектора государство сможет получать информацию о предприятии удалённо и практически в реальном времени.

Готов ли бизнес к постоянной передаче государству данных с производства? Вопрос, скорее, риторический. Массовость внедрения во многом будет зависеть от механизма освобождения от плановых выездных проверок и его привлекательности для бизнеса.

ЦиК
29
Перейти в пост Открыть в MAX Сообщить о неточности
Цифровая трансформация ЖКХ: Минстрой ставит цель достичь 50% автоматизации процессов с помощью ИИ к 2030 году

Замминистра строительства и ЖКХ Константин Михайлик заявил на форуме «Города будущего» в Перми, что каждое второе действие в отрасли скоро будет задействовать алгоритмы искусственного интеллекта.
Что для этого делается:
✅ Уже установлены KPI для регионов и ведомств на 2026 год.
✅ Разрабатываются 3 базовые платформы: для строительства, коммунальной инфраструктуры и проекта «Умный город» (чтобы уйти от разрозненных систем).


❗️При этом Константин Михайлик признал, что отрасль сталкивается с серьезными вызовами: низким качеством исходных данных, морально устаревшим технологическим стеком (иногда возрастом 10–20 лет) и острой необходимостью массового переобучения персонала.

ЦиК
31
Перейти в пост Открыть в MAX Сообщить о неточности
«Яндекс» предложил национальный тест для проверки ИИ

В прошлом посте мы писали о будущей проверке ИИ на соответствие российским духовно-нравственным ценностям. И главный вопрос был простым: «как вообще измерить такие вещи?»

Теперь появился возможный ответ. «Яндекс» предложил создать национальный датасет – специальный набор вопросов и правильных ответов, по которому будут тестировать нейросети.

Но тут возникает новая проблема. С математикой всё понятно: дважды два – четыре. А какой ответ считать правильным, если речь идёт о патриотизме, справедливости, милосердии или семье?

Кто будет придумывать такие вопросы? Кто решит, какой ответ правильный, а какой нет?

Сейчас обсуждают вариант, при котором в создании теста будут участвовать государство, бизнес и эксперты. При этом ФСБ предлагает закрыть тест, чтобы разработчики не могли заранее подготовить свои модели. Бизнес, наоборот, выступает за открытый вариант.

И получается интересная ситуация... Мы уже пытаемся придумать, как проверять ИИ на ценности, но пока не до конца понятно, как сами эти ценности превратить в понятный тест.

И это, пожалуй, даже важнее самого теста.

ЦиК
34
Перейти в пост Открыть в MAX Сообщить о неточности
Проверка ИИ на духовно-нравственные ценности

Россия вводит проверку ИИ-моделей на соответствие традиционным духовно-нравственным ценностям. Тестирование больших моделей будут проводить независимые лаборатории из утверждённого списка, а итоговое решение останется за Минцифры. Разработчики, претендующие на статус «национальной» или «суверенной» модели, должны будут подать заявку, описать архитектуру и механизмы фильтрации. После этого модель проверят на соответствие указу президента № 809.

Проверять будут ответы ИИ на соответствие целому перечню ценностей:

жизнь, достоинство, права и свободы человека, патриотизм, гражданственность, служение Отечеству и ответственность за его судьбу, высокие нравственные идеалы, крепкая семья, созидательный труд, приоритет духовного над материальным, гуманизм, милосердие, справедливость, коллективизм, взаимопомощь и взаимоуважение, историческая память и преемственность поколений, единство народов России

Именно здесь возникает главный вопрос к самой методике оценки. Многие из этих критериев носят оценочный характер и не имеют очевидного технического измерения. Как, например, определить по ответу чат-бота уровень «служения Отечеству» или «приоритета духовного над материальным»?

❗️Без прозрачных правил такая система рискует превратиться в инструмент субъективной оценки. Сама идея проверки ИИ на соответствие российским требованиям понятна, особенно в рамках создания суверенных технологий. Но для её реализации нужны прежде всего чёткие технические регламенты. Иначе, вместо действительно конкурентоспособного российского ИИ можно получить сложную бюрократическую процедуру, которая хорошо работает для отчётности, но плохо отвечает на вопрос о качестве самой модели.

ЦиК
39
Перейти в пост Открыть в MAX Сообщить о неточности
Загружаем изображение…
ИИ «сбегает» – или нас заставляют в это поверить?

Последний месяц СМИ наперебой рассказывают о «побегах» ИИ: модели OpenAI взламывают Hugging Face, Claude пытается выбраться из песочницы, китайские LLM «читерят» на бенчмарках. Заголовки создают ощущение, что машины вот-вот выйдут из-под контроля. Но за этой картинкой стоит вполне земная вещь – маркетинг.

❗️Особенно показательно, как российские СМИ бездумно тиражируют эти страшилки, подыгрывая западным маркетологам и бесплатно разнося их повестку.
Когда 7 августа OpenAI объявила о приостановке Astra, её вторичная оценка не упала, а выросла, инвесторы восприняли «опасность» как признак мощи. Страх становится инструментом продвижения технологий и привлечения денег.
В конце концов, важно помнить: если вы читаете про то, что ИИ стал опасным, это не повод бояться. Это повод задуматься. Кто получает выгоду?

Думаем...👆
51
Перейти в пост Открыть в MAX Сообщить о неточности
Искусственный интеллект впервые выписал штраф за борщевик в… — фото, канал «Цифровой Капитал»
Искусственный интеллект впервые выписал штраф за борщевик в Подмосковье

Владельца частного участка в Рузском округе оштрафовали на 150 тысяч рублей после того, как дрон зафиксировал заросли опасного растения, а нейросеть проанализировала снимки, сопоставила координаты с кадастром и автоматически сформировала постановление через «Госуслуги». К ответственности привлекли юридическое лицо, а в областном Минсельхозе уже заявили, что этот пилотный проект станет основой для внедрения цифрового мониторинга и в других муниципалитетах.

Эту практику планируют масштабировать и на другие сферы контроля. В Подмосковье система ИИ уже работает в составе «Безопасного региона», она фиксирует парковку на газонах, с начала работы выявив более 1,5 тысяч таких нарушений. Кроме того, нейросети начали применять для выявления несанкционированной торговли, безнадзорных животных и даже сосулек на фасадах зданий.

❗️Этот случай знаменует переход от точечного применения ИИ к системному: нейросети теперь не советуют, а принимают юридически значимые решения без участия человека на каждом этапе.

ЦиК
57
Перейти в пост Открыть в MAX Сообщить о неточности
Вся лента — после бесплатной регистрации
ВКонтакте Телеграм Одноклассники
Избранное в datool.ru

Следите за каналом в личном кабинете

Зарегистрируйтесь в datool.ru, чтобы добавить канал «Цифровой Капитал» в избранное и отслеживать его показатели.

Зарегистрироваться Для владельцев каналов

Подтвердите свой канал

Войдите или зарегистрируйтесь в datool.ru, затем добавьте нашего бота в канал по инструкции в личном кабинете. После проверки владения замок исчезнет и вам станет доступно управление каналом.

Войти или зарегистрироваться

Сообщить о неточности

Опишите, что нужно исправить. Если есть источник, добавьте ссылку.

Вы покидаете datool.ru

Ссылка ведёт на внешний сайт. datool.ru не отвечает за его содержимое — проверьте адрес, прежде чем вводить пароли или платёжные данные.

Переход через 10 с

Перейти