Загружаем изображение…

Три уровня причинности и почему одних масштабных моделей ИИ уже мало



В обзорной статье Ир1на разбирает, почему рост размера моделей сам по себе не закрывает вопрос о том, как ИИ понимает мир: для этого нужны причинные идеи и интерпретируемость. Автор связывает нынешние слабые места ИИ с объяснимостью, обобщаемостью, управляемостью и рисками неэтичного решения.

В центре — Pearl Causal Hierarchy и три способа получения опыта: пассивное наблюдение, физическое взаимодействие и симуляция. На простом примере с двумя классификаторами показано, как смещение распределения меняет поведение модели: standard сильнее опирается на цвет и ломается, когда цвет перестаёт быть надёжным признаком, тогда как robust держится на форме и устойчивее к такому сдвигу.

Отдельно сопоставляются SHAP и counterfactual Shapley values как инструменты сравнения объяснений моделей. Практический вывод для разработчиков и исследователей понятен: если важны не только точность, но и надёжность интерпретации, стоит смотреть на причинную структуру признаков, а не только на метрики предсказания.

Источник: Habr AI Practice RU — https://habr.com/ru/articles/1076292/
Просмотры: 8
Открыть в MAX Сообщить о неточности

Репосты публикации

Публикация канала

Сообщить о неточности

Опишите, что нужно исправить. Если есть источник, добавьте ссылку.

Вы покидаете datool.ru

Ссылка ведёт на внешний сайт. datool.ru не отвечает за его содержимое — проверьте адрес, прежде чем вводить пароли или платёжные данные.

Переход через 10 с

Перейти