Галлюцинации ИИ и стратегия
Все боятся галлюцинаций ИИ. Модель может придумать источник, контракт, показатель или закон. И это действительно тревожно. Потому что раньше на такое были способны только стратегические презентации.
Возьмите любой стратегический план. «Мы займём 15% рынка». Почему? «Рынок демонстрирует потенциал». Откуда данные? «Есть экспертная оценка». Кто эксперт? «Он участвовал в рабочей группе». Какая рабочая группа? Та, что придумала 15%. Если бы ИИ так отвечал, его бы назвали ненадёжным. Когда так отвечает комитет, это называется vision.
Нейросеть хотя бы можно поймать за галлюцинацию. Есть лог, промпт, источник, версия модели. У корпоративной стратегии всё сложнее. После провала выясняется, что это была не цель, а «амбиция». Не прогноз, а «сценарий». Не обещание, а «ориентир». Не ошибка, а «важный урок, который позволит нам скорректировать траекторию».
ИИ иногда придумывает факты, потому что стремится быть полезным. Организация придумывает факты, потому что стремится согласовать бюджет. И в этой битве за правдоподобие машина пока проигрывает человеку по одному важному параметру: она ещё не научилась вставлять в отчёт фразу «фактическое отклонение обусловлено совокупностью внешних факторов».
Лекарство от галлюцинаций ИИ — проверка источников, ограничения полномочий, тестирование и право сказать «не знаю». Лекарство от галлюцинаций управления примерно то же самое, только его почему-то называют «неподдерживающим отношением к стратегии».
Самая опасная галлюцинация — не та, которую придумала модель. А та, которую согласовали, утвердили и разослали как дорожную карту.
Все боятся галлюцинаций ИИ. Модель может придумать источник, контракт, показатель или закон. И это действительно тревожно. Потому что раньше на такое были способны только стратегические презентации.
Возьмите любой стратегический план. «Мы займём 15% рынка». Почему? «Рынок демонстрирует потенциал». Откуда данные? «Есть экспертная оценка». Кто эксперт? «Он участвовал в рабочей группе». Какая рабочая группа? Та, что придумала 15%. Если бы ИИ так отвечал, его бы назвали ненадёжным. Когда так отвечает комитет, это называется vision.
Нейросеть хотя бы можно поймать за галлюцинацию. Есть лог, промпт, источник, версия модели. У корпоративной стратегии всё сложнее. После провала выясняется, что это была не цель, а «амбиция». Не прогноз, а «сценарий». Не обещание, а «ориентир». Не ошибка, а «важный урок, который позволит нам скорректировать траекторию».
ИИ иногда придумывает факты, потому что стремится быть полезным. Организация придумывает факты, потому что стремится согласовать бюджет. И в этой битве за правдоподобие машина пока проигрывает человеку по одному важному параметру: она ещё не научилась вставлять в отчёт фразу «фактическое отклонение обусловлено совокупностью внешних факторов».
Лекарство от галлюцинаций ИИ — проверка источников, ограничения полномочий, тестирование и право сказать «не знаю». Лекарство от галлюцинаций управления примерно то же самое, только его почему-то называют «неподдерживающим отношением к стратегии».
Самая опасная галлюцинация — не та, которую придумала модель. А та, которую согласовали, утвердили и разослали как дорожную карту.
Просмотры: 2