Почему одного доступа к данным мало, чтобы ИИ понял бизнес

Есть довольно понятная мечта руководителя.

Не открывать несколько систем, таблиц и отчётов, а просто спросить ИИ:

«Где сейчас проблема?»
«Что изменилось?»
«Что требует внимания?»
«Можешь сам проверить подробнее?»

На словах всё выглядит просто:

данные + доступ + хороший ИИ = готовый помощник.

Мы решили проверить этот принцип на небольшом масштабе — подключили ИИ к собственной рабочей машине и попробовали сделать так, чтобы он не только рассуждал по описанию, но и разбирался в её фактическом состоянии.

И оказалось, что самое интересное начинается как раз после слова «подключить».

· · ·

Документация и реальность — не одно и то же

В инструкции может быть написано одно, а система уже находится в другом состоянии.

Если ИИ видит только сохранённое описание, он способен дать вполне логичный ответ — просто на уже устаревшую картину.

Поэтому прежде чем делать вывод, ему нужно уметь проверить, что происходит сейчас.

Для бизнеса принцип тот же: странно принимать решение по старому отчёту, не посмотрев актуальные показатели.

· · ·

Доступ ещё не означает полномочия

В процессе стало особенно заметно различие между тремя вещами:

ИИ понимает, что нужно сделать.

ИИ технически может это сделать.

ИИ разрешено это сделать.

Это не одно и то же.

Самый простой технический вариант — дать ИИ полный доступ ко всему.

Но рабочая модель больше похожа на обычного сотрудника.

Посмотреть состояние — можно.

Проверить проблему — можно.

Работать в разрешённой области — можно.

Значимое изменение — уже отдельный уровень контроля.

Самостоятельно расширять свои полномочия — нельзя.

Задача не в том, чтобы дать ИИ максимум возможностей.

Задача — дать ему достаточно возможностей для работы и сохранить понятные границы.

· · ·

Контекст не должен исчезать вместе с чатом

Есть ещё одна проблема.

Сегодня ИИ разобрался в ситуации, что-то проверил и получил полезный контекст.

Завтра начинается новая сессия.

Если вся информация существовала только внутри предыдущего окна чата, приходится начинать практически сначала.

Поэтому полезные факты о рабочей среде нужно сохранять.

Но и здесь есть нюанс: старому контексту нельзя верить автоматически.

Его нужно сверять с текущим состоянием.

Получается, рабочая память системы должна одновременно сохранять прошлое и позволять перепроверять настоящее.

· · ·

Что это означает для бизнеса

Если однажды мы хотим просто спросить ИИ:

«Что сейчас происходит в моей компании?»

за этим простым вопросом должны находиться как минимум:

- актуальные данные;
- понятный контекст;
- определённые полномочия;
- контроль значимых действий;
- проверка результата;
- память о предыдущей работе;
- возможность перепроверить старую информацию.

Хорошая модель и хороший промт здесь только часть решения.

Окно чата — это интерфейс.

Основная работа находится за ним.

· · ·

Красный флаг довольно простой

Если вопрос «что сейчас происходит?» всё ещё требует открыть несколько систем, позвонить сотрудникам и вручную свести данные, проблема начинается ещё до выбора нейросети.

И такой процесс уже имеет смысл разбирать отдельно:

что является источником истины, какие данные действительно нужны руководителю и какую часть этой работы можно безопасно передать ИИ.

· · ·

Проект_1956

ВКонтакте:
vk.com/project_1956

Почта:
info@project1956.ru