🤖 Задача вне вашей профессии. Ответственность — ваша

В июле я писал, что LLM помогают начать работу над задачей и получить второе мнение. Исследование OpenAI «Work at the Frontier» добавляет к этому интересное наблюдение: люди обращаются к ИИ с задачами, которые традиционно относятся к другим профессиям.

📊 В изученной выборке ~20% запросов — из кардинально других областей. При этом тренд имеет восходящую динамику.

Для сотрудников это открывает новые возможности. Но здесь же, на мой взгляд, возникает риск: человек получает ответ в области, где ему не хватает знаний для проверки.

⚠️ Исследование описывает использование ИИ, но не подтверждает правильность полученных результатов.

Представим: руководитель просит LLM оценить окупаемость проекта. Получает убедительный расчёт, но не замечает пропущенные расходы или неверные исходные допущения. На этих цифрах строятся бюджет и решение о запуске.

Дальше расчёт попадает в презентацию, затем — в план. Первоначальные допущения теряются, а цифра продолжает жить как согласованное основание для следующих решений.

Позже обнаружить ошибку сложнее: придётся восстановить, откуда взялась цифра, что проверяли и какие решения успели на неё опереться.

Меня здесь настораживает именно незаметность ошибки. В своей области человек чаще понимает, где стоит усомниться. В чужой — стройное объяснение легко принять за достаточное обоснование.

Поэтому вместе с внедрением ИИ стоит определить:

1️⃣ какие результаты сотрудник может использовать самостоятельно;
2️⃣ где нужна проверка исходных данных и допущений;
3️⃣ какие решения требуют участия профильного специалиста.

❗ Отсутствие своего специалиста не отменяет необходимости проверки.

💡 Чем дороже последствия решения, тем важнее сохранить путь от исходных данных до вывода.

#ИИ #ChatGPT #будущееработы #цифровизация