Часто прошу нейросеть проводить критический анализ материала другого ИИ-помощника и самоанализ полученного результата (полезен для фотоисторий, раскадровок, сценариев, текстов песен). И с этим LLМ справляется довольно таки хорошо.
Но вот со свежими данными и новыми именами уже начинаются проблемы, даже если есть у модели выход в интернет. И здесь уж полезен будет подход по проверке фактов.
Нужно понимать, что нейронка не эксперт, а удобный и очень уверенный собеседник, который не умеет говорить «не знаю». Этот собеседник предсказывает, какое слово ты хочешь услышать дальше. Поэтому он вместо фразы «не знаю» спокойно придумает цифру, событие, автора, биографию и подаст это так же ровно, как правду. И это будет так убедительно, что ты разницы не заметишь. Так возникает опасный момент, когда ты веришь ответу, не проверив.
Вот последний случай заставил меня собрать промпты на проверку ответов и критику в один документ. ИИ должен усиливать мышление, а не заменять его. Адаптируйте под свои задачи, подставляйте свои имена, свои документы, свои проекты. Внедряйте в свою цепочку работы.
Файл доступен здесь 👈
Но вот со свежими данными и новыми именами уже начинаются проблемы, даже если есть у модели выход в интернет. И здесь уж полезен будет подход по проверке фактов.
Нужно понимать, что нейронка не эксперт, а удобный и очень уверенный собеседник, который не умеет говорить «не знаю». Этот собеседник предсказывает, какое слово ты хочешь услышать дальше. Поэтому он вместо фразы «не знаю» спокойно придумает цифру, событие, автора, биографию и подаст это так же ровно, как правду. И это будет так убедительно, что ты разницы не заметишь. Так возникает опасный момент, когда ты веришь ответу, не проверив.
Вот последний случай заставил меня собрать промпты на проверку ответов и критику в один документ. ИИ должен усиливать мышление, а не заменять его. Адаптируйте под свои задачи, подставляйте свои имена, свои документы, свои проекты. Внедряйте в свою цепочку работы.
Файл доступен здесь 👈
Просмотры: 2
