⚠️ А вы знали, что нейросети выдумывают факты, даже когда звучат абсолютно уверенно?

Это называют галлюцинациями. По рейтингу компании Vectara, разные модели выдумывают в 3–27% ответов. Модель не проверяет факты, она подбирает правдоподобный текст. Поэтому придуманная цифра выглядит так же убедительно, как настоящая.

Больнее всего это бьёт по ценам, законам, датам, ссылкам на источники, цитатам, медицине и деньгам.

Как защититься

1. Разреши модели сказать «не знаю». Добавь в промпт:
«Если не уверен или данных не хватает, так и скажи. Не придумывай цифры и источники»

2. Давай материал, а не тему. Вставь текст или таблицу и попроси отвечать только по ним:
«Отвечай только по тексту ниже. Если ответа в нём нет, напиши „в тексте нет“»

3. Проси отделять факты от догадок.
«Отметь, что в ответе проверенный факт, а что предположение. Для фактов укажи, откуда они»

4. Сверяй важное с первоисточником. Цифры, законы и цены проверяй на сайте ведомства, официальной странице компании или в оригинале исследования.

5. Спроси ещё раз иначе. Задай тот же вопрос другими словами или в новом чате. Ответы разошлись? Значит, проверять обязательно.

GPT пишет черновик, а за факты отвечаешь ты. Особенно если текст уходит клиенту.