Нейросеть легко соглашается с неправильной подсказкой

Спросите: «Ведь правда, что…» — и вставьте ошибку. Нейросеть нередко подхватит её и начнёт объяснять, почему вы правы.

Так она устроена: старается быть полезной и поддержать разговор.

Спрашивайте нейтрально: не «ведь правда, что X?», а «верно ли, что X? Если нет — поправь меня».