Оказывается, этот феномен давно известен. Называется Context pollution (загрязнение контекста).

Вообще я считал, что чем больше знаний модель накопила за сеанс, тем лучше она ориентируется в текущем коде. И это всегда работало именно так. Но, смотря какой контекст! Дело в том, что в проектах, начиная со среднего размера, пока работаешь над разными его частями, модель действительно начинает теряться. Особенно если в проекте full-stack и задачи очень разные. Например, есть редактор уровней игры и рядом лежит код для приёма платежей, в одной куче.

Справедливости ради, это применимо и не только к искусственному интеллекту :) Тут любой интеллект потеряется.

Но у нас есть приемущество, наш мозг имеет ещё и способность на время откидывать часть контекста, и работать более прицельно. Причём выделить прям нужное налету. Короче построить контекст из контекста.

А вот искусственному мозгу пока это сложно сделать. Что загрузили, то и будет пытаться обработать.

Короче идея такая: как только конкретную фичу закончили - новый чат, тогда всё работает довольно хорошо.