Программа откатила разговор назад, а модель всё равно продолжает это помнить
Когда агент отменяет неудачную ветку и переигрывает шаг заново, приложение уверено, что текст выброшен — но во внутреннем кеше вычислений модели он остаётся, и она продолжает на него опираться. На семи семействах моделей один только этот остаточный кеш переворачивал защищённый результат в 25 случаях из 63, причём воспроизводится на стандартной библиотеке и в популярном фреймворке агентов. Для любого, кто строит агентов с откатами, это дыра ровно там, где её никто не ищет: логика откатилась корректно, а вычислительное состояние — нет.
Заметки