latency

夜通し回したローカルエージェントが、明け方には一手ごとに数秒待たされる — Ollama の応答時間を文脈長から逆算して一定に保つ

ローカルで長時間ループするエージェントの一手が後半ほど重くなる原因を、Ollama の所要時間フィールドから計測し、num_ctx の固定とローリング要約で遅延を平準化する実装メモです。