ANTIGRAVITY LABEN
TAG

latency

1 記事
タグ一覧に戻る
関連タグ:
ollama1gemma41local-llm1ai-tools1
AIツール/2026-06-24上級

夜通し回したローカルエージェントが、明け方には一手ごとに数秒待たされる — Ollama の応答時間を文脈長から逆算して一定に保つ

夜通し回した Ollama のローカルエージェントが明け方に遅くなる原因を、prompt-eval と generation に分解して実測しました。文脈長と応答時間の関係、num_ctx の設定、直近N手とローリング要約で作業文脈を有界に保つ設計を紹介します。