LLM– tag –

生成AIは、こちらが何も渡さなければ前回の会話を覚えていない。だから長期で使うエージェントには、記憶を外側に作る必要がある。私の環境では記憶を5つの保持先に分け、そのうち3つを1つのベクトル検索面に統合した。合計21,883件、うち17,264件（78.9%...

LLM呼び出しの所要時間を送出・ヘッダ受信・本文読了の3点で分解し、25日分・29,628件を実測した。遅さの約94%はプロバイダ側の本文生成で、firstbyte は日次中央値0.53〜0.68秒と安定していた。再起動が効くのはホスト起因のときだけである。