LLM– tag –

LLM呼び出しの所要時間を送出・ヘッダ受信・本文読了の3点で分解し、25日分・29,628件を実測した。遅さの約94%はプロバイダ側の本文生成で、firstbyte は日次中央値0.53〜0.68秒と安定していた。再起動が効くのはホスト起因のときだけである。