設計– tag –

AIは障害調査には実用的に働くのに、システム設計になると物足りない。この差は能力の非対称ではなく問題の性質の非対称である。正解が事実で決まるか文脈で決まるかの違いから、上流工程に必要なコンテキスト一致を考える。

HITL（Human-in-the-Loop）とは、AIエージェントの処理の途中に人間の確認を挟む設計を指す。難しいのは止めることではなく再開することだ。選択肢を会話ごとの状態として保存し、番号だけの返事を決定論的に解決する形に落ち着いた。