Human-in-the-loopとは？

仕組み

AIは提案を作り、影響の大きい操作の前に実行を一時停止します。人が対象、引数、権限、変更内容を確認し、承認、修正、拒否のいずれかを選びます。承認された入力だけを再開後の処理へ渡し、実行直前にも状態を再検証します。

Approvalとの境界

Approvalは個別の承認イベントです。HITLは承認だけでなく、修正、拒否、引き継ぎ、承認後の再検証まで含む運用設計を指します。人が画面を見た事実だけでは、対象と変更内容を確認した証拠になりません。

Guardrailsとの境界

Guardrailsは定義した条件に基づく自動検査、HITLは影響や文脈を人が判断する境界です。入力・出力・ツール引数を自動検査した後で、公開、削除、送信、購入などの戻しにくい操作を人へ渡す構成にします。

Sandboxとの境界

Sandboxは実行環境を隔離する仕組みで、HITLは実行可否を決める判断境界です。Sandbox内で動かすことは、人が承認したことを意味しません。両方を組み合わせると、判断の誤りと実行時の影響を別々に抑えられます。

使う場面

公開範囲の変更、ファイル削除、外部送信、返金、購入、権限変更など、影響が大きいか取り消しにくい操作の直前に置きます。低リスク処理まで止めると、承認待ちが増えて運用の速度が落ちます。

設計時の確認点

承認画面には対象、差分、引数、権限、影響範囲、期限を表示します。承認後に値が変わった場合は承認を再利用せず、実行直前の検査に失敗したら停止または再承認へ戻します。認証、最小権限、監査ログ、拒否時の戻り先も別に定義します。

まとめ

HITLはAIを人に置き換える合図ではなく、AIの提案と人の確定を分ける制御境界です。止める条件、表示する情報、承認後の再検証、拒否時の戻り先まで設計して初めて機能します。