Human-in-the-loop
著者: Doğan Turan, Co-founder, Qualia
要約
Human-in-the-loopは、AIが提案し人間が決定するデフォルトの運用体制であり、その逆ではありません。Qualiaは、運用者が承認するまで自律的に何もリリースしません。
"Human-in-the-loop"という言葉には2通りの使い方があります。マーケティング的な使い方：「どこかに承認ワークフローが存在する」。本来の使い方：本番環境のプロダクトに影響が及ぶ前に、システムが提示するすべての運用上の意思決定を人間が承認、修正、または却下できること。
課金ユーザーを抱えるライブゲームやアプリを運営するスタジオにとって、自律運用は実績を積んで手に入れる贅沢であり、最初から提供されるデフォルトではありません。Game 3のマネタイズ曲線においてAIが1つの判断ミスを犯す代償は、運用者がレビューに費やす追加の30秒よりもはるかに大きいのです。
QualiaがHuman-in-the-loopを採用しているのは、もう一方の選択肢である「デフォルトでの自律運用」が、私たちが敬意を払う運用者たちの信頼をまだ勝ち得ていないからです。