Human-in-the-loop
Par Doğan Turan, Co-founder, Qualia
En résumé
Le human-in-the-loop est la posture opérationnelle par défaut où l'IA propose et l'humain décide, et non l'inverse. Qualia ne déploie rien de manière autonome tant que l'opérateur n'a pas validé.
"Human-in-the-loop" est employé de deux manières. La version marketing : "nous avons des workflows de validation quelque part." La réalité : chaque décision opérationnelle soumise par le système est confiée à un humain qui peut l'accepter, la modifier ou la rejeter avant qu'elle n'affecte un produit en production.
Pour les studios qui exploitent des jeux et des applications en direct avec des utilisateurs payants, l'autonomie est un luxe qui se mérite, pas un choix par défaut à livrer. Le coût d'un faux pas d'une IA sur la courbe de monétisation d'un Game 3 est bien supérieur à celui de 30 secondes supplémentaires de révision par un opérateur.
Qualia adopte le human-in-the-loop parce que l'alternative, l'autonomie par défaut, n'a pas encore gagné la confiance des opérateurs que nous respectons.