« L’humain dans la boucle » est devenu une case à cocher. Dans un système qui tient réellement la route, c’est une personne qui a l’autorité — et l’information — d’arrêter quelque chose avant qu’il n’atteigne un utilisateur.
Critique qui peut dire non
Un critique qui ne peut que valider sans hésiter n’est pas un contrôle. Concevoir pour un véritable examen signifie :
- Acheminer par défaut des sorties à faible confiance ou à enjeux élevés vers une personne, pas comme solution de secours.
- Donner à cette personne le lien entre les preuves, le score et le statut du contrôle de sécurité, pas seulement la réponse.
- Enregistrer la décision, pour que la boucle soit auditable après coup.
Conception de la boucle
La boucle est la moins coûteuse à construire lorsqu’elle fait partie intégrante de l’architecture dès le départ — un point de contrôle dans le flux de livraison de la livre, pas une réunion ajoutée à la fin.