“Human-in-the-loop” è diventata una casella da spuntare. In un sistema che effettivamente regge, è una persona che ha l’autorità – e le informazioni – per fermare qualcosa prima che raggiunga l’utente.
Recensione che può dire di no
Un revisore che può solo timbrare non è un controllo. Progettare per una revisione reale significa:
- Indirizzamento dell’output poco sicuro o ad alto rischio a una persona per impostazione predefinita, non come fallback.
- Dare a quella persona il radicamento, il punteggio e lo status di controlli di sicurezza, non solo la risposta.
- Registrare la decisione, in modo che il ciclo sia verificabile a posteriori.
Progettare il loop-in
Il ciclo è più economico da costruire quando fa parte dell’architettura fin dall’inizio: un punto di controllo nella pipeline, non un incontro fissato alla fine.