“Ser humano en el bucle” se ha convertido en una casilla a cumplir. En un sistema que realmente se sostiene, es una persona con la autoridad —y la información— para detener algo antes de que llegue a un usuario.
Reseña que puede decir que no
Un crítico que solo puede aprobar sin problemas no es un control. Diseñar para la revisión real significa:
- Por defecto, enviar salidas de baja confianza o de alto riesgo a una persona, no como respaldo.
- Dando a esa persona la relación con las pruebas, la puntuación y el estado del control de seguridad, no solo la respuesta.
- Registrar la decisión, para que el bucle sea auditable a posteriori.
Diseño del loop en
El bucle es más barato de construir cuando forma parte de la arquitectura desde el principio: un punto de control en el flujo de trabajo de entrega, no una reunión añadida al final.