Amershi et al. (2019), Guidelines for Human-AI Interaction
Peer-reviewed interaction guidance for human-AI systems.
Conocer más: Amershi et al. (2019), Guidelines for Human-AI InteractionIA aplicada · Práctica de ingeniería
Humano en el circuito vs IA basada en excepciones
La revisión humana es una decisión de diseño. Mejora un flujo de IA cuando el punto de revisión es claro, útil y proporcional al riesgo.
La pregunta real de diseño
Un flujo que revisa todo puede conservar el control mientras recrea la carga original. Un buen diseño identifica decisiones reversibles, decisiones que requieren evidencia y excepciones que necesitan atención humana.
Patrones de revisión
Se puede revisar cada salida, revisar solo las que están bajo un umbral de confianza o enrutar excepciones definidas por riesgo y reglas del negocio. El patrón depende de la consecuencia, reversibilidad, calidad de evidencia y capacidad del revisor.
Evitar fatiga
El escalamiento debe incluir el motivo, la evidencia y la acción disponible. Las correcciones deben quedar como eventos auditables, no como ediciones ocultas.
Lección aplicada
AutonomousPlan2CAD explora el paso del dibujo asistido hacia una autonomía acotada por excepciones. Observaciones, geometría inferida, supuestos y correcciones humanas permanecen diferenciados; la autonomía total no es una meta universal.
Revisiones prácticas
- Mide volumen y tiempo de revisión, no solo confianza
- Define bloqueos antes de desplegar
- Mantén responsabilidad humana sobre decisiones irreversibles
- Comprueba que las excepciones sean realmente menos frecuentes que la carga base
Límites y siguiente paso
Si una persona debe recrear cada resultado, la decisión no está automatizada. Empieza con un flujo estrecho y observable y amplíalo solo cuando la evidencia demuestre que el límite de revisión funciona.