En los últimos dos años han surgido muchos mitos alrededor de la inteligencia artificial.
Unos afirman que la IA reemplazará pronto a la mayoría de los trabajadores. Otros creen que basta con desplegar un modelo de lenguaje para que una empresa funcione más rápido, más barato y con mayor eficiencia.
La realidad es mucho más compleja.
Los modelos modernos de IA realmente pueden realizar tareas que hace unos años parecían reservadas exclusivamente a los humanos.
Escriben textos. Analizan documentos. Programan. Crean imágenes. Resumen reuniones. Responden a clientes.
Cada vez más a menudo también planifican acciones siguientes, usan herramientas, se comunican con otros sistemas y ejecutan secuencias completas de tareas sin una intervención humana constante.
Por eso se habla cada vez más de agentes de IA y de sistemas autónomos.
Surge entonces la pregunta natural: Si la IA puede tomar decisiones, ¿sigue siendo necesario el ser humano?
La respuesta es: Sí. Y más que nunca. No porque la IA sea inútil. Todo lo contrario. Porque incluso el mejor modelo no entiende la responsabilidad, las consecuencias empresariales ni el contexto social del modo en que lo hace una persona.
Precisamente por eso nació el concepto Human-in-the-Loop, uno de los pilares más importantes del diseño responsable de sistemas basados en inteligencia artificial.
¿De qué tratará esta serie?
En los próximos cuatro artículos mostraremos por qué una implementación eficaz de la IA no se reduce únicamente a elegir el modelo adecuado.
Hablaremos, entre otros, de:
- qué es Human-in-the-Loop y en qué se diferencia de Human-on-the-Loop y Human-out-of-the-Loop,
- cuándo la IA puede actuar de forma autónoma y cuándo la decisión debería tomarla una persona,
- qué es la gobernanza de la IA (AI Governance) y por qué será una de las áreas más importantes en el desarrollo de las organizaciones,
- cómo diseñar sistemas de IA en los que los usuarios realmente puedan confiar.
No será una serie sobre las capacidades de los modelos de lenguaje.
Será una serie sobre el uso responsable de la inteligencia artificial en negocios reales.
¿Qué es exactamente Human-in-the-Loop?
En términos simples, Human-in-the-Loop (HITL) significa diseñar sistemas en los que la persona continúa siendo un participante activo en el proceso de toma de decisiones.
No implica que la IA sólo haga tareas sencillas. Al contrario.
El modelo puede analizar miles de registros, preparar una recomendación, indicar el mejor escenario de actuación e incluso planificar los pasos siguientes.
Sin embargo, antes de ejecutar una decisión que requiera responsabilidad, el sistema la remite a una persona.
Es precisamente la persona la que toma la decisión final o aprueba la acción.
En la práctica se ve así: la IA analiza la solicitud de un cliente. Determina su prioridad. Prepara la respuesta. Propone la solución. Pero el mensaje se envía sólo tras la validación por parte del consultor.
En otro caso la IA analiza una solicitud de crédito. Calcula el riesgo. Prepara una recomendación.
Pero la decisión de conceder el crédito la toma un analista. El modelo ayuda. No sustituye la responsabilidad.
Human-in-the-Loop, Human-on-the-Loop y Human-out-of-the-Loop: tres niveles de supervisión
Aunque los términos suenen parecido, representan modelos de colaboración entre humanos y IA completamente diferentes.
Human-in-the-Loop (HITL)
La persona participa directamente en la toma de decisiones.
El sistema prepara el análisis o la recomendación, pero no ejecuta la acción sin aprobación.
Actualmente es el modelo más común en sistemas empresariales con riesgo medio o alto.
Human-on-the-Loop (HOTL)
La IA actúa de forma autónoma, pero la persona supervisa todo el proceso.
Puede detener el sistema, cambiar su decisión o intervenir cuando detecta una anomalía.
Así funcionan, entre otros, algunos sistemas de monitorización de redes, centros de operaciones o soluciones industriales modernas.
Human-out-of-the-Loop (HOOTL)
El sistema opera de forma totalmente autónoma.
No requiere la aprobación humana para sus decisiones.
Estas soluciones se usan únicamente donde el riesgo de error es pequeño o donde las decisiones están estrictamente definidas por reglas preestablecidas.
En la práctica, la plena autonomía sigue siendo la excepción y no la norma.
Autonomía de la IA no significa independencia total
Es uno de los mitos más repetidos.
Cuando oímos hablar de agentes de IA, es fácil dar la impresión de que son sistemas completamente autónomos. En realidad, la mayoría de las soluciones modernas operan dentro de límites bien definidos.
Un agente puede:
- usar herramientas,
- buscar información,
- realizar tareas,
- comunicarse con otros sistemas,
- planificar los pasos siguientes.
Pero eso no implica que deba tomar cada decisión por sí solo. Cuanto mayor sea el impacto de una decisión sobre personas, finanzas o la seguridad de la organización, mayor debe ser la participación humana.
¿Por qué sigue siendo necesario el ser humano?
Los modelos de IA reconocen patrones con gran eficacia. Analizan datos. Predicen la probabilidad de ciertos eventos. Sin embargo, hay áreas donde todavía tienen limitaciones.
No asumen la responsabilidad por las consecuencias de sus decisiones. No entienden valores éticos. No conocen el contexto empresarial completo. No son capaces de evaluar por sí mismos si una decisión será socialmente aceptable. No saben cuándo una excepción a la regla es mejor que seguir el procedimiento.
Por eso la persona sigue siendo el último eslabón de la responsabilidad.
¿Dónde funciona hoy Human-in-the-Loop?
Aunque el término pueda parecer nuevo, sus elementos se han usado durante años.
Banca
La IA analiza transacciones y detecta operaciones sospechosas.
Un empleado del banco decide si bloquearlas o descartar la alerta.
Medicina
El modelo apoya el análisis de imágenes diagnósticas.
El médico interpreta el resultado y emite el diagnóstico.
Ciberseguridad
El sistema detecta un posible ataque.
El administrador decide bloquear el tráfico o aislar la infraestructura.
Atención al cliente
La IA propone una respuesta a la consulta.
El consultor aprueba o modifica el contenido antes de enviarlo.
Producción
El modelo predice el riesgo de fallo de una máquina.
El ingeniero planifica las acciones de mantenimiento.
En todos estos casos la IA acelera el trabajo.
Pero la responsabilidad sigue recayendo en la persona.
El error más común al implementar IA
Las empresas con frecuencia preguntan: "¿Cómo automatizar lo máximo posible?"
Una pregunta mucho mejor es: "¿Qué decisiones se pueden automatizar con seguridad?"
Hay una gran diferencia.
El objetivo no es eliminar al ser humano del proceso. El objetivo es usar su tiempo donde realmente aporta valor.
La IA debería asumir análisis repetitivos. La persona debe tomar decisiones que requieran experiencia, responsabilidad y evaluación del riesgo.
Glosario
Human-in-the-Loop (HITL)
Modelo de colaboración entre personas e inteligencia artificial en el que la IA prepara el análisis o la recomendación, y la decisión final la toma la persona.
Human-on-the-Loop (HOTL)
Modelo en el que la IA actúa de forma autónoma, pero la persona supervisa el proceso y puede intervenir en cualquier momento.
Human-out-of-the-Loop (HOOTL)
Modelo de plena autonomía en el que el sistema ejecuta acciones sin participación humana. Usado principalmente en procesos de bajo riesgo y alta repetibilidad.
Agente de IA
Sistema que emplea modelos de inteligencia artificial para planificar, ejecutar y coordinar tareas usando herramientas y datos disponibles.
Autonomía de la IA
Grado de independencia de un sistema de IA al realizar ciertas acciones o tomar decisiones.
Resumen
Sería un gran error ver Human-in-the-Loop como una limitación para la inteligencia artificial. En realidad es todo lo contrario.
Es precisamente la participación humana la que permite que la IA se utilice de forma responsable, segura y alineada con los objetivos de la organización.
Cuanto más se desarrollen los modelos de IA y los sistemas de agentes, más importante será plantearse no si la IA puede tomar una decisión, sino si debe hacerlo de forma autónoma.
En la próxima entrega responderemos a una pregunta aún más difícil.
¿Qué decisiones se pueden delegar con seguridad a la IA y cuáles deberían permanecer siempre en manos humanas?
Mostraremos ejemplos prácticos de comercio electrónico, banca, logística, producción y atención al cliente, y presentaremos una sencilla lista de verificación que ayudará a evaluar el nivel de riesgo de la automatización.
