☞ El siguiente artículo está inspirado en la conferencia «Human-in-the-loop: un enfoque humano para la inteligencia artificial» presentada por Vanessa Arévalo y por quien escribe en IT Builders Live el 13 de setiembre de 2025. Las diapositivas correspondientes a dicha conferencia pueden descargarse aquí.
El primer vuelo sostenido en un avión1 despegó en el primer lustro del siglo XX y no llegó a pasar una década antes de que se desarrollaran las primeras versiones de lo que hoy llamamos «piloto automático». En el siglo y monedas de aviación que ha transcurrido desde entonces, la automatización en la industria aeronáutica ha ido creciendo y refinándose.
Podríamos pensar que una industria tan adepta a la automatización habría sido de las primeras en sumarse al verano de inteligencia artificial que estamos viviendo y, sin embargo, ha sido bastante cautelosa con su uso2. Es más, a pesar de décadas de perfeccionamiento de procesos automatizados, es una industria en la que, en la mayoría de los casos, se espera que haya no uno, sino dos humanos —un piloto y un copiloto— atentos para tomar el control si alguno de los procesos falla. Tan es así, que cuando la EASA (Agencia de la Unión Europea para la Seguridad Aérea) publicó su Hoja de ruta para la inteligencia artificial lo hizo con el subtítulo Un enfoque humano para la IA en la aviación.3
Esta precaución de la industria aeronáutica respecto a la inteligencia artificial tiene dos causas principales. En primer lugar, se trata de una de las industrias con estándares de seguridad más altos y, al menos de momento, los modelos con los que contamos no están en condiciones de cumplirlos. En segundo lugar, pero no por ello menos importante, la aviación es una industria donde la confianza de los usuarios es esencial. Sin ella, no habría millones de pasajeros dispuestos a cruzar océanos a más de diez mil metros de altura y, nuevamente, la IA actual no puede cumplir estos estándares tan altos.
Afortunadamente, además de plantear problemas, esta industria también plantea algunas soluciones para el uso de la IA. Después de todo, es una de las industrias con mayor experiencia en automatización. Es aquí donde entra el concepto de human-in-the-loop, nacido antes de la inteligencia artificial, pero perfectamente aplicable a ella hoy en día.
Humanos en el flujo
Human-in-the-loop es un patrón de diseño aplicable a sistemas de automatización. En él, el humano es una parte más de la arquitectura y con esto se busca lograr mayor precisión, seguridad, responsabilidad y llegar a decisiones más éticas4.
Además, incluir a humanos en el flujo soluciona un gran problema del uso de la inteligencia artificial: el de la asignación de responsabilidad. Al menos a la fecha, no podemos decir que los modelos que están en el mercado sean agentes morales a los que se les pueda responsabilizar por decisiones. Si un modelo comete un error en la calibración de un componente de un avión que resulta luego en un accidente, no podemos decir que el responsable es el modelo que, a fin de cuentas, no es más que un algoritmo. Pero, ¿quién sí sería responsable? Es difícil saberlo, ya que muchas veces la lógica de estos modelos opera como una caja negra y carecen de dos características clave: transparencia y explicabilidad. Involucrar a un humano (o, mejor aún, varios) en el flujo de estos sistemas es una posible respuesta a este problema.
¿Pero exactamente en qué parte del flujo debería actuar la inteligencia humana? ¿Y qué tan involucrada debería estar? La respuesta dependerá de cada caso de uso, pero para ayudar a guiarnos, proponemos tres aplicaciones de human-in-the-loop según el nivel de intervención humana.
Human-out-of-the-loop (HOOTL)
Es la aplicación con menor intervención humana. De hecho, en un sistema con un human-out-of-the-loop los procesos están totalmente automatizados. La IA actúa de forma completamente autónoma y el humano no aparece sino hasta el final del proceso, para corregir resultados de ser necesario.
Podemos ver aplicaciones de este tipo en la moderación de contenido de redes sociales. En 2020, por ejemplo, como producto de la pandemia de COVID-19, YouTube redujo su personal y delegó una mayor parte de sus procesos de moderación de videos a modelos de automatización. Como resultado, YouTube terminó bloqueando entre dos y tres veces más videos que en períodos anteriores con mayor participación humana5. En ese momento, los creadores de contenido cuyos videos fueron injustamente cancelados, debieron presentar apelaciones para que un moderador humano revisara la decisión automatizada y, de ser pertinente, revirtiera la cancelación. Ese revisor humano que corregía los errores de la IA era un human-out-of-the-loop.
Human-on-the-loop (HOTL)
En este nivel intermedio de intervención humana, la inteligencia artificial actúa de forma autónoma, pero el humano interviene si es necesario ante un error, una anomalía o cualquier otra situación que lo requiera. De esta forma, se mantiene la velocidad y eficiencia de un proceso automatizado, pero con una red de seguridad humana para casos críticos.
En este caso, la industria automotriz puede proporcionarnos un buen caso de estudio. En los últimos años, se ha trabajado mucho en desarrollar vehículos autónomos que puedan manejar sin intervención humana. Sin embargo, al menos de momento, los vehículos autónomos disponibles en el mercado solo pueden operar sin intervención humana en casos muy específicos como, por ejemplo, donde el tránsito es muy predecible6. Es por esto que, con excepciones contadas como la de Waymo7, se requiere un conductor humano que esté atento para tomar el control en momentos críticos o ante cambios en las condiciones de manejo como, por ejemplo, si se transita una zona en obras. Ese humano que toma el control del volante estaría actuando como un human-on-the-loop.
Human-in-the-loop (HITL)
En el nivel de human-in-the-loop propiamente dicho, la inteligencia artificial propone, pero es el humano el que toma la decisión final, por lo que es el ideal para casos delicados donde la responsabilidad y la ética son claves.
Es este el caso de muchas aplicaciones en el campo de la medicina. Un uso creciente de la IA en este campo, es el de evaluación de imágenes, como radiografías, ecografías y demás. Aquí, la IA puede señalar posibles anomalías que sean de interés, pero aún debería haber un imagenólogo que revise las imágenes y proporcione el diagnóstico final, debería haber un human-in-the-loop.
Desafíos y limitaciones
Claro está, si bien el patrón human-in-the-loop es una buena solución en muchos casos, no siempre será la óptima. Para entender cuándo y cómo implementarlo, debemos también entender sus limitaciones.
El primer problema con esta arquitectura tiene que ver con el costo. Es una realidad que la mayoría de las aplicaciones comerciales de inteligencia artificial hoy en día tienen como uno de sus principales objetivos reducir gastos. En este sentido, la inclusión de humanos en el flujo puede traer problemas, ya que los humanos tenemos el defecto irremediable de precisar un sueldo y condiciones de trabajo decentes (quizás nuestra principal desventaja comercial ante los modelos de aprendizaje profundo). Dicho esto, al mejorar el desempeño de los modelos, también podemos prevenir errores graves que podrían ser muy costosos en el largo plazo. Para cada caso, entonces, deberá hacerse un cuidadoso estudio de costos y beneficios al momento de analizar si human-in-the-loop es una solución adecuada.
En una línea similar, la escalabilidad es otro de los grandes problemas de esta solución. Volvamos al caso de YouTube: la cantidad de contenido subido a la plataforma es enorme y se requerirían muchísimos humanos si quisiéramos involucrarlos en mayor medida en el proceso de moderación. Esto no solo implica un mayor presupuesto, sino también contar con suficientes humanos capacitados para realizar la tarea. Incluso con un presupuesto infinito, no es difícil imaginar situaciones en las que esto sea difícil de alcanzar.
Por último, debemos reconocer que, al igual que los modelos, los humanos tenemos sesgos. Sin duda, la principal diferencia entre los sesgos humanos y los artificiales es que los humanos proporcionamos responsabilidad y explicabilidad. Sin nuestro involucramiento, la inteligencia artificial potencia y amplifica los sesgos que ha tomado de nosotros. Aun así, al momento de analizar estrategias como human-in-the-loop, es importante saber que no es un antídoto infalible para las decisiones sesgadas.
Conclusión
A fin de cuentas, human-in-the-loop es solo una solución posible para algunos de los problemas asociados al uso de inteligencia artificial. Ayuda a mitigar problemas como la influencia de sesgos ocultos, la asignación de responsabilidad por las decisiones tomadas y más, pero no es esta su función más importante. Lo importante del patrón human-in-the-loop es que nos obliga a pensar en los riesgos de la automatización y en el valor que podemos aportar como humanos.
Vivimos un momento en que la industria tecnológica parece estar convencida de que la meta debe ser la mayor automatización posible para optimizar procesos y, más aún, costos. En ese contexto, ideas como la de human-in-the-loop nos obligan a pausar y cuestionar esta idea. Nos obligan a pensar en cuándo y cómo usamos estas herramientas. Nos hacen reflexionar acerca de hasta dónde podemos llegar y hasta dónde debemos llegar. Ante una tecnología tan disruptiva como puede serlo la inteligencia artificial, nos debemos darnos el tiempo y el espacio para estos momentos de reflexión.
- https://es.wikipedia.org/wiki/Wright_Flyer ↩︎
- Si bien la IA sí está teniendo un impacto considerable en la industria de la aviación, sus aplicaciones parecen estar volcadas principalmente al control de tráfico aéreo, la prevención y el mantenimiento de aeronaves. https://www.icao.int/sites/default/files/Meetings/a42/Documents/WP/wp_389_en.pdf ↩︎
- https://www.easa.europa.eu/en/domains/research-innovation/ai ↩︎
- https://www.ibm.com/es-es/think/topics/human-in-the-loop ↩︎
- https://mashable.com/article/youtube-human-content-moderation ↩︎
- https://www.mckinsey.com/featured-insights/mckinsey-explainers/what-is-a-self-driving-car ↩︎
- https://waymo.com/intl/es/ ↩︎
La guía de IA 
Deja un comentario