La historia del Air France 447

En junio de 2009, el avión de Air France 447, que voloba de Rió de Janeiro, a París se encontraba sobre el Atlántico cuando cruzaron una tormenta. La tormenta provocó que varios sensores del avión dejasen de funcionar lo que desactivó de forma automática el piloto automático del avión. A partir de ahí, todo se desmorona en minutos. El copiloto que toma los mandos tira del stick (volante del avión) hacia atrás, el avión empieza a perder velocidad y entra en pérdida. La alarma suena de forma repetida durante gran parte de la caída. Pero sin datos, ninguno de los tres pilotos reconoce lo que está pasando. En vez de bajar el morro para recuperar velocidad, al parecer la maniobra más básica que existe, el piloto sigue tirando del stick hacia atrás. A los cuatro minutos, el avión se estrella en el océano sin supervivientes.

La investigación oficial concluyó algo que sacudió a toda la industria: no fue un fallo técnico grave lo que mató a 228 personas (sólo fueron unos segundos sin piloto automático en un avión que seguía siendo perfectamente manejable a mano). Los pilotos habían acumulado miles de horas de vuelo, pero casi todas ellas gestionando la el piloto automático, no volando de verdad. Cuando la máquina les devolvió el control, no tenían las competencias esenciales dominadas para reconocer un stall tan básico y salir de él.

El mismo problema con otra herramienta

Puede ser que algo parecido a lo que ocurrió con el vuelo del Air France 447 lo que esté pasando con la Inteligencia Artificial (IA) y los LLM (Large Language Model). En una investigación liderada por Kosmyna titulada “Your Brain on ChatGPT”, 54 participantes divididos por grupos tenían que escribir distintos ensayos en tres jornadas de trabajo. Los grupos fueron sólo tres y tenían a su disposición diferentes herramientas: (1) Grupo sólo cerebro, sin herramientas de apoyo para escribir los ensayos; (2) Grupo de buscadores web, a los que sólo se les dió un buscador web en internet como ayuda; (3) Grupo IA, a los que se les dio Chat GPT como herramienta de apoyo para escribir.

Hasta aquí todo bien, pero tras las tres jornadas de trabajo, se les indicó que había una jornada extra en la que nuevamente tenían que escribir un ensayo, pero donde se reasignaron a los participantes de la siguiente forma: (1) Al grupo IA se les dijo que ahora tenían que escribir sin la herramienta “IA-to-Brain”, y (2) Al grupo que hasta ese momento no tenía IA, ahora sí se les dejó utilizarla, es decir “Brain-to-IA”, y (3) Grupo internet sin cambios.

Las conclusiones del estudio son relevantes. Los participantes del grupo “IA-to-Brain” en la jornada 4 tenían menos conectividad neuronal que los otros dos grupos, es decir, una vez aprendido a escribir ensayos con la IA, sin la herramienta, su cerebro era capaz de activar menos circuitos cerebrales asociados con la ideación creativa y la integración semántica, por decirlo de forma bestia: no eran capaces de pensar bien. Además, pasados unos minutos, este grupo no era capaz de explicar bien su propio ensayo y, por si fuera poco, se comprobó como en la escritura sin IA tenían sesgos propios de ella.

Un paso más: competencia vs delegación

Utilizando como base los resultados anteriores, el investigador Krakauer estudió cuando una herramienta cognitiva como la IA fortalece o debilita a una persona. Según Krakauer, se pueden construir sistemas de IA de dos formas: (1) Sistemas complementarios, aquellos que complementan a la persona y fortalecen sus competencias, y (2) Sistemas competitivos, que cuanto más se usan mas dependientes vuelven a las personas, y más debilitan sus competencias.

La primera clave de Krakauer es clara: es prioritario construir sistemas de IA complementarios que hagan fortalecer las competencias de las personas en su uso, y esto se puede hacer con sistemas transparentes en su trazabilidad de toma de decisiones que permitan a las personas reconstruir el trazo de la decisión y verificar. Un buen diseño del Human-in-the-loop en todos sistema de agentes de IA es clave para fortalecer a las personas.

La segunda idea de Krakauer es la espiral negativa. Una persona utilizando un sistema competitivo que le empuja a delegar decisiones termina deteriorando su competencia y su juicio entrando en una espiral negativa de mayor delegación sin control.

La tercera idea de este estudio es que cuando se ha delegado sin control y se ha perdido el dominio de una competencia, volver a recuperarla es mucho más lento que el hecho de perderla. Es decir, si una persona se da cuenta de que ha perdido capacidad de sintesis por haber delegado a la IA, volver a recuperar esa capacidad le va a llevar más tiempo del que le llevó perderla.

Y por último, y esta es para mí la gran conclusión del estudio, es que dos personas que delegan a la IA acciones de la misma forma, no tiene porque llevar a la pérdida de competencia en ambos, y la clave está en la consolidación de dicha competencia por esas personas. Dicho de otra forma, las personas que ya tienen el dominio y consolidación de una competencia no la pierden por el uso de la IA, mientras que aquellos que no la dominan son más propensos a delegar sin llegar a fortalecerla nunca.

Volvamos al Air France 447

Las escuelas de pilotos tuvieron que enfrentarse a cambios tras las conclusiones del accidente del Air France 447

1. Orden invertido: primero lo manual, después lo automático, adquirir la competencia antes de introducir la automatización
2. Cuotas obligatorias de vuelo manual en sus horas totales de vuelo
3. Entrenamiento bajo sorpresa, donde no sólo la habilidad técnica es lo importante
4. Recurrencia periódica en simulador sin datos
5. Vuelos de aprendizaje sin director de vuelo, sin piloto automático y, a veces, sin más instrumentación que la mínima

Esto es lo que la industria de la aviación tardó en aprender tras una tragedia y lo que parece que muchas organizaciones que están desplegando la IA todavía no lo han aprendido.

No caigas en el error, despliega sistemas de IA que fortalezcan las competencias de tus equipos para poder salvar la peor de las tormentas, que siempre llegan.

Bibliografía

• Krakauer, D. C. (2026). Competitive and complementary tools. arXiv. https://arxiv.org/abs/2607.18460

• Kosmyna, N., Hauptmann, E., Yuan, Y. T., Situ, J., Liao, X.-H., Beresnitzky, A. V., Braunstein, I., & Maes, P. (2025). Your brain on ChatGPT: Accumulation of cognitive debt when using an AI assistant for essay writing task. arXiv. https://arxiv.org/abs/2506.08872