Construir competencia antes que introducir herramienta
La historia del Air France 447
En junio de 2009, el avión de Air France 447, que voloba de Rió de Janeiro, a París se encontraba sobre el Atlántico cuando cruzaron una tormenta. La tormenta provocó que varios sensores del avión dejasen de funcionar lo que desactivó de forma automática el piloto automático del avión. A partir de ahí, todo se desmorona en minutos. El copiloto que toma los mandos tira del stick (volante del avión) hacia atrás, el avión empieza a perder velocidad y entra en pérdida. La alarma suena de forma repetida durante gran parte de la caída. Pero sin datos, ninguno de los tres pilotos reconoce lo que está pasando. En vez de bajar el morro para recuperar velocidad, al parecer la maniobra más básica que existe, el piloto sigue tirando del stick hacia atrás. A los cuatro minutos, el avión se estrella en el océano sin supervivientes.
La investigación oficial concluyó algo que sacudió a toda la industria: no fue un fallo técnico grave lo que mató a 228 personas (sólo fueron unos segundos sin piloto automático en un avión que seguía siendo perfectamente manejable a mano). Los pilotos habían acumulado miles de horas de vuelo, pero casi todas ellas gestionando la el piloto automático, no volando de verdad. Cuando la máquina les devolvió el control, no tenían las competencias esenciales dominadas para reconocer un stall tan básico y salir de él.
El mismo problema con otra herramienta
Puede ser que algo parecido a lo que ocurrió con el vuelo del Air France 447 lo que esté pasando con la Inteligencia Artificial (IA) y los LLM (Large Language Model). En una investigación liderada por Kosmyna titulada “Your Brain on ChatGPT”, 54 participantes divididos por grupos tenían que escribir distintos ensayos en tres jornadas de trabajo. Los grupos fueron sólo tres y tenían a su disposición diferentes herramientas: (1) Grupo sólo cerebro, sin herramientas de apoyo para escribir los ensayos; (2) Grupo de buscadores web, a los que sólo se les dió un buscador web en internet como ayuda; (3) Grupo IA, a los que se les dio Chat GPT como herramienta de apoyo para escribir.
