Las organizaciones actuales exigen a sus equipos agilidad e innovación entre otros, y para ello ven en la Inteligencia Artificial la herramienta perfecta para lograrlo. Es lógico que piensen esto, la IA es la herramienta cognitiva más potente jamás inventada, y bien utilizada puede lograr mayores tasas de innovación y mayor agilidad y productividad. Sin embargo, esto no es fácil, pues la IA mal utilizada fomenta la complaciencia intelectual.

La narrativa dominante (y por supuesto errónea) es que la IA es una especie de oráculo de la verdad de una única respuesta. Si a esta idea le sumas las conclusiones de numerosos estudios que indican que a mayor confianza en la IA menor es el esfuerzo y menor es el pensamiento crítico es cuando tenemos un problema de verdad.

No podemos delegar sin criterio en algoritmos cuya base fundamental es la estadística. El funcionamiento de nuestro cerebro se asimila al de cualquier otro músculo de nuestro cuerpo, y cuando delegamos el pensamiento en ella (la IA), ella gana inteligencia y nosotros reducimos la reducimos. Dicho de otra forma, si no utilizamos el pensamiento crítico, éste se atrofia.

Las trampas ocultas

La IA entraña un conjunto de trampas que atacan directamente nuestra capacidad de pensamiento crítico y de juicio. Te cuento sólo algunas de ellas:

• La ilusión de la competencia. Cuando utilizamos una IA para temas complejos de los que no tenemos mucho conocimiento, la IA nos ofrece resultados profundos, rápidos y razonables, y nos dá la sensación de que vamos muy rápido y de qué sabemos mucho de ese tema. Eso no es competencia o dominio de un tema, es ilusión.
• Sesgos de confirmación y deseabilidad. Quién no le ha preguntado a la IA en algún momento que la parece una idea que acabamos de tener ¿Y cuál es su respuesta? “Buenísima, eres un crack”. La IA está diseñada para no generar fricción y eso le hace reforzar nuestros más profundos deseos de confirmación y deseabilidad. Dile a la IA que deseas algo y pondrá toda su energía en dártelo, sea bueno o no.
• Fluidez narrativa disfrazada de veracidad. Esta es un trampa ya estudiada por Kahneman en “Pensar rápido. Pensar despacio”. Es el sesgo de la narrativa, y es cuando creemos algo por el simple hecho de estar bien contado. Error.
• Regresión a la media. Esta es una de esas trampas que es muy difícil de observar de la IA. Cuando le pedimos a una IA la solución a un problema, ésta nos va a llevar hacia soluciones razonables que ya han funcionado anteriormente, es decir, nos va a llevar hacia un punto medio coherente y plausible. Pero la media no siempre es lo mejor, y estaremos obviando los extremos en donde en muchas ocasiones aparecen las oportunidades. Ya lo describía anteriormente en otro post: La innovación está en frontera, y no en el punto medio.

El Desafío

Las trampas ocultas de la IA están, pero como suelo decir “Hay que preocuparse más por la Inteligencia Humana, y no tanto por la Inteligencia Artificial”, por eso os traslado algunas recomendaciones a la hora de trabajar codo con codo con la IA:

• Cuestionamiento activo. Nunca dejes de cuestionar los resultados de una IA, recuerda que es un algoritmo estadístico y nada más, muy bueno, pero nada más. Busca errores, puntos débiles y alucinaciones. He tomado la costumbre de que cada vez que le pido algo a una IA revisa los resultados, es decir, simpre después de una petición pido una revisión, y siempre, siempre, encuentra errores o mejoras. Nunca aceptes la primera salida como la buena.
• Alternativas mejor que el oráculo de la verdad. Es frecuente pedirle a la IA una solución a un problema, es decir, una única salida. Esto es un error, ya que si nos pilla con urgencia, aceptaremos esa salida como buena y la adoptaremos. El proceso correcto es distinto, se trata de pedir alternativas y posibles soluciones con distintos criterios de impacto que nos hagan, a nosotros, tomar la decisión entre todas las alternativas.
• Sparring cognitivo. Esta es uno de esos hábitos que más me gusta. Se trata de utilizar la IA no para darme soluciones, sino para reventar soluciones. Cuando tengo un problema y esbozo la idea de una solución, le pido a la IA que actúe como abogado del diablo o Red Team y le digo que busca los puntos débiles, los errores y las incongruencias de mi solución. Incluso en el mejor de los casos, utilizo el rol playing y le pido que se comporte como un abogado cabreado, o un financiero enojado, en función del tipo de problema.
• Consciencia algoritmica. Un estudio de hace más de 50 años pero muy, muy útil hoy, inventó el término “Efecto Elyza” y que describe el hecho de que pasados unos 10 minutos utilizando la IA empecemos a perder la noción de que se trata de un algoritmo informática para empezar a ver en ella trazos humanos. Y cuando esto ocurre, cuando damos aspectos humanos a la IA, empezamos a confiar en ello reduciendo nuestra capacidad de análisis crítico. Nunca olvides de que detrás de esa caja de texto hay un programa informático. No caigas en la trampa de buscar consciencia, emociones o sentimientos ¿Tendría sentido hacerlo en una calculadora? Como dijo una vez Dennis Hassabis, CEO de Google DeepMind: “El problema no vendrá cuando la IA tenga consciencia propia, vendrá cuando la gente crea que es así”.

Conclusión

La ventaja competitiva personal de cada uno de nosotros en la era de la IA generativa no pertenecerá a quien sepa utilizar más herramientas, sino a quien mejor proteja su capacidad de pensamiento crítico. La IA debe ser la herramienta capaz de potenciar tu talento, pero no tu estupidez. Todo depende de cómo la utilices.