BLACKOUT COGNITIVO: CUANDO LAS MÁQUINAS NEGOCIAN ENTRE ELLAS CON PERSONAS
Parece un capítulo de hashtag#BlackMirror pero no lo es. Hace unos días hablaba con un alumno y me contaba que había hecho su CV completo con Gemini y que lo había hecho así porque los evaluadores son también algoritmos de IA. Aquí hay un tema importante a resaltar: cuando una persona hace un CV siempre incluye matices que otra persona (evaluador) valorará de él, pero ¿Y si el evaluador es una IA? Parece tener sentido pensar que una IA incorporará igualmente matices a ese CV que otra IA valorará de forma positiva.
Os pongo otro ejemplo. Como director de un programa máster de IA Generativa que soy, cuando llegan los trabajos finales, muchos de ellos son de automatizaciones que permiten desarrollar contenido en blogs personales y de empresa a una gran velocidad. Lo curioso del tema, y por aquí sigo mi reflexión anterior, es que los alumnos utilizan prompts para la generación de contenido donde les piden expresamente que el contenido sea alto valor para otras IAs. De nuevo, pedimos a una IA que hago algo que será evaluado por otra IA, como un motor de búsqueda.
Imagina ahora un abogado que se apoya en la IA para redactar un contrato de compraventa, le dice las ideas principales y la IA redacta el documento de 12 páginas. El contrato lo recibe otro abogado que utiliza la IA para no leer el documento completo y que le resuma las ideas principales. ¿Crees que las ideas principales del abogado creador serán las mismas ideas principales del abogado receptor habiendo pasado por dos IAs?
Ante esta situación de creación y revisión del contenido por algoritmos, desde una perspectiva empresarial el negocio es de las grandes tecnológicas. Desde una perspectiva humana perdemos individualidad. Desde una perspectiva cognitiva, lo que podría ser una herramienta para aumentar nuestras capacidades cognitivas como el razonamiento y el sentido crítico, se convierte, por pereza cognitiva, en todo lo contrario, en la reducción de nuestras capacidades. Desde una perspectiva cultural ganamos en cantidad de contenido, pero un contenido repetitivo, sin valor ni novedad alguna. Desde la perspectiva educativa, si tenemos estudiantes preparando trabajos con IA que luego evalúan profesores con otras IAs ¿Quién enseña realmente?¿Quién aprende?
Para reflexionar: ¿Qué narices estamos haciendo? Tengo claro que la tecnología es esencial para el progreso, y todos estamos aprendiendo a utilizar la IA por lo que es normal que cometamos errores, pero una cosa son errores puntuales y otra muy distinta es haber tomado el camino equivocado. Me preocupa esta situación, y creo que una forma de solventarlo es seguir formando, capacitando y educando para fortalecer nuestros procesos cognitivos. Al menos así lo entiendo, y por eso me lancé a crear un canal de youtube sobre tecnología y cognición.
Link canal de youtube: https://lnkd.in/dqYHD68U
