Esta semana estoy cruzando dos ideas que me han ocurrido simultáneamente en los últimos dos días. Por un lado, estuve reunido con el CEO de una empresa que, al igual que muchas, me pedía poder automatizar más procesos para que el equipo fuera más rápido y llegara a producir el doble. Esto está bien, pero la siguiente pregunta que le hice lo dejó algo descolocado: “¿Has pensado en cómo será el crecimiento del equipo dentro de tres años cuando ya nadie recuerde cómo se trabajaba sin IA? O peor aún: ¿has pensado en cómo tu equipo tomará decisiones sobre información ya ‘cocinada’ por la IA?”
Lo segundo que me ha ocurrido es que ha llegado a mí un paper reciente (Gutoreva, Tsim y Papakonstantinou, aún en preprint) que viene a concluir que los sistemas de IA mal diseñados están optimizados para reducir fricción y esfuerzo, pero que es precisamente esa fricción la que produce el aprendizaje y el crecimiento. Es decir, lo que hace la IA fácil de usar es exactamente lo que impide que el equipo se desarrolle. En el paper lo llaman la paradoja del crecimiento frente al confort, y recoge una idea previa del investigador Giuseppe Riva.
La pregunta central de todo esto es la siguiente: ¿se puede conseguir automatización para incrementar la productividad a la vez que desarrollar equipos para el futuro? La respuesta es sí, y depende del diseño del sistema IA.
Las dos fricciones que todo arquitecto de procesos IA debe distinguir
En mi tarea como arquitecto de procesos IA, para conseguir a la vez mayor productividad y aprendizaje, me obligo a distinguir dos tipos de fricción en cualquier flujo de trabajo:
➡️ La fricción del hacer es la que no enseña nada. Formatear un documento, buscar un dato público, agregar información de tres sistemas. Automatizar aquí es aumentar productividad.
➡️ La fricción del pensar es la que forma el criterio humano, el juicio. La síntesis, la selección sobre aquello que importa de verdad, el juicio de qué omitir, la formulación de la pregunta correcta antes de mirar el dato. Automatizar aquí es peligroso y reduce el desarrollo del equipo.
La mayoría de proyectos de automatización que veo no distinguen entre estas dos capas. Optimizan tiempo y las eliminan las dos. El coste de esa indistinción no aparece en el trimestre siguiente; aparece dos o tres años después, cuando la organización descubre que ya no tiene equipo capaz de pensar sin la IA delante.
Las cuatro preguntas que me hago antes de automatizar un proceso
Mi recomendación, y lo que yo sigo, es que te hagas las siguientes preguntas cuando vayas a meter automatización:
1️⃣ ¿Qué está aprendiendo el humano en este paso? Si no aprende nada, adelante.
2️⃣ ¿En qué momento del flujo entra el humano? Si el humano ve primero lo que ha hecho la IA y luego “lo revisa”, en realidad ya no lo revisa: lo acepta con pequeños retoques, porque el cerebro tiende a dar por bueno lo que ya parece razonable.
3️⃣ ¿Cómo detectas que el equipo no se desarrolla? Un proceso que se automatiza sin que una persona pueda revisarlo de vez en cuando aplicando criterio humano es un error.
4️⃣ ¿Es reversible? Una automatización revisada debe poder ser modificada sin coste alguno por la empresa. La reversibilidad es un activo estratégico.
La automatización no es el problema
Importante: la automatización no es el problema, es el futuro de toda organización. El problema es diseñar mal la automatización, de manera que no permita el desarrollo del equipo ni su criterio humano.
Diseñar bien significa poner las dos variables sobre la mesa desde el primer día: cuánta productividad ganamos y cuánta capacidad conservamos. Un buen arquitecto de procesos IA no elige entre una y otra. Las diseña juntas.
Preguntas frecuentes
¿Qué es la paradoja del crecimiento frente al confort en IA?
Es la idea, formulada por Giuseppe Riva y recogida en investigación reciente sobre cognición humano-IA, según la cual los sistemas de IA optimizados para reducir esfuerzo y fricción terminan inhibiendo el aprendizaje y el crecimiento cognitivo del usuario. Lo que hace la IA cómoda de usar es exactamente lo que impide que el equipo se desarrolle usándola.
¿Automatizar un proceso con IA reduce la capacidad del equipo?
Depende del diseño. Automatizar tareas de bajo aprendizaje (formatear, agregar datos, buscar información pública) no afecta al desarrollo del equipo. Automatizar tareas de alto aprendizaje (síntesis, juicio, selección de qué importa) sí lo reduce si no se compensa con mecanismos de diseño específicos.
¿Qué hace un arquitecto de procesos IA?
Rediseña los procesos de una organización para integrar IA con criterio, buscando aumentar la productividad sin degradar la capacidad futura del equipo. A diferencia de un consultor de IA genérico, su foco no está en identificar dónde usar IA, sino en cómo debe cambiar la forma de trabajar para que la integración sea sostenible en el tiempo.
¿Cómo saber si un proceso automatizado con IA está degradando al equipo?
La pregunta operativa: ¿este equipo todavía sería capaz de ejecutar el proceso sin la IA durante un día? ¿Y con cuánta caída de calidad? Si nadie puede responder a esa pregunta, el proceso está fallando en silencio.