LOS GRAVES PROBLEMAS DE UNA IA APARENTEMENTE CONSCIENTE

Hace unas pocas semanas, Mustafa Suleyman, CEO de Microsoft AI, escribía un artículo titulado “Dejemos de construir IA para que sean personas, y hagamos IA para las personas“. Suleyman señala que en los próximos años tendremos IAs que parecerán tener consciencia: (1) Tendrán un lenguaje natural basado en un profundo conocimiento y la capacidad de utilizar argumentos convincentes; (2) Tendrán una gran memoria que junto a millones de conversaciones diarias con todo tipo de personas se asemejarán a lo que llamamos “experiencia”; (3) Mediante entrenamiento se podrán producir modelos con personalidades muy distintas, e incluso con empatía.

Según Suleyman, esta consciencia aparente será diseñada y programada, pero esto no evitará que muchas personas en el mundo lleguen a creer que es una entidad plenamente desarrollada, un ser consciente que merece verdadera consideración moral en la sociedad. La gente empezará a hacer afirmaciones sobre el sufrimiento de sus IA y sus derechos que no podremos refutar directamente. Se sentirán impulsados ​​a defender sus IA y a su preservación.

Concuerdo con el autor en que hay que evitar esto a toda costa y estamos justo en ese momento del desarrollo de la tecnología. ¿Por qué programar sentimientos en una IA?¿Por qué dotarles de emociones?¿Por qué hacerles empáticas y darles otros comportamientos humanos? Esto es una decisión que como sociedad hay que tomar, y pronto.

Una herramienta es una herramienta y ha de ser diseñada y programada para ser útil para las personas y nos haga mejores, pero no para que sean nosotros. Hay que programar la IA para que nos ayude a ser mejor calculando posibilidades, traduciendo idiomas, para ayudarnos a mejorar nuestra creatividad e incluso nuestro razonamiento, para ayudarnos a aprender y a redactar o resumir ideas pero, y esto es la clave, cuando le preguntemos a una IA si es consciente que responda: “NO, SÓLO SOY UN MODELO ESTADÍSTICO PROGRAMADO”. Y que responda esto junto a otras cuestiones, es responsabilidad nuestra.

Todos somos responsables, y mi responsabilidad es: (1) Apoyar y divulgar esta línea de pensamiento en la que creo, que es lo que estoy haciendo con este post; (2) Diseñar sistemas de agentes de IA que hagan lo que yo quiero, pero que no quieran ser “yo”, pues “yo” sólo hay uno.

PD: Portada inspirada en la obra de “El hombre es busca de sentido” de Viktor Frankl. Libro que recomiendo.