Toda la verdad, y nada más que la verdad, sobre los algoritmos caja negra de Inteligencia Artificial

[vc_row][vc_column][vc_column_text]

Introducción

El Machine Learning es la rama de la Inteligencia Artificial que tiene por objetivo diseñar y desarrollar algoritmos capaces de aprender por sí mismos. Un algoritmo no es otra cosa que el código de un programa informático que funciona ofreciendo unos datos de salida dados unos datos de entrada.

Por ejemplo, un algoritmo en una industria de fabricación de piezas de acero devuelve como salida si la pieza es o no es válida dados unos datos de entrada que puede ser un escáner 3D de cada pieza. Pero esto aún no es Inteligencia Artificial (IA), un algoritmo de IA sería una evolución del anterior donde además de decirnos en tiempo real las piezas que salen defectuosas, nos hará una predicción sobre las piezas que posiblemente saldrán defectuosas en función del proveedor de acero.

Otro ejemplo de algoritmo en IA, de los miles que existen, es el que utilizaba Google Photos para etiquetar personas en imágenes. En Junio de 2015, un usuario de esta plataforma observó como el algoritmo de Google etiquetaba a sus amigos de color de piel negra como gorilas. Google decidió eliminar a los monos y a los gorilas de su sistema de IA para evitar el error, pero no revisó el algoritmo argumentando el éste era de tipo caja negra y que no sabían cómo el algoritmo había tomado dichas decisiones al etiquetar a éstas personas.

Pero ¿es cierto? ¿los algoritmos caja negra no sabemos cómo toman las decisiones? ¿Se pueden mejorar para que aprendan de forma correcta o una vez lanzados no tenemos control sobre ellos?

Veamos primera una definición para luego sacar y aclarar conclusiones.

More