Inteligencia artificial: una invitación a que cambiemos de actitud, con Margarita Padilla

La “inteligencia artificial” nos causa cierto rechazo, por motivos que quizá no seamos capaces de explicar muy bien. Y al mismo tiempo, nos maravilla cuando vemos que nos da unos resultados (a veces) tan buenos y rápidos. Digo “a veces”, porque también puede ofrecer resultados totalmente equivocados. Revestidos siempre, eso sí, de verosimilitud.

El rechazo que nos causa puede llevarnos a evitarla, a alejarnos, o a criticarla sin argumentos sólidos. Pero, aunque nosotras la ignoremos o critiquemos, seguirá adelante, operando y afectando directa e indirectamente en nuestras vidas.

Su esfuerzo por acercarnos con lenguaje didáctico y sencillo nociones básicas para entender qué es y qué no es la inteligencia artificial y la evolución de esta tecnología me parece admirable. A lo largo del libro, y con muchas anécdotas y ejemplos, nos explica las dos líneas de desarrollo tecnológico paralelas: la logicista, o también llamada simbólica, y la conexionista o neuronal. También habla de los sistemas de retroalimentación, tanto del propio proceso como de inputs externos. O de los errores. Nos adentraremos en nociones como qué significa una máquina que aprende. De manera sorprendente, dada la complejidad del tema que trata, llegamos a entender grosso modo los grandes elementos que hay detrás de una IA y colocarlos en un posible flujograma sencillo. Sencillo, pero cuya complejidad va creciendo. También seremos conscientes de que, igual que un ordenador está formado por miles de elementos que cumplen distintas funciones, una aplicación de IA también está formada por subconjuntos que cumplen distintas funciones. Aunque, a personas como yo, que no somos expertas en temas informáticos, muchas cosas nos resulten difíciles y lejanas, creo que el libro consigue algo muy importante: convencernos de que hemos de cambiar de actitud a la hora de abordar estos temas.   

Y es que uno de los ejes de la “ideología” que rodea a la inteligencia artificial es que creamos que es algo demasiado difícil y lo convirtamos en una especie de mito sobre el que no hagamos preguntas. La actitud que demuestra con este texto y a la que nos invita Padilla va en sentido contrario: dejemos de mitificarla, hagamos las preguntas que nos interesan, analicemos y actuemos en consecuencia.

El término “inteligencia artificial” no se suele utilizar de manera precisa, nos explica Padilla. Lo que en tecnología podemos llamar inteligencia artificial abarca mucho más de lo que suele nombrarse como tal. Hay un aura propagandística (“celofán”) en lo que rodea a este término, que pretende generar una “ideología” a través de:

• Presentarla como algo sumamente complejo, y a su vez, aséptica o neutral. Ambas características neutralizan la crítica.
• Presentarla como útil gracias a todas las cosas que podemos conseguir de manera sencilla. [Una anécdota de mi propia experiencia: subimos una foto (oscura y de mala calidad) de un gancho de un armario que no sabíamos cómo soltar, y la IA de Google nos dio todos los detalles de qué era, cómo funcionaba y cómo se soltaba. Y lo conseguimos. Asombroso].

Presentada como algo realmente útil y práctico y deslegitimada la vía crítica, la ideología que pretende instalarse es la de una nueva autoridad (incuestionable) a la que debemos someternos. Y es que una de las características principales de muchas de estas aplicaciones, las de tecnología conexionista o neuronal, es que no es posible rastrear el proceso que ha llevado a la conclusión, con lo que no es posible su revisión (al menos, a la manera que estamos acostumbrados). Y otra característica, que no es tecnológica, sino de orden sociopolítico, es que suelen responder a una política privativa, oscura y opaca.

La propuesta de Padilla es clara: deberíamos dejar de hablar tanto de “inteligencia artificial” de forma genérica y deberíamos hablar de las tecnologías y aplicaciones concretas.

Y de manera situada, las preguntas que pueden servirnos para un análisis de cada caso son del tipo: ¿Quién tiene el control? ¿Con qué objetivos opera? ¿De qué datos se alimenta? ¿Su código es o no es abierto? ¿Qué tipo de seguimiento se hace para analizar tanto la eficacia según los objetivos planteados como para ver cómo está generando cambios en el entramado de relaciones?… [Y este concepto de “entramado de relaciones” tiene mucha relevancia, como veremos más adelante, en el discurso de Padilla].

Realidades complejas requieren una visión multidisciplinar. Nos habla de un ejemplo: VioGen, una aplicación para ayudar a la policía a evaluar el riesgo para la víctima en casos de denuncias de violencia machista y decidir el nivel de protección. Una herramienta como esta requiere el conocimiento de personas expertas en violencia de género, que analicen tanto el diseño, cada elemento del flujograma, como, una vez en marcha, los resultados, desde una perspectiva global.   

En función análisis de este tipo, podremos tener una perspectiva crítica bien fundamentada de cada herramienta concreta.

No hay tecnologías buenas y malas, nos dice Padilla, y tampoco depende del uso que se le dé, como suele decirse, sino que cada aplicación configura un contexto de relaciones, y es todo el entramado el que hay que analizar. Por ejemplo, la tecnología de fabricación de coches no es ni buena ni mala. La clave tampoco está en que utilicemos los vehículos para asuntos de vital importancia, como trasladar bolsas de sangre para transfundirlas, o, en el extremo opuesto, para atropellar a gente. Estas perspectivas no nos ayudan a una mayor comprensión y sentido crítico, no tienen mucho recorrido. Lo que hay que analizar es que el coche ha supuesto una reconfiguración de los espacios, de la movilidad, de los ritmos de vida, de las prioridades… En el mismo sentido, no se trataría de construir redes sociales “buenas”, con contenidos de calidad y socialmente comprometidos. Porque, siendo, como es, la lógica de las redes sociales, “apresar” nuestra atención, es desde ahí desde donde habría que analizar lo que tiene que ver con las redes sociales. Y volviendo a la aplicación VioGen, lo que sucede en este tipo de aplicaciones, es que, aunque se planteen como una herramienta de ayuda, muchas veces las personas las utilizan delegando su decisión a “lo que diga la máquina”, con lo cual los errores que estas máquinas producen pueden llevarnos a situaciones muy preocupantes. Más aún si las vemos como una nueva autoridad que nos da soluciones, que nos supera y no vamos a llegar a comprender, en lugar de verlas como herramientas que no nos sustituyen, sino que nos ayudan y cuyo funcionamiento tenemos que evaluar y mejorar continuamente. Porque, nos asegura Margarita Padilla, “siempre van a tener errores”. Esto es inevitable. Y si cada vez más se aplican a ámbitos como la medicina, la educación, la asistencia social, la seguridad, etc. necesitamos saber mucho más de cómo hemos de utilizar estas herramientas y cómo no. Así, creo que la formación genérica sobre IA debería estar más orientada a cómo generar capacidades críticas que a hacer difusión de herramientas que se suponen útiles.   

Veo y valoro lo que gracias a estas tecnologías de IA se puede conseguir. Los traductores automáticos, por ejemplo, dan a veces muy buenos resultados, para según qué contextos o pares de idiomas. Y siguen avanzando. El libro de Margarita Padilla me ha hecho entender mejor por qué se me activa una alerta cada vez que veo que se utiliza este término de manera acrítica. Y la clave no está en hacer críticas genéricas, ni presentar las bondades genéricas, sino en dotarnos de información y herramientas para ser capaces de tener criterio sobre los usos concretos, las aplicaciones concretas, los entramados concretos de relaciones que transforma. 

Tras recorrer por Marx, Heidegger y Simondon, Padilla acaba haciendo una propuesta que se sitúa, a mi entender, muy próxima a los planteamientos de Donna Haraway, a quien cita varias veces en el texto, pero no en esta parte: hacer simbiosis con entornos humanos concretos, entre cosas, máquinas, personas, animales, etc. Superar la visión de que podemos tenerlo todo bajo nuestro dominio y control y buscar otra forma de vincularidad. 

A continuación, extraigo algunas citas del libro para seguir animando a quien aún no se haya decido a leerlo.

[pág. 79] ¿Qué es el celofán? El celofán es la aureola con la que se envuelve el producto. No se trata solo del empaquetado tecnológico, sino de la legitimidad que lo envuelve. Cómo se presenta, cómo lo percibe la gente. El celofán es la emoción positiva, la carga de positividad que acarrea el producto, su necesidad, su bondad. El envoltorio es lo mejor del regalo. Hay que construir la validez, la licitud del producto, impresionar, cautivar, hacerlo deseable. Hay que borrar del mapa las preguntas que los sistemas sanitarios se plantearon en torno al mycin. No más preguntas. «Nosotros, los magnates, controlaremos las preguntas. Ya os diremos lo que se puede preguntar y lo que no. Nosotros, los magnates, controlaremos vuestras ideas y opiniones. Ya os diremos lo que es una inteligencia artificial y lo que no. Y, por supuesto, ya os decimos de entrada que inteligencia artificial es solo lo que hacemos nosotros».

Y ¿cómo se hace para controlar el celofán? Pues lanzando mensajes apocalípticos abstractos que ocupen el espacio que podrían tomar los debates situados.

[Pág. 82] (…) mientras esos mismos empresarios, investigadores o ingenieros que están creando y explotando inteligencias artificiales toman el megáfono para alertarnos de los riesgos existenciales que estamos asumiendo como humanidad, se deja de poner atención en las situaciones concretas de discriminación algorítmica, de perpetuación de patrones de discriminación racial, social o de género, de exacerbación de estereotipos, de desinformación, de costes medioambientales o de precariedad laboral.

La estrategia de las élites del sector es enunciar los riesgos como algo abstracto y al mismo tiempo preservar el celofán de los productos concretos. Hablar de riesgos de exterminio de la humanidad omitiendo el entramado de relaciones de poder en medio del cual la inteligencia artificial se está implantando. Levantar gigantes que oculten los molinos.

La consecuencia es grave. Las mismas élites controlan el desarrollo y las críticas. De esta manera ofuscan completamente las posibilidades no ya de una soberanía tecnológica popular, sino de una mínima comprensión real de qué son las inteligencias artificiales, cuáles son las tecnologías base, quién las está desarrollando, cómo se están implantando, quién se está beneficiando…

[Pág. 120] (…) en la mayoría de los casos hay un amplio margen de decisiones tecnológicas posibles (…) cada una de las decisiones decanta el proyecto hacia donde se quiera deslizar. (…) Hay margen. Todo se puede hacer de maneras muy diferentes.

[Pág. 122] Softcatalà es una comunidad que autodetermina las tecnologías convenientes para cada problema tecnosocial que se trae entre manos. Tiene conocimientos y tiene posicionamiento. Qué duda cabe de que un traductor automático, utilice la tecnología que utilice, es una inteligencia artificial. Sin embargo, en su web la narrativa sobre las promesas de la inteligencia artificial no tiene ninguna relevancia. No necesitan celofán. No necesitan marketing. En cambio, sí la tiene la defensa de la lengua propia, la lucha contra la privatización del conocimiento y la defensa de los recursos comunes. Por eso publican los modelos neuronales y los corpus que utilizan. Hay inteligencias artificiales que no necesitan exhibirse.

[Pág. 141] Detrás de un chat generativo brillante y pulido, listo para mantener conversaciones amables y corteses, hay mucho trabajo humano, explotación y sufrimiento.

[Pág. 145] Cuando se dice que una inteligencia artificial aprende sin intervención humana, a partir de los datos, conviene poner el acento en la cantidad de intervención humana que es necesaria para que se produzca ese aprendizaje automático. Los datos se tienen que identificar, obtener, preparar y dar por buenos. El modelo, el enfoque computacional, se tiene que definir al milímetro. El testeo y la validación también son actividades humanas. Y el ensamblaje de esa máquina en el entorno social donde va a operar como una pieza más en combinación con otras piezas tecnológicas, sociales, políticas o económicas está sujeto a infinidad de decisiones relevantes ajenas a la tecnología, tomadas por personas o grupos humanos. En la producción de inteligencia artificial la cantidad de trabajo humano es enorme: grupos y personas inmersos en entramados de alianzas, conflictos y relaciones de poder, más o menos subalternos entre sí, que condensan en la máquina sus visiones, intereses u objetivos, pero también sus penalidades, sufrimiento y pobreza. Es lo que Mary Gray llama el trabajo fantasma.

Las corporaciones se ufanan de lo rápido que aprenden sus inteligencias artificiales, de lo eficientes que son sus algoritmos. Pero no explican cuánto trabajo humano, en diferentes jerarquías y con diferente reconocimiento social y económico, hay detrás. Los costes medioambientales y sociales no entran en la ecuación.

Muchísimas gracias, Marga, por este magnífico trabajo.

Compartir