Las obras de arte producen reglas, pero las reglas no producen obras de arte
(Claude Debussy)
Si la relación de la humanidad y, por lo tanto, de las personas, con la técnica y la tecnología que desarrollan tiene un carácter fundamentalmente emancipador o si, por el contrario, dibuja un horizonte de creciente sumisión o subordinación de la naturaleza y la acción humanas a los límites impuestos por el funcionamiento de las máquinas, es undebate que ha tenido lugar con cada avance tecnológico experimentado por la humanidad.
Por eso, no debería sorprendernos que el uso de algoritmos[1], inteligencia artificial (IA) [2] y data minning[3] para llevar a cabo y decidir en torno a procesos clave de nuestra sociedad éste suscitando hoy en día encendidos debates, tanto en la sociedad, en general, como en el mundo de la empresa, en particular.
De hecho, lo peligroso sería que estuviéramos asumiendo de forma acrítica su uso; es decir, que no nos preguntáramos sobre los impactos que genera su utilización o sobre cuál debe ser el marco ético y legal que las regule. Y es, precisamente, para contribuir a dicho debate que me gustaría analizar en este post dos de sus temas clave:
¿Liberación del trabajo o dependencia algorítmica?
Esta pregunta se centra en dilucidar hasta qué punto el uso de la tecnología algorítmica, el data minning o la IA pueden llegar a convertir el trabajo humano en una mera traslación de las “decisiones” o resultados arrojados por las máquinas a la realidad. En este sentido, existe toda una corriente de pensadores/as que están señalando el peligro de que la capacidad de aprendizaje y decisión de muchas personas en su ámbito profesional se vea significativamente reducida por el uso de estas nuevas tecnologías.
En esta línea se sitúa el influyente pensador Nicholas Carr que, en su libro Atrapados (2014), señala que la excesiva automatización del trabajo puede llevar a un atrofiamiento o regresión de las capacidades humanas adquiridas, fruto de la costumbre de delegar muchas de nuestras funciones cognitivas en manos de máquinas y procesos automatizados:
“Al relevarnos del ejercicio mental repetitivo, (la IA) también nos revela del conocimiento profundo acerca de nuestro trabajo. (…) Así, las oportunidades de los trabajadores de desarrollar habilidades más cualificadas, como las relacionadas con la interpretación y el análisis, disminuyen».
Este autor alerta de cómo el conocimiento se desplaza hacia otro lugar – ¿la persona o la empresa que programa el algoritmo?, ¿el propio algoritmo que va mejorando u optimizando su funcionamiento, a veces, sin que sepamos muy bien cómo?[4] – y se aleja de la persona trabajadora, precisamente, en el momento en que, como señalan Maite Darceles y Julen Iturbe “es el conocimiento de las personas trabajadoras, su habilidad y su motivación para detectar oportunidades de mejora, de adecuación y aprovechamiento de oportunidades, lo que permite reducir al mínimo el gap espacio-temporal entre idea y actuación” (Darceles e Iturbe, 2008) y, por lo tanto, mejorar la competitividad de la empresa.
Otros autores, además, señalan que la excesiva confianza otorgada al resultado de la tecnología algorítmica y la IA pueden llevar a minimizar u obviar hechos que se estén observando en la realidad y que no hayan sido considerados o incluidos en el cálculo matemático. Así, tal y como señala Ignasi Beltrán en su artículo “Automatización y obsolescencia humana”:
“En algunos ámbitos profesionales, se está constatando que la sobredependencia técnica (amparada en el «fundamentalismo de los datos», el «parametricismo») tiende a limitar la creatividad y/o el talento (existe un interesante debate al respecto entre los arquitectos) y/o bien coartar la investigación, pues si consideramos suficientes los cálculos automatizados de probabilidades para nuestros propósitos profesionales y sociales, corremos el riesgo de perder, o al menos debilitar, nuestro deseo y motivación de buscar explicaciones, de aventurarnos por los caminos tortuosos que conducen a la sabiduría y el asombro.”
Si bien es cierto que lo mencionado hasta ahora puede suceder y será necesario establecer un estricto control del impacto social y de las consecuencias concretas que las acciones basadas en decisiones logarítmicas tengan sobre la realidad y las vidas de las personas, no deja de ser menos cierto que estas tecnologías tienen un alto potencial y que pueden llegar a transformar por completo el mundo tal y como lo conocemos. Por eso, es preciso que, además de generar un discurso crítico y de cierta resistencia o cautela ante su implantación, también nos vayamos preparando para su llegada.
A este respecto, resulta de interés preguntarse cuáles pueden ser aquellas funciones en las que los seres humanos somos, de momento, más eficaces que las máquinas y, por ello, difícilmente sustituibles. El informe “Future of Jobs, 2020» del Foro Económico Mundial identificaba quince habilidades cuya demanda aumentará en el mercado de trabajo en los próximos años[5]. Casi todas ellas tienen que ver con aquello que, al menos de momento, nos hace específicamente humanos: la creatividad, la innovación, el liderazgo, la persuasión y la motivación. Llama la atención, eso sí, la ausencia en esa lista de características relacionadas con el manejo y la expresión de las emociones, la empatía, la capacidad de cuidado y el afecto. Me aventuro a pensar a que esa ausencia no se debe tanto al hecho de que esas habilidades no serán importantes en los trabajos del futuro[6], sino a que existe un sesgo en los datos que maneja el Foro Económico Mundial en su informe…menos mal que no han construido un algoritmo en base a ellos! 😉
Control algorítmico vs Ética algorítmica
Otro de los puntos fundamentales del debate en torno al impacto de estas nuevas tecnologías en el mundo del trabajo gira en torno a cuestiones fundamentalmente éticas: la atribución de responsabilidad en la toma de decisiones algorítmicas, la necesidad de que los algoritmos cuyas decisiones tienen un impacto directo en la vida de las personas y en el acceso a y el ejercicio de derechos fundamentales (salud, trabajo, libertad[7], privacidad, derechos sociales[8]…) sean transparentes y estén sujetos a una rendición de cuentas públicas, así como la regulación del control que las empresas pueden llevar a cabo de las sobre las personas trabajadoras mediante el uso de estas nuevas tecnologías.
A este respecto, son muchos los avances que han tenido lugar en los últimos años, tantos que España cuenta ya con una ley – la apodada Ley Rider – que, entre otras cosas, obliga a las empresas a hacer públicos los algoritmos que utiliza y que afectan a las condiciones de trabajo de su plantilla[9]. Asimismo, la Unión Europea publicó en Febrero de 2020 el Libro Blanco sobre Inteligencia Artificial y un año después presentaba una propuesta de regulación que tiene como objetivo armonizar las leyes relativas al uso de la IA en todos los estados miembros para conseguir una IA segura y fiable para todas las personas usuarias.
Así pues, ya sea debido a la presión ejercida por la sociedad, o debido a la consciencia sobre los eventuales riesgos que este tipo de tecnologías entrañan, lo cierto es que el establecimiento de límites y regulaciones al uso de estas tecnologías está empezando a llegar, también a las empresas[10].
Sin embargo, me interesa reflexionar aquí sobre cómo este tipo de tecnologías parecen estar siendo aplicadas por muchas empresas como una estrategia de refinamiento del control empresarial sobre las personas trabajadoras y no como un apoyo o un recurso para potenciar el despliegue de las capacidades productivas y la creatividad de estas mismas personas.
A este respecto, me parece de sumo interés la reflexión de Darceles e Iturbe (2008) en su artículo “Antes y ahora, necesitamos personas conectadas. Personas y tecnología se dan la mano para ahondar en los valores cooperativos”, sobre cómo deberíamos concebir la introducción de nuevas tecnologías dentro de la empresa:
“Las nuevas tecnologías –como las viejas– son productos o creaciones humanas que utilizamos para expandir nuestras capacidades. Y tienen un enorme potencial de expansión de las capacidades humanas, de nuestro conocimiento y de nuestra socialización. Éstas pueden ser colocadas conceptualmente en el centro como las portadoras de la ventaja competitiva. Si este resulta ser nuestro planteamiento nos anclamos en la era ya agotada, sustituimos las máquinas de las cadenas de montaje y las posteriores innovaciones tecnológicas por las nuevas tecnologías de la información y comunicación en continuo desarrollo, pero se nos escapa de las manos el cambio de era que se está produciendo. Captar la dimensión del cambio en el contexto competitivo que estamos viviendo exige, sin embrago, hacer que las nuevas tecnologías giren alrededor de la persona, entenderlas desde su potencial de humanización y de expansión del factor competitivo clave, que es el conocimiento.”
En la misma línea, Ignasi Beltrán en su artículo Algoritmos y derecho al trabajo señala que:
“Deberíamos proponernos (con las debidas cautelas y transparencia) que los avances en la técnica no se dirijan exclusivamente a suplir a los seres humanos, sino a complementar y potenciar nuestras habilidades. Esto es, aunque pueda parecer un brindis al sol, una “automatización centrada en los humanos” y no la actualmente predominante e inercial “automatización centrada en la tecnología”.
Está claro que el estrecho vínculo que ha unido la génesis de las instituciones sociales modernas –entre ellas, la empresa – con el refinamiento de las formas de control social de la población no facilita esta tarea. Y es que, esta asociación continúa estando – de forma más o menos consciente o inconsciente – muy vigente en la cultura de numerosas empresas y organizaciones sociales. Así, pareciera que cuando la tecnología nos da la oportunidad de aumentar ese control sobre el/la otro/a, cayéramos en la tentación y optáramos por la solución “fácil” de reforzar el control individual y colectivo, en lugar de emprender el, por supuesto, menos previsible y controlable, camino de construir confianza mutua, conciencia colectiva y responsabilidad grupal como forma de hacer frente a los retos y al trabajo colectivo. Y es que, si cambiáramos nuestro punto de vista, tal vez el debate sobre el impacto que estas nuevas tecnologías van a tener a nivel ético, económico y social en las próximas décadas, no se centraría tanto en poner coto a aquello que es técnicamente posible, como en discutir acerca de cómo hacer realidad aquello humanamente deseable que estas nuevas tecnologías nos pueden ayudar a conseguir.
BIBLIOGRAFÍA:
- O’Neil, Cathy (2017), Armas de destrucción matemática, Capitán Swing.
- Beltrán, Ignasi (2019). Artículo: Automatización y obsolescencia humana. Blog: Una mirada crítica a las relaciones laborales.
- Beltrán, Ignasi (2022). Artículo: La irrupción de los algoritmos en el Derecho del Trabajo. Blog: Una mirada crítica a las relaciones laborales.
- Benavav, Aaron (2019). La automatización y el futuro del trabajo – I Parte. New Left Review, 119.
- Carr, Nicholas (2014). Atrapados: cómo las máquinas se apoderan de nuestras vidas. Ediciones Taurus S.A.
- Darceles, Maite y Julen Iturbe (2008). “Antes y ahora, necesitamos personas conectadas. Personas y tecnología se dan la mano para ahondar en los valores cooperativos”. Artículo originalmente publicado en catalán en: Revista Nexe. Nº22. Edita: Federació de Cooperatives de Treball de Catalunya.
- Kaplan y Haenlein (2019). A Brief History of Artificial Intelligence: On the Past, Present, and Future of Artificial Intelligence. California Management Review. Volume: 61 issue: 4, page(s): 5-14
[1] Un algoritmo es un código software que procesa un conjunto limitado de instrucciones, llevando directamente a un usuario a una respuesta o resultado particular dada la información disponible Permite, típicamente, solucionar un problema, realizar un cómputo, procesar datos y llevar a cabo otras tareas o actividades. Fuente: https://es.wikipedia.org/wiki/Algoritmo.
[2] La inteligencia artificial es, en ciencias de la computación, la disciplina que intenta replicar y desarrollar la inteligencia humana y sus procesos implícitos a través de computadoras. Desde un punto de vista práctico, refiere a la capacidad de un sistema para interpretar correctamente datos externos, para aprender de dichos datos y emplear esos conocimientos para lograr tareas y metas concretas a través de la adaptación flexible (Kaplan y Haenlein, 2019).
[3] La minería de datos o exploración de datos es un campo de la estadística y las ciencias de la computación referido al proceso que intenta descubrir patrones en grandes volúmenes de conjuntos de datos. Utiliza los métodos de la inteligencia artificial, el aprendizaje automático, la estadística y sistemas de bases de datos. El objetivo general del proceso de minería de datos consiste en extraer información de un conjunto de datos y transformarla en una estructura comprensible para su uso posterior como información relevante para la toma de decisiones. Fuente: Minería de datos – Wikipedia, la enciclopedia libre.
[4] Las nuevas generaciones de IA tienen funciones de machine learning y deep learning, lo cual, les permite mejorarse a sí mismas, es decir, mejorar sus procesos y capacidades de aprendizaje a medida que son utilizadas. Para más información sobre estos conceptos se puede consultar: <Deep Learning: qué es y por qué va a ser una tecnología clave en el futuro de la inteligencia artificial>.
[5] Esas habilidades serían: pensamiento analítico e innovación, aprendizaje activo y estrategias de aprendizaje, resolución de problemas complejos, pensamiento y análisis crítico, creatividad, originalidad e iniciativa, liderazgo e influencia social, uso, monitoreo y control de la tecnología, diseño de tecnología y programación, experiencia de usuario y resolución de problemas, resiliencia, tolerancia al estrés y flexibilidad, inteligencia emocional, orientación de servicio, análisis de sistemas y evaluación, persuasión y negociación.
[6] La actual crisis de los cuidados y la necesidad de mano de obra cualificada para trabajar en esos sectores hace que estas personas trabajadoras también vayan a jugar un papel clave en el futuro del mercado laboral, sobre todo, teniendo en cuenta que su tipo de trabajo es muy difícilmente sustituible por el de máquinas inteligentes o robots. El sector de los cuidados abarca a aquellas personas que trabajan en el ámbito de la salud, la atención social, la educación y el trabajo doméstico. Para más información ver el Informe “El trabajo de cuidados y los trabajadores del cuidado para un futuro con trabajo decente” (ILO, 2019)
[7] RisCanvi: luces y sombras del algoritmo que ayuda al juez en Cataluña a decidir si mereces la condicional. Publicado en: El País. 11/07/2021.
[8] Véase: “HRW denuncia la automatización de los subsidios sociales en el Reino Unido” .
[9] Las empresas se niegan a desvelar sus algoritmos laborales un año después de aprobarse la obligación legal. Publicado en: elDiario.es, 19/05/2022.
[10] Facebook cerrará su sistema de reconocimiento facial. Publicado en: El Periódico, 2/11/2021.