Revista de Estudios Jurídico Laborales y de Seguridad Social
REJLSS/ESTUDIOS DOCTRINALES
Esta obra está bajo licencia internacional Creative CommonsEsta obra está bajo licencia internacional Creative Commons Reconocimiento-NoComercial-CompartirIgual 4.0.

INTELIGENCIA ARTIFICIAL Y CONTRATACIÓN LABORAL

ARTIFICIAL INTELLIGENCE AND HIRING JOB
José Iván Pérez López
Investigador del Grupo PAIDI SEJ-587 sobre “Economía y fiscalidad frente al envejecimiento poblacional”
Universidad de Málaga
joseivanperezlopez@gmail.com  ORCID ID 0009-0005-0865-0125
Recepción de trabajo: 11-09-2023 - Aceptación: 18-09-2023 - Publicado: 20-09-2023
Páginas: 186-205

RESUMEN:
La disrupción digital ha revolucionado muchos aspectos de la vida, incluyendo el proceso de contratación de personal. En este nuevo contexto, se ha producido una transformación significativa en la forma en que las empresas seleccionan a los candidatos para sus puestos de trabajo. En lugar de depender exclusivamente de currículos en papel, ahora se utilizan plataformas y sistemas inteligentes basados en internet para analizar los perfiles de los aspirantes de manera rápida y eficaz. Este enfoque proporciona una selección más objetiva y eficiente para las empresas, lo que les permite identificar a los candidatos más adecuados para el puesto de trabajo. No obstante, la rápida y masiva aplicación por empresas de dichas inteligencias artificiales ha generado un contexto sin precedentes, una tierra de nadie desde la perspectiva jurídica, que escapa al control de las leyes y dificulta su regularización.

PALABRAS CLAVE: selección de personal, discriminación, algoritmos digitales, igualdad, sesgos discriminatorios, Derecho Laboral, género.

ABSTRACT:
Digital disruption has revolutionized many aspects of life, including the process of hiring employees. In this new context, there has been a significant transformation in the way companies select candidates for their job positions. Instead of relying solely on paper resumes, platforms and intelligent internet-based systems are now used to analyze applicants’ profiles quickly and efficiently. This approach provides a more objective and efficient selection process for companies, enabling them to identify the most suitable candidates for the job position. However, the rapid and widespread application of such artificial intelligences by companies has generated an unprecedented context, a legal gray area that escapes the control of laws and makes regulation difficult.

KEYWORDS: artificial intelligence, discrimination, digital algorithms, equality, labor law, gender.

1. INTRODUCCIÓN ↑

La globalización y el liberalismo económico han creado un contexto en el que cualquier producto o servicio puede ser vendido en cualquier parte del mundo. La necesidad empresarial de expandirse y abarcar más mercados ha llevado a la implementación de sistemas tecnológicos y digitales en estas empresas, lo que ha redundado en beneficios en términos de eficiencia y reducción significativa de costos. La celeridad del mercado ha impregnado también los departamentos de recursos humanos, que han visto una oportunidad de ofrecer empleo de manera sencilla y accesible tanto para la empresa que contrata como para los aspirantes.

Sin embargo, la cuarta revolución industrial ha afectado tanto al número como a la diversidad de empleos disponibles. Cada vez se requieren más conocimientos en competencias digitales, informática, software, y otras habilidades relacionadas. El empleo del futuro será mayoritariamente digital e inescindiblemente incardinado a las inteligencias artificiales.

La sociedad actual se encuentra en un punto de inflexión en este sentido. Somos la generación experimental de una invención sin precedentes, lo cual nos deja expuestos a sufrir inexorablemente los efectos negativos que traigan dichas inteligencias consigo. Muchos países de la UE han advertido la peligrosidad del uso de estas tecnologías, que escapan con facilidad al control de los Poderes Públicos.

Diversos autores han detectado ciertas irregularidades presentes en dichas inteligencias a la hora de implementarlas en procesos de selección. Alertan que los algoritmos reproducen los prejuicios sociales, desembocando en la aparición de discriminaciones que pasan inadvertidas deviniendo inútil gran parte de la protección consagrada en nuestras leyes. Nos encontramos ante un fenómeno de apariencia invisible pero de efectos negativos reales. Adquiere tintes de urgencia la necesidad de adaptar y encontrar en nuestro ordenamiento jurídico medidas y herramientas de protección a los trabajadores frente a este nuevo escenario laboral del siglo XXI.

2. INTELIGENCIA ARTIFICIAL. CONCEPTO Y CARACTERÍSTICAS ↑

Una aproximación general acerca de la definición de la inteligencia artificial podría conceptuarse como aquella habilidad de una máquina de presentar las mismas capacidades que los seres humanos, como el razonamiento, el aprendizaje, la creatividad y la capacidad de planear1. Para el profesor Jordi Nieva Fenoll, supone “la capacidad de que las máquinas puedan pensar o imitar el pensamiento humano a base de aprender y utilizar las generalizaciones que las usamos para tomar nuestras decisiones habituales” 2. El progresivo desarrollo tecnológico ha hecho emerger un panorama de multitud de inteligencias capaces de realizar casi cualquier cosa, de los cuales podrían extraerse varios elementos comunes en todos ellos, tales como el aumento de la celeridad de los procesos, eficacia en la gestión de los recursos disponibles, reducción de costes de mano de obra, etcétera. En definitiva, ha creado de suyo un terreno específico cuya multitud de autores la definen como computación cognitiva, es decir, la posibilidad que una máquina tiene de imitar la psique humana o el modo de pensar humano. Para la profesora Aragüez Valenzuela “es la simulación de inteligencia humana por parte de las máquinas. Dicho de otro modo, es la disciplina que trata de crear sistemas capaces de aprender y razonar como un ser humano, aprendan de la experiencia, averigüen cómo resolver problemas ante unas condiciones dadas” 3.

En el derecho laboral, la utilidad de estas inteligencias artificiales incide de lleno en la contratación laboral, bien como mecanismo de filtración para una selección de personal más específica, precisa y rápida, así como método de descarte automatizado de candidatos sin necesidad de pasar por un proceso personal, cara a cara, con el responsable de reclutamiento pertinente. La utilidad del uso de la IA tampoco se agota aquí, pues, tal y como describe Asquerino Lamparero, sirve también de utilidad durante la extensión y desarrollo de la relación laboral contraída entre empleador y trabajador, utilizando máquinas que registren la entrada y salida de los trabajadores; la vigilancia y control de los trabajadores, pudiendo servir de prueba a la hora de justificar un despido, etc.4

Machine learning (por sus siglas en inglés ML), significa aprendizaje automático. Se trata de una rama concreta de la inteligencia artificial dirigida a la resolución de problemas específicos, tales como tareas de clasificación o predicción5. Son algoritmos con capacidad autónoma, trabajan dentro de una concreta base de datos y, una vez sistematizado y programado para la consecución de unos fines determinados fijados por la empresa, llevan a cabo tareas de filtración de información, predice situaciones, identifica patrones, evoluciona y aprende de su propia experiencia para la consecución de los objetivos fijados por la empresa.

2.1. Proceso de selección mediante inteligencia artificial ↑

La implementación de los sistema de IA en el proceso de selección de personal está más en auge que nunca. El notable ahorro que supone para las empresas la contratación mediante algoritmos lo convierte en una vis atractiva para mejorarla eficiencia de dichos procesos elevando su calidad, normalmente realizados por el departamento de Recursos Humanos. Las selecciones de talento se lleva a cabo mediante evaluaciones automatizadas, entrevistas on line o de forma digital aunque el más relevante es, sin duda, el análisis de los datos recogidos destinados a analizar los currículos y filtrar candidatos apropiados6.

Esta alternativa es atrayente no sólo para empresas sino también para los propios candidatos, pues la implementación de dicho sistema automatizado, permite a los aspirantes presentar su candidatura de forma más accesible, rápida y sencilla. Supone un ahorro en tiempo, desplazamiento e incluso, promueve la concurrencia, ya que ofrece la posibilidad de presentar dicha candidatura a aspirantes de fuera de la localidad o provincia del lugar físico de la empresa, ya que la presentación on line posibilita esta opción sin necesidad de afrontar el coste de desplazamiento para presentar currículos.

Existen multitud de empresas que ofrecen dicha posibilidad mediante su presentación en la página web corporativa. Según datos de Global Hiring Trends7, investigación realizada por el software Korn Ferry8, se llegó a la conclusión de que la implementación de estos sistemas de contratación tenían un efecto positivo en el proceso de selección.

Dichas ventajas fueron:

Estas ventajas se obtienen mediante el trabajo realizado por la inteligencia artificial. Su método consiste en la realización de tareas programáticas y repetitivas basadas en preentrevistas, contacto con aspirantes, emisión de informes9 pero sobre todo, como hemos citado anteriormente, el principal protagonista es el filtrado de currículos. Las tareas encomendadas tienen criterios preestablecidos por el empresario o departamento de RRHH, a fin de que gestione y trabaje bajo criterios predeterminados destinados a un concreto perfil que es el buscado por la empresa. Dicho lo anterior, ¿Cómo funciona el proceso de selección mediante IA?

Según Economía 3 10, podemos resumirlo de la siguiente manera:

2.2. Sistema de selección natural y selección artificial ↑

Desde los últimos años está confrontándose dos tipos de sistemas de selección de personal: El sistema tradicional y el sistema moderno o digital11. A menudo ambos chocan a la hora de encontrar postulantes para un determinado trabajo, pues los criterios de selección son distintos según cual se use.

El sistema tradicional podría definirse como aquel modelo de selección de candidatos cuyo objetivo es cubrir una determinada vacante. Se centra en tres aspectos del candidato: Su currículo, su experiencia profesional previa y su capacidad.

En este tipo de procesos, el responsable de selección, normalmente encargado del departamento de RRHH, juega un papel decisivo. En este sistema predomina un fuerte presencialismo, ya que, evaluado de forma objetiva el currículo del aspirante, suele proseguir o concluir el proceso con una entrevista personal. La principal preocupación de los encargados del proceso de selección pivota sobre el salario a percibir sin atender, en principio, los resultados obtenidos por el trabajador12. Este sistema ha sido el empleado desde los orígenes de la relación laboral del siglo XX. El individuo, por medio de la adquisición de conocimientos, aprende un determinado oficio. No se basa en el conocimiento de meras técnicas de uso aplicadas a un sistema de producción. No solamente supone el instrumento para solventar nuestros problemas de subsistencia económica sino la verdadera actividad en la que el hombre se realiza así mismo psíquica, social y personalmente.

Por otra parte, el sistema artificial no se enfoca tanto en la experiencia profesional o su capacidad o conocimiento, sino en las competencias de uso, es decir, en el manejo solvente de las nuevas tecnologías. Se buscan postulantes con competencias digitales, adaptados a las necesidades del nuevo mercado digital. Esta selección por competencias13 busca un perfil muy específico donde la experiencia profesional queda relegada a un segundo plano.

La progresiva e inexorable desaparición del trabajo físico, el emergente mercado de empleo digital relacionado con la tecnología e informática, demandará perfiles basados en habilidades digitales y no tanto en experiencia o conocimiento. La aparición de estas inteligencias artificiales supone una crisis de este sistema de selección tradicional, cuya aplicación bajo el Derecho del Trabajo, traerá las correspondientes crisis, derivadas por la revolución tecnológica y por la nueva morfología del mercado global, que harán desaparecer las instituciones más tradicionales14.

2.3. Presentismo ↑

La cuarta revolución industrial y la disrupción digital han traído consigo una transformación en la forma de desempeñar el trabajo. Como consecuencia de la pandemia, se hizo necesaria la implementación urgente de medidas encaminadas a la facilitación de la prestación laboral a distancia o por medio del teletrabajo. Ello desembocó en la Ley de trabajo a distancia15, modificando el artículo 13 del Estatuto de los Trabajadores16, reconociendo expresamente que “las personas trabajadoras podrán prestar trabajo a distancia en los términos previstos en la Ley 10/2021 de trabajo a distancia”. Esta modalidad laboral puso sobre la mesa los conceptos de presentismo y absentismo laboral. El primer concepto se refiere a la necesidad del empleado de acudir a su puesto de trabajo a pesar de padecer problemas de salud, dificultando su recuperación a largo plazo17. La implementación del teletrabajo o trabajo a distancia, a priori, resuelve este tipo de irregularidades y riesgos psicosociales, pues evita que el trabajador afronte jornadas de trabajo interminables y evita problemas de motivación (personal y/o laboral). Esta relación, presentismo y salud, pese a no encontrar cobertura en nuestro ordenamiento jurídico español bajo la condición de derecho fundamental, sí lo encuentra como principio rector de la política social y económica18 (artículo 43.1 y 2 de la Constitución española), así como en normativa supranacional. De hecho, reciente sentencia proveniente del Tribunal Superior de Justicia de Cataluña19 asocia lógicamente, el presentismo con la salud: “(…) el despido (o su amenaza) por razón de enfermedad, puede afectar a la integridad física (art.15 CE) y a la dignidad (art.10.1 CE), cuando el trabajador, para evitar la pérdida de su puesto de trabajo, acude al puesto de trabajo en perjuicio de su integridad física y salud, que es lo que se ha denominado por la doctrina como presentismo”. Por tanto, este perjuicio podrá ser aplacado notablemente si los Poderes Públicos fomentan el desempeño del teletrabajo a distancia o teletrabajo, modalidad a la que contribuye positivamente la aparición de las inteligencias artificiales en la relación laboral, pues en el futuro, la mayor parte de los puestos de trabajo serán prestados desde casa o a distancia, redundando en un aumento de la productividad. Mencionamos algunos de los principales beneficios de suprimir el presentismo laboral20:

2.4. Ventajas e inconvenientes entre varios sistemas ↑

Respecto a las ventajas o aspectos positivos, el proceso de selección por medio de algoritmos contribuye a una mayor agilización del proceso de selección de postulantes La búsqueda automatizada de potenciales perfiles mediante filtrado de currículos, redunda en rapidez y agilidad. Consecuencia inmediata de lo anterior lo constituye el ahorro de tiempo invertido en dicho proceso, así como una mayor eficacia/precisión derivada de la alta objetividad y de la minimización del margen de error humano21. Este sistema también redunda positivamente en beneficio de los candidatos, pues favorecen la comunicación aspirante-empresario sobre el estado del proceso de selección así como de cualquier novedad o cambio relacionada con la candidatura.

Respecto a los inconvenientes o desventajas de la IA en los procesos de selección de personal, podría decirse que el principal factor negativo supone el coste añadido de inversión en dichas inteligencias. Las pequeñas y medianas empresas (PYMES) no suelen tener acceso a estos modernos sistemas debido al gran coste que supone. Por esta razón, suelen ser empresas de grandes dimensiones o multinacionales las que invierten en estos sistemas. Superado el coste de inversión, su implementación en la empresa requeriría una formación de carácter previo del personal al frente del departamento de RRHH. Estas tecnologías requieren una formación específica y continua, lo que dificulta encontrar personal cualificado con este tipo de competencias digitales22. Otra desventaja bastante controvertida supone la futura desaparición de puestos de trabajo como consecuencia de la automatización.

Según datos del Randstad23 en estudio realizado en 202124, en 2030, más del cincuenta por ciento de los trabajos acabará automatizándose. Esto conllevaría la sustitución de mano de obra humana por máquinas además de un evidente aumento de la tasa de desempleo en España. También se prevé la creación de un nuevo tipo de empleo basado en el uso de las IA y los algoritmos digitales. Este sería sin lugar a dudas el mayor inconveniente derivado de la cuarta revolución digital. Sin embargo, otros estudios25 más optimistas relevan que la progresiva aparición de dichos trabajos compensará la desaparición de los otros. Otra desventaja proviene de los llamados sesgos algorítmicos. Según la Real Academia Española, el sesgo se define como “Error sistemático en el que se puede incurrir cuando al hacer muestreos o ensayos se seleccionan o favorecen unas respuestas frente a otras 26”. Dicha definición es genérica y abstracta pues abarca todos los ámbitos de la cuarta revolución industrial.

La sociedad actual se encuentra inserta en un mundo automatizado. En base a lo anterior, nuestras acciones son fruto de la persuasión o inducción de los algoritmos para distorsionar o modificar nuestra capacidad de decisión. Bajo el pretexto de la celeridad, facilidad y accesibilidad, estudian nuestro comportamiento económico para influirnos a la hora de comprar un producto u otro. Esto no escapa al mercado de trabajo, pues la IA selecciona sin tener en cuenta más que los criterios insertos en ella a fin de obtener candidatos más adecuados y rentables para la empresa. El actual entorno digital ha impregnado todo el contexto social de los ciudadanos así como la forma de relacionarnos27, por lo que se hace necesario establecer medidas de protección concretas y rigurosas. Los sesgos generados pueden provenir de distintos tipo de datos, tales como textos, redes sociales, ubicaciones de GPS e incluso imágenes28. La IA parte de dichos datos desarrollando un aprendizaje automático que no tiene en cuenta estereotipos, ética, prejuicios, o valores adaptados a la sociedad contemporánea. Existen por consiguiente diferentes sesgos algorítmicos29:

Esta cuestión acerca del sesgo algorítmico será tratada en mayor profundidad en los siguientes epígrafes.

3. REGULACIÓN JURÍDICA DE LA INTELIGENCIA ARTIFICIAL ↑

En un primer momento, podía subsumirse, en sentido preventivo, la inteligencia artificial en el artículo 4.7º d) de la Ley 31/1995, de prevención de riesgos laborales equiparando dicha inteligencia a una condición de trabajo30: “Se entenderá como «condición de trabajo» Todas aquellas otras características del trabajo, incluidas las relativas a su organización y ordenación, que influyan en la magnitud de los riesgos a que esté expuesto el trabajador”. El ordenamiento jurídico español no define en términos jurídicos la inteligencia artificial. Tan sólo existía una mención a las IA en el artículo 64.4 d) del Estatuto de los trabajadores: “El comité de empresa, con la periodicidad que proceda en cada caso, tendrá derecho a (…) Ser informado por la empresa de los parámetros, reglas e instrucciones en los que se basan los algoritmos o sistemas de inteligencia artificial que afectan a la toma de decisiones que pueden incidir en las condiciones de trabajo, el acceso y mantenimiento del empleo, incluida la elaboración de perfiles”. La inclusión de este apartado no hace mención expresa sobre qué es la inteligencia artificial, limitándose a dispensar un derecho de información a los trabajadores, pero sin otorgar expresamente derechos de protección frente ella. Más adelante la Ley Orgánica 3/2022, de 31 de marzo, de ordenación e integración de la formación profesional, dispuso en la disposición adicional tercera un plan de competencias en digitalización e inteligencia artificial en la formación profesional, que tampoco define la inteligencia artificial ni ofrece regulación específica.

Gran avance por parte del legislador se produce con la promulgación de la Ley 15/2022 integral para la igualdad de trato y no discriminación31. La exposición de motivos aborda “la igualdad de trato y no discriminación en el ámbito de la inteligencia artificial y mecanismos de toma de decisión automatizados”. Por primera vez se establece un abanico de protección frente a la Inteligencia Artificial, gestión masiva de datos etc., (artículo 3.1 o). Sin embargo seguimos sin regulación jurídica conceptual. Esto puede generar problemas de atipicidad, inseguridad jurídica, lagunas o falta de taxatividad del término. Aunque es cierto que el inciso final añade un cajón de sastre definiendo dichas inteligencias artificiales como aquellas “de análoga significación”, sin embargo, ello no es suficiente por vulneración del 9.3 CE así como de principios básicos reguladores del régimen sancionador. Esta carencia conceptual de inteligencia artificial no ha sido un caso aislado en España, sino que también sufren la misma situación muchos países de la Unión Europea. Por ello el legislador supranacional ha dado luz verde a la propuesta de Reglamento de Inteligencia Artificial32. Dicha propuesta ha elaborado un concepto de IA graduando su impacto o incidencia en tres escalones.

Se denomina IA de alto riesgo cuando reúna los siguientes requisitos: “Un sistema de IA se considerará de alto riesgo (…) cuando se encuentre mencionado en cualquiera de los ámbitos siguientes: Empleo, gestión de los trabajadores y acceso al autoempleo 33:

Esta propuesta de Reglamento se prevé que salga a luz próximamente. El Reglamento espera ver la luz en 2024 pretendiendo dar seguridad jurídica a todos los Estados miembros y no dejar situaciones fuera de su aplicación.

Profundizando más acerca de los mencionados límites baremados, se distinguen, de menor a mayor como, IA de riesgo bajo o mínimo, riesgo alto y riesgo inaceptable.

También dispone un anexo con una lista de prácticas prohibidas por IA35. Estos baremos precisan de definición específica, por lo que la versión final habrá de responder a dicha exigencia reclamada en varios considerandos reflejados en el Reglamento. Esta propuesta de Reglamento, una vez entrado en vigor y por tanto, de inmediata aplicación en España constituirá la piedra angular de la Agenda España Digital 2026, cuya estrategia nacional de inteligencia artificial (ENIA), se enmarca en el Plan de Recuperación, transformación y Resiliencia de la economía española36. Fruto de dicho plan se encuentra la creación en España de la futura Agencia Española de Supervisión de Inteligencia artificial37. Dicha agencia será competente para asegurar el cumplimiento de la normativa referente a IA. Del mencionado Reglamento no se observa una visión positiva sobre la IA, ya que restringirá su uso respecto de la selección algorítmica de candidatos. Se deduce claramente la imposibilidad o prohibición de uso de algoritmos de selección en procesos de contratación laboral, pues vulnera o pone en tela de juicio numerosas normativas y derechos fundamentales. En primer lugar el artículo 18.1 CE, de cuya normativa destaca la ya mencionada Ley 3/2018, de 5 de diciembre, de Protección de Datos Personales y Garantía de los Derechos Digitales, la Carta de Derechos Digitales y en definitiva todo el elenco de derechos constitucionales reconocidos a las personas.

3.1. Vicisitudes en el proceso de selección mediante inteligencia artificial ↑

La implementación de algoritmos en la gestión del empleo permite a las empresas superar aquellos “impulsos humanos”, redundando en la obtención de resultados altamente eficientes y objetivos. Permite superar subjetividades humanas que influyen en la contratación, tal y como afirma Jesús R. Mercader Uguina: “su uso permite garantizar que las contrataciones no se basen en corazonadas, impresiones o prejuicios 38”. La ventaja de aplicar sistemas de selección de personal por medio de inteligencias artificiales supone un ahorro de los gastos en comparación con la selección tradicional. No obstante, su aplicación no está exenta de riesgos, sesgos y otros aspectos negativos que no son ajenos al ordenamiento jurídico y al elenco de derechos reconocidos en multitud de disposiciones. A la hora de aplicar estos sistemas debemos acotar no sólo el contexto jurídico que debe imperar respecto de los procesos de selección realizados por máquinas, sino también el uso que se les da a dichas herramientas digitales39. Dicho lo anterior, esta utilización masiva de datos y su aplicación en la contratación debe encontrar encaje dentro de las normas jurídicas40. La aplicación de dichos algoritmos de selección va mucho más deprisa que su regulación jurídica, provocando lagunas legales que no hallan solución frente a sesgos, discriminación y desigualdad sistemáticos generados por la IA. La empresas deben reparar en ello, a fin de evitar sesgos en la relación laboral, apelando a una contratación ética41. En conclusión, pese a que el Tratado de Versalles en su art. 427 proclama como un principio fundacional de la OIT que: “el trabajo no debe ser considerado simplemente como una mercancía o un artículo de comercio”, debemos tener en cuenta la dificultad para reconocer esta nueva forma de discriminación, pues la discriminación algorítmica es operatoriamente invisible42.

3.2. Discriminación y sesgos en la implementación de algoritmos ↑

Para empezar a hacer las correcciones Desde hace algunos años, han venido apareciendo casos sobre discriminación algorítmica, tales como el caso de Amazon43, Twitter44, Tumblr45 entre otros. La aparición sistemática de dicha discriminación se debe a los prejuicios existentes transmitidos por el empleador o empresario, responsables del departamento de RRHH o los informáticos creadores del software encargado de realizar la selección algorítmica de candidatos.

La existencia de estos sesgos pone de manifiesto la falta de transparencia en su utilización, generando discriminación en diferentes colectivos vulnerables. Uno de los sesgos más llamativos es el calificado como sesgo específico de género que analizaremos a continuación. En el caso de Europa, destacan, por ejemplo, la Sentencia del Tribunal Ordinario de Bolonia de 31 de diciembre de 2020 (caso Deliveroo). En ella, la parte demandante alega discriminación indirecta debido a que los trabajadores eran puntuados por la IA, que usaba como criterios de puntuación la disponibilidad y la fiabilidad. El tribunal considera que este sistema de puntuación genera discriminación, pues el algoritmo de la empresa no reconocía el derecho de los trabajadores a ejercer su derecho a huelga, situaciones de baja por enfermedad, u otras que justifiquen su inasistencia. El ejercicio de dichos derechos incidía negativamente en la puntuación de dichos trabajadores, generando automáticamente una discriminación derivada del algoritmo empleado46. Otra sentencia interesante es la dictada por el Tribunal Distrito de La Haya (Países Bajos) publicada el 5 de febrero de 2020 por la que se declara la ilegalidad de un algoritmo (SyRI) diseñado para detectar posibles fraudes fiscales relacionados con la Seguridad Social y con Hacienda. El algoritmo era capaz de cuantificar, en términos numéricos, el grado de probabilidad de los ciudadanos de cometer delitos de fraude contra dichos organismos públicos. La parte actora denuncia la infracción argumentando la ilegalidad de dicho algoritmo respecto a la protección de datos47, pues supone una intromisión ilegítima y desproporcionada al derecho a la intimidad y a la vida privada desproporcionada48. El tribunal estima la argumentación de la parte demandante declarando su ilegalidad. En el caso de España, la SAN de 10 de mayo de 2021 resuelve un caso de discriminación algorítmica, basado en el control programático de las pausas permitidas al trabajador durante su jornada, exigiendo a todos estar continuamente conectados. El control llevado a cabo por dicho algoritmo discriminaba a las personas mayores de edad necesitadas de más pausas fisiológicas que los trabajadores más jóvenes49.

En el caso de España, la SAN de 10 de mayo de 2021 resuelve un caso de discriminación algorítmica, basado en el control programático de las pausas permitidas al trabajador durante su jornada, exigiendo a todos estar continuamente conectados. El control llevado a cabo por dicho algoritmo discriminaba a las personas mayores de edad necesitadas de más pausas fisiológicas que los trabajadores más jóvenes50.

3.2.1. Discriminación por razón de género ↑

La ausencia de representación femenina ayuda al mantenimiento y perpetuación de aquellos estereotipos de género en nuestra sociedad51. Esta falta de visibilidad de las mujeres en ciertos sectores afecta a la toma de decisiones automatizadas, reflejando los mismos sesgos y discriminaciones, convirtiendo dichos algoritmos en un elemento excluyente e injusto que, atenta contra las numerosas normativas referentes a la igualdad efectiva entre mujeres y hombres52. Un caso bastante ilustrativo fue el ocurrido en la empresa Amazon. En 2018 empleó un algoritmo digital para llevar a cabo un proceso de selección de personal. Para ello el algoritmo empleó los datos de los solicitantes presentados durante diez años. Como la inmensa mayoría de los currículos presentados provenían de hombres, el algoritmo sesgó de forma discriminada los presentados por mujeres, reproduciendo el sesgo de género que obraba en la base de datos de dicha empresa. La implementación de algoritmos de aprendizaje automático clasificó los currículos desechando, penalizando o descartando aquellos que contenían palabras como mamá o femenino.

Otro caso interesante es el ocurrido en la red social Facebook. Diversos estudios han evidenciado que dicha plataforma dirigía anuncios específicos sobre empleo excluyendo a las mujeres53. Así mismo la plataforma daba la posibilidad a los arrendadores de filtrar determinados perfiles de inquilinos en función de concretos aspectos como la raza, su ubicación geográfica entre otros. Además permitía que su anuncio fuera visto tan sólo por los inquilinos que cumplieran dichas exigencias.

En definitiva, podría decirse que las inteligencias artificiales suponen un obstáculo añadido a las mujeres. En 2019, según datos de la UNESCO54 se estimó que las mujeres ocupaban tan sólo el 29 % en trabajos de investigación y desarrollo en todo el mundo. Ello, junto con otros factores, acuciaron la brecha digital de género.

Sin embargo, de conformidad con otros estudios estadísticos, parece que la primera brecha digital se encuentra superada55. Cabe añadir que la brecha digital de género no se limita al acceso de las competencias TIC sino que influyen otros aspectos relevantes como el conocimiento técnico, el uso de las competencias, etc. Se hace referencia a la llamada segunda brecha digital, es decir, la diferencia que existe entre el conocimiento de implementación de las competencias TIC de los hombres y las mujeres. Esta brecha digital es relevante en relación con las infraestructuras y herramientas digitales pues posiciona a las mujeres en una situación discriminatoria en cuanto a las oportunidades emergentes del nuevo mercado laboral. Las inteligencias artificiales replicarán y mantendrán dichos sesgos de no establecer medidas de restricción en el uso de inteligencias artificiales y algoritmos de selección cercenando el acceso de las mujeres al empleo del futuro. En este sentido, resultan interesantes estos otros sesgos:

El 11 % de los empleos ocupados por mujeres están en riesgo de automatización respecto a un 9 % de los hombres57. Esto, evidencia un escenario aun desigual entre mujeres y hombres respecto de la igualdad en el acceso al empleo del futuro. En suma, el uso cada vez mayor de estas inteligencias acentuará dicha desigualdad debido a que los empleo del futuro en sectores tecnológicos o digitales serán cada vez mayores, más demandados y necesarios.

4. PROTECCIÓN Y GARANTÍAS DE LOS DERECHOS LABORALES FRENTE A LA INTELIGENCIA ARTIFICIAL ↑

La ley 15/2021 integral para la igualdad de trato y no discriminación reconoce en la exposición de motivos “la igualdad de trato y no discriminación en el ámbito de la inteligencia artificial y mecanismos de toma de decisión automatizados”. Sin embargo, su articulado no contiene ninguna mención expresa que abarque la igualdad de trato y no discriminación frente a las inteligencias artificiales en su ámbito subjetivo. La exposición de motivos tiene un valor simbólico, de conformidad con la consolidada doctrina del Tribunal Constitucional. Por ejemplo, la STC 150/1990, de 4 de octubre, la cual dispone que “los preámbulos o exposiciones de motivos de las leyes carecen de valor normativo y no pueden ser objeto de un recurso de inconstitucionalidad”, y STC 90/2009 de 20 abril “(…) los preámbulos o exposiciones de motivos de las layes carecen de valor normativo”.

No obstante, resulta llamativa la STC 36/1981 de 12 de noviembre: “el preámbulo no tiene valor normativo aunque es un elemento para tener en cuenta en la interpretación de las leyes”. En este sentido y, subsumiendo lo dicho al artículo 2º referente al ámbito subjetivo, podrían incluirse la igualdad de trato y no discriminación de los trabajadores respecto de los algoritmos digitales, amparándonos al cajón de sastre del inciso final de dicho artículo ya que: “reconoce el derecho de toda persona a la igualdad de trato y no discriminación (…) frente a cualquier otra condición o circunstancia personal o social”. Por esta vía podríamos exigirla responsabilidad del empresario, (en conjunción con el artículo 27.2 de la mencionada ley), en aquellos casos específicos en las que la IA genere desigualdad o discriminación injustificada no abarcada por el abanico de protección subjetivo de dicha ley.

Existen cuestiones relevantes dentro de la Ley 2/2023 de 20 de febrero reguladora de la protección de las personas que informen sobre infracciones normativas y lucha contra la corrupción. Esta nueva ley, consecuencia de la trasposición a nuestro ordenamiento de una Directiva de la UE, trae novedades que van a contribuir positivamente a la protección de los trabajadores58. Dicha ley impone la obligación de crear un canal interno de denuncia, para aquellas empresas (físicas o jurídicas) de cincuenta o más trabajadores. Este sistema interno de información deberá establecerse una vez consultado al comité de empresa la implantación de dicho canal. Además la ley otorga al confidente o informante un marco de derechos a fin de protegerlo frente a posibles represalias de la empresa. Cualquier trabajador de la empresa, o que trabaje bajo la supervisión y dirección de contratistas, subcontratistas proveedores, etc., podrá utilizar dicho canal de denuncia. La no implantación de dicho sistema de información conlleva la imposición de multas de hasta un millón de euros. Este canal interno de información supone una herramienta fundamental para aquellas infracciones en materia de protección de datos, vulneración de derechos fundamentales, situaciones de discriminación, etc.. Además sólo reconoce la condición de informante a personas físicas, por lo que, a tenor de la ley, no podrán crearse programas, aplicaciones informáticas o inteligencias artificiales destinadas al uso de estos canales de denuncia.

Sin embargo, esta ley presenta inconvenientes en determinadas modalidades, como el teletrabajo o trabajo a distancia, presentando serias dificultades para la detección de irregularidades, infracciones o vulneración de derechos de los trabajadores, al ser el propio domicilio del trabajador y no las instalaciones de la empresa, donde se desempeña el trabajo.

5. CONCLUSIONES ↑

Tras el análisis realizado, se ha constatado diversas conclusiones que puntualizamos a continuación:

Los algoritmos pueden estar sesgados y perpetuar la discriminación inconsciente, lo que podría limitar la diversidad de la fuerza laboral y afectar negativamente a ciertos grupos de personas. Los algoritmos pueden tener dificultades para evaluar habilidades o cualidades intangibles, lo que podría llevar a descartar candidatos valiosos. Existe la posibilidad de manipular los algoritmos con resultados falseados o engañosos que podrían afectar negativamente a la empresa y su reputación. La revolución tecnológica basada en IA hará al ser humano incapaz de diferenciar la realidad de la ficción por lo que acabará inexorablemente atado a inteligencias artificiales. Los algoritmos presentan serias dificultades para ser regulados por normas convencionales, provocando gran inseguridad jurídica. Algunos autores consideran que los avances tecnológicos han contribuido al desarrollo de una democracia digital, en el sentido de hacer a los ciudadanos más democráticos, más participativos con la res pública, debido a la ventaja de poder estar “conectado” con la democracia al estar más cerca de los conflictos sociales. Sin embargo, los avances tecnológicos no sólo traen beneficios sino también desventajas y ciertos efectos incompatibles con nuestra sociedad. Los algoritmos plantean serios problemas de convivencia con los derechos constitucionalmente reconocidos y consolidados. Los riesgos que reflejan son los propios de nuestra sociedad y, sin embargo, las empresas se lavan las manos frente a ellos, apelando a la responsabilidad algorítmica y por consiguiente a un vacío legal sin precedente.

6. BIBLIOGRAFÍA ↑

Abadías Selma, A., García González G., Protección de los trabajadores e inteligencia artificial: la tutela de los derechos sociales en la cuarta revolución industrial, Atelier, Barcelona, 2023.

Aragüez Valenzuela, L., “Los algoritmos digitales en el trabajo, Brechas y sesgos”, Relaciones Laborales y Derecho del Empleo, 2021.

Asquerino Lampero, M. J., “Algoritmos y discriminación”, Realidad social y discriminación: estudios sobre diversidad e inclusión laboral, 2022.

Baeza Yates, R., Peiró, K., ¿Es posible acabar con los sesgos de los algoritmos?, https://users.dcc.uchile.cl/~rbaeza/bias/sesgos-algoritmos.html, 2019.

Fernández Ramírez, M., “Nuevos paradigmas para los derechos fundamentales del trabajo en la era tecnológica”, Revista de Estudios Jurídico Laborales y de la Seguridad Social, núm. 5, 2022, DOI: https://doi.org/10.24310/rejlss.vi5.15115.

García, R. F., “El presentismo laboral: una amenaza silenciosa”, Gestión práctica de riesgos laborales: Integración y desarrollo de la gestión de la prevención, 83, 2011.

García González, G., “La gestión algorítmica del trabajo: riesgos y desafíos”, en Abadías Selma, Alfredo; García, G.(Coordinadores), Protección de los trabajadores e inteligencia artificial: la tutela de los derechos sociales en la cuarta revolución industrial, Atelier, Barcelona, 2022.

Lara, C. S., “El Algoritmo como protagonista de la relación laboral, Un análisis desde la perspectiva de la prohibición de discriminación”, Temas laborales: Revista andaluza de trabajo y bienestar social, 155, 2020.

Mercader Uguina, J., Algoritmos e inteligencia artificial en el derecho digital del trabajo, Tirant lo blanch, Valencia, 2022.

Mendoza, D., “Racismo y roles de género, conductas perpetuadas en algoritmos de inteligencia artificial”, Coloquio, 65, 2020.

Molina Hermosilla, O., “Inteligencia artificial, Bigdata y Derecho a la protección de datos de las personas trabajadoras”, Revista de Estudios Jurídico Laborales y de la Seguridad Social, núm. 6, 2023, DOI: https://doi.org/10.24310/rejlss.vi6.16225.

Monereo Pérez, J. L., Molina Navarrete, C., Moreno Vida M. N., Vila Tierno, F., Manual de Derecho del Trabajo, Comares, Granada, 2022.

Nieva Fenoll, J., “La impronta de la inteligencia artificial en el proceso”, en Inteligencia artificial y proceso judicial, Marcial Pons, Madrid, 2018.

Rojo Torrecilla, E., “Una política de empleo adecuada para los cambios en las relaciones laborales del siglo XXI: Estudio de la Ley 3/2023 de 28 de febrero, de Empleo”, Revista de Estudios Jurídico Laborales y de Seguridad Social, núm. 6, 2023, pág. 30, DOI: https://doi.org/10.24310/rejlss.vi6.16187.

Soriano Arnanz, A., “El uso de la inteligencia artificial en la selección y gestión del personal de las administraciones públicas”, Documentación Administrativa. Nueva época, 9, 2023.

Vila Tierno, F., “Tiempo de reformas ¿o no?”, Revista de Estudios Jurídico Laborales y de Seguridad Social, núm. 2, 2021, DOI: https://doi.org/10.24310/rejlss.vi2.12441.

1 Disponible en: https://www.europarl.europa.eu/news/es/headlines/society/20200827STO85804/que-es-la-inteligencia-artificial-y-como-se-usa

2 Nieva Fenoll, J., “La impronta de la inteligencia artificial en el proceso”, en Inteligencia artificial y proceso judicial, Marcial Pons, Madrid, 2018.

3 Aragüez Valenzuela, L., “Los algoritmos digitales en el trabajo, Brechas y sesgos”, Relaciones Laborales y Derecho del Empleo, 2021.

4 Asquerino Lampero, M. J., “Algoritmos y discriminación”, Realidad social y discriminación: estudios sobre diversidad e inclusión laboral, 2022.

5 Agencia española de protección de datos, Gobierno de España, Malentendidos sobre el Machine learning (Aprendizaje automático), 2022.

6 Disponible en https://www.alight.com/es/blog/como-mejorar-los-procesos-de-seleccion-con-ia

7 Los datos obtenidos se encuentran disponibles en https://www.alight.com/es/blog/como-mejorar-los-procesos-de-seleccion-con-ia

8 Korn Ferry Intelligence Cloud, es una plataforma de Inteligencia Artificial para la toma de decisiones compuesta por soluciones y productos integrados que permiten a las personas y a las organizaciones superar su potencial. Definición extraída de https://www.kornferry.com/es/capacidades/intelligence-cloud-hr-platform

9 Disponible en https://economia3.com/seleccion-personal-con-inteligencia-artificial/#:~:text=Se%20trata%20de%20la%20disciplina,seg%C3%BAn%20vaya% 20recibiendo%20los%20datos

10 Disponible en https://economia3.com/seleccion-personal-con-inteligencia-artificial/

11 Disponible en https://www.sesamehr.co/blog/seleccion-personal-tradicional-digital-concepto-diferencias/#Diferencia_entre_seleccion_tradicional_y_seleccion_digital

12 Disponible en https://cuadros-comparativos.com/caracteristicas-de-la-seleccion-de-personal-tradicional/#%C2%BFQue_es_la_seleccion_tradicional

13 Disponible en https://www.linkedin.com/pulse/selecci%C3%B3n-por-competencias-vs-tradicional-pros-y-contras-pau-sol%C3%A0/?originalSubdomain=es

14 Monereo Pérez, J. L., Molina Navarrete, C., Moreno Vida, M.N., Vila Tierno, F., “Concepto y configuración del Derecho del Trabajo”, En: Manual de Derecho del Trabajo, Comares, Granada, 2020.

15 Ley 10/2021 de 9 de julio, de trabajo a distancia. Boletín Oficial del Estado.Núm.164, de 10 de julio de 2021.

16 Real Decreto Legislativo 2/2015 de 23 de octubre, por el que se aprueba el texto refundido de la Ley del Estatuto de los Trabajadores. Boletín Oficial del Estado, Núm.255, de 24/10/2015.

17 García, R. F., “El presentismo laboral: una amenaza silenciosa”, Gestión práctica de riesgos laborales: Integración y desarrollo de la gestión de la prevención, 83, 2011.

18 Artículo 43.1 y 43.2 de la Constitución española de 1978: “se reconoce el derecho a la protección de la salud. Compete a los poderes públicos organizar y tutelar la salud pública a través de medidas preventivas y de las prestaciones y servicios necesarios. La ley establecerá los derechos y deberes de todos al respecto”.

19 Roj: STSJ CAT 8982/2022 -ECLI:ES:TSJCAT:2022:8982.

20 Disponible en https://www.bizneo.com/blog/como-evitar-el-presentismo-laboral/

21 Disponible en https://www.universidadviu.com/es/actualidad/nuestros-expertos/inteligencia-artificial-ventajas-y-desventajas

22 Vila Tierno, F., “Tiempo de reformas ¿o no?”,ÊRevista de Estudios Jurídico Laborales y de Seguridad Social, núm. 2, 2021, DOI: https://doi.org/10.24310/rejlss.vi2.12441.

23 Randstad es una empresa dedicada a la industria de los recursos humanos. Su principal función es el reclutamiento de personal para empresas. Se trata de una sociedad activa a nivel internacional dentro del dominio del trabajo temporal y de los servicios en recursos humanos.

24 Informe anual donde se estudia las grandes macrotendencias del cambio del mercado laboral titulado: Flexibility@work 2021: abrazando el cambio. Disponible en https://www.randstadresearch.es/informe-flexibilitywork-el-futuro-del-trabajo/. Visitado el 6 de abril de 2023. Según este informe, “6 de cada 10 expertos en recursos humanos creen que la Inteligencia Artificial (IA) todavía no ha impactado en el mercado laboral: el 48 % opina que el verdadero impacto llegará en un futuro a corto plazo, mientras que el 15 % cree que ocurrirá en un futuro a largo plazo. El 74 % de los encuestados está convencido de que la IA no supondrá un peligro para los trabajadores: el 67 % opina que la posible eliminación de puestos de trabajo se verá claramente compensada por la creación de otros nuevos y el 7 % cree que se crearán nuevas necesidades que requerirán de un mayor número de profesionales del que tenemos ahora. El 98 % de los expertos considera que la implementación de estos sistemas conllevará un aumento exponencial de la productividad de las empresas, aunque el 73 % cree que para ello será necesario aprovechar al máximo el verdadero potencial de las tecnologías inteligentes. La IA podría también mejorar las condiciones de vida de los trabajadores, tal y como opina el 72 % de los encuestados. Ellos aseguran que estas tecnologías se encargarán de las tareas rutinarias que entorpecen el trabajo de los profesionales”.

25 Informe grupo Adecco y el Instituto Cuatrecasas de estrategia legal en RRHH realizado en 2018. Documento disponible en chrome-extension://efaidnbmnnnibpcajpcglclefindmkaj/https://www.adeccogroup.com/es-es/sala-de-prensa/-/media/project/adeccogroup/spain%20content/2018%20Press%20Releases/2018/NdP-Solo-1-de-cada-4-expertos-en-RRHH-cree-que-la-IA-sera-una-amenaza-para-el-empleo.pdf/

26 Real Academia Española. Disponible en https://dle.rae.es/sesgo?m=form

27 Martínez Galindo, G., “Los derechos de los trabajadores frente a la ciberdelincuencia y sus eventuales responsabilidades” en Abadías Selma, A., García González, G., (Coordinadores),

28 F, E., “Inteligencia artificial y sesgos algorítmicos ¿Por qué deberían importarnos?”, En Nueva sociedad, 294, 2021.

29 Los algoritmos tienen sesgos y prejuicios. Disponible en https://www.linkedin.com/pulse/los-algoritmos-tienen-sesgos-y-prejuicios-salvador-garcia/?originalSubdomain=es

30 García González, G., “La gestión algorítmica del trabajo: riesgos y desafíos”, en Abadías Selma, Alfredo; García, G., (Coordinadores), Protección de los trabajadores e inteligencia artificial: la tutela de los derechos sociales en la cuarta revolución industrial, Atelier, Barcelona, 2022.

31 Llama poderosamente la atención que, una ley de tanto calado como esta, afecte troncalmente al derecho a la igualdad y, sin embargo, no ostente el carácter de Ley Orgánica, tal y como exige la Constitución española en su artículo 88.1: Son leyes orgánicas las relativas al desarrollo de los derechos fundamentales y de las libertades públicas, las que aprueben los Estatutos de Autonomía y el régimen electoral general y las demás previstas en la Constitución. Esta cuestión quizá pueda obtener respuesta en base a las SSTC 6/1982, 67/1985 o 127/1994, donde disponen que las cuestionen que afecten o incidan de manera indirecta sobre un derecho fundamental podrán ser reguladas por una ley ordinaria.

32 Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial) y se modifican determinados actos legislativos de la Unión. La base jurídica de la propuesta es, en primer lugar, el artículo 114 del Tratado de Funcionamiento de la Unión Europea (TFUE), que trata de la adopción de medidas para garantizar el establecimiento y el funcionamiento del mercado interior.

33 El considerando 36 del citado Reglamento fundamenta dicha categorización como IA de alto riesgo aquellos “sistemas de IA que se utilizan en el empleo, la gestión de los trabajadores y el acceso al autoempleo, sobre todo para la contratación y la selección de personal; para la toma de decisiones relativas a la promoción y la rescisión de contratos; y para la asignación de tareas y el seguimiento o la evaluación de personas en relaciones contractuales de índole laboral, dado que pueden afectar de un modo considerable a las futuras perspectivas laborales y los medios de subsistencia de dichas personas. Las relaciones contractuales de índole laboral deben implicar a los empleados y las personas que prestan servicios a través de plataformas, como indica el Programa de trabajo de la Comisión para 2021. En principio, esas personas no deben ser consideradas usuarios en el sentido del presente Reglamento. Dichos sistemas pueden perpetuar patrones históricos de discriminación, por ejemplo contra las mujeres, ciertos grupos de edad, personas con discapacidad o personas de orígenes raciales o étnicos concretos o con una orientación sexual determinada, durante todo el proceso de contratación y en la evaluación, la promoción o la retención de personas en relaciones contractuales de índole laboral. Los sistemas de IA empleados para controlar el rendimiento y el comportamiento de estas personas también pueden afectar a sus derechos a la protección de los datos personales y a la privacidad”.

34 Artículo 6.1 y 6.2 y artículo 4 del anexo III de la Propuesta de Reglamento de Inteligencia Artificial. Documento disponible en https://eur-lex.europa.eu/legal-content/ES/TXT/?uri=celex%3A52021PC0206

35 Dicha lista abarca “todos los sistemas de IA cuyo uso se considera inaceptable por ser contrario a los valores de la Unión, por ejemplo, porque violan derechos fundamentales. Las prohibiciones engloban aquellas prácticas que tienen un gran potencial para manipular a las personas mediante técnicas subliminales que trasciendan su consciencia o que aprovechan las vulnerabilidades de grupos vulnerables concretos, como los menores o las personas con discapacidad, para alterar de manera sustancial su comportamiento de un modo que es probable que les provoque perjuicios físicos o psicológicos a ellos o a otras personas. La legislación vigente en materia de protección de datos, protección de los consumidores y servicios digitales, que garantiza que las personas físicas sean debidamente informadas y puedan decidir libremente no ser sometidas a la elaboración de perfiles u otras prácticas que puedan afectar a su conducta, podría cubrir otras prácticas de manipulación o de explotación contra adultos que los sistemas de IA pueden facilitar. La propuesta prohíbe igualmente que las autoridades realicen calificación social basada en IA con fines generales. Por último, también se prohíbe, salvo excepciones limitadas, el uso de sistemas de identificación biométrica remota -en tiempo real- en espacios de acceso público con fines de aplicación de la ley”.

36 Según datos del Ministerio de Asuntos Económicos y Transformación digital, “la ENIA permitirá mejorar la preparación del tejido productivo español de cara a impulsar su competitividad en el plano europeo e internacional. Se trata, por tanto, de un paso fundamental en la apuesta por la transformación digital de la economía y la sociedad a través del desarrollo de tecnologías disruptivas de alto valor añadido”. Disponible en https://portal.mineco.gob.es/es-es/ministerio/areas-prioritarias/Paginas/inteligencia-artificial.aspx

37 B. O. E. núm.292, de 6 de diciembre de 2022. Orden PCM /1203/2022 de 5 de diciembre, por la que se publica el Acuerdo del Consejo de Ministros de 5 diciembre de 2022, por el que se determina la sede física de la futura Agencia Española de Supervisión de Inteligencia Artificial.

38 Mercader Uguina, J., “La gestión algorítmica del empleo” En AA. VV: Mercader Uguina J., Algoritmos e inteligencia artificial en el derecho digital del trabajo, Primera edición, Tirant lo Blanch, Valencia, 2022.

39 Soriano Arnanz, A., “El uso de la inteligencia artificial en la selección y gestión del personal de las administraciones públicas”, Documentación Administrativa, Nueva época, 9, 2023.

40 Mercader Uguina, J., “La gestión algorítmica del empleo” En AA. VV: Mercader Uguina J., Algoritmos e inteligencia artificial en el derecho digital del trabajo, Primera edición, Tirant lo Blanch, Valencia, 2022.

41 Aragüez Valenzuela L., “Los algoritmos digitales en el trabajo. Brechas y sesgos”, En Relaciones Laborales y Derecho del Empleo, 2021.

42 Lara, C. S., “El Algoritmo como protagonista de la relación laboral. Un análisis desde la perspectiva de la prohibición de discriminación”, Temas laborales: Revista andaluza de trabajo y bienestar social, 155, 2020.

43 Disponible en https://www.bbc.com/mundo/noticias-45823470

44 Disponible en https://hipertextual.com/2021/08/algoritmos-twitter-discriminacion

45 Disponible en https://www.muyinteresante.es/tecnologia/23464.html

46 El Tribunal resuelve que “existe una situación de discriminación indirecta contra los trabajadores de Deliveroo en la medida en que la plataforma opta por una Çinconsciencia y cegueraÈ deliberada respecto de ciertas causas de ausencia del rider de la sesión de trabajo que había reservado. Considera que existe discriminación indirecta cuando se da el mismo trato a situaciones distintas. Si la plataforma tiene en cuenta ciertas situaciones que no inciden negativamente en la puntuación del rider y no admite otras, se trata de una elección consciente como empresa, por la que se colocan al mismo nivel todas las ausencias del puesto de trabajo distintas de las que se deban a un accidente o al mal funcionamiento de la plataforma”. Disponible en https://abogadosenleonmv.com/2021/02/05/sentencia-del-tribunal-ordinario-de-bolonia-de-31-de-diciembre-de-2020-caso-deliveroo-discriminacion-algoritmica-o-discriminacion-a-traves-de-un-algoritmo visitado el 20 de abril de 2023.

47 Sobre la inteligencia artificial y la protección de datos, vid. los siguientes trabajos: Molina Hermosilla, O., “Inteligencia artificial, Bigdata y Derecho a la protección de datos de las personas trabajadoras”, Revista de Estudios Jurídico Laborales y de la Seguridad Social, núm. 6, 2023, págs. 89-117, DOI: https://doi.org/10.24310/rejlss.vi6.16225; y Fernández Ramírez, M., “Nuevos paradigmas para los derechos fundamentales del trabajo en la era tecnológica”, Revista de Estudios Jurídico Laborales y de la Seguridad Social, núm. 5, 2022, págs. 181-204, DOI: https://doi.org/10.24310/rejlss.vi5.15115; y Fernández Ramírez, M., “Nuevos paradigmas para los derechos fundamentales del trabajo en la era tecnológica”, Revista de Estudios Jurídico Laborales y de la Seguridad Social, núm. 5, 2022, págs. 181-204, DOI: https://doi.org/10.24310/rejlss.vi5.15115.

48 En este otro caso, el Tribunal “teniendo en cuenta los principios fundamentales en los que se basa la protección de datos consagrados en el Derecho de la Unión Europea, declara infringidos los principios de transparencia, de limitación del tratamiento de minimización de datos y que dicho algoritmo se muestra bajo una normativa opaca y poco verificable, declarándolo contrario a la ley”. Disponible en https://diariolaley.laleynext.es/Content/Documento.aspx?params=H4sIAAAAAAAEAMtMSbH1cz
UwMDAyNDa3NDJUK0stKs7Mz7M1MjACC6rl5aekhrg425bmpaSmZealpoCUZKZVuuQnh1QWpNqmJeYUp6ql
JuXnZ6OYFA8zAQCfSdkrYwAAAA==WKE

49 La SAN 1855/2021 ECLI:ES:AN:1855 argumenta que “la atención a las necesidades fisiológicas no son un descanso, sino una pausa a lo largo de la jornada laboral y más aún, si cabe, en desempeños como el que nos ocupa, sujetos a conexión continua y que no considerarlo así, resulta contrario a lo dispuesto en el artículo 4.2, apartados d) y e) del ET, por atentar contra la integridad física, así como contra el respeto a la intimidad y dignidad de las personas trabajadoras y que por otro lado se establece una diferencia de trato por parte de la empresa carente de justificación alguna (...)”.

50 Mendoza, D., “Racismo y roles de género, conductas perpetuadas en algoritmos de inteligencia artificial”, Coloquio, 65, 2020.

51 Baeza Yates, R., Peiró, K., ¿Es posible acabar con los sesgos de los algoritmos?, 2019 https://users.dcc.uchile.cl/~rbaeza/bias/sesgos-algoritmos.html

52 Rojo Torrecilla, E., “Una política de empleo adecuada para los cambios en las relaciones laborales del siglo XXI: Estudio de la Ley 3/2023 de 28 de febrero, de Empleo”, Revista de Estudios Jurídico Laborales y de Seguridad Social, núm. 6, 2023, pág. 30, DOI: https://doi.org/10.24310/rejlss.vi6.16187.

53 Disponible en https://thestandardcio.com/2021/04/16/ia-de-facebook-mantiene-sesgo-de-genero/

54 Collet, Neff, G. Gouvea, L., Los efectos de la IA en la vida laboral de las mujeres, 2022.

55 Mujeres, tecnología y sociedad digital, Mujeres y digitalización, de las brechas a los algoritmos, 2022. La Encuesta TIC-Hogares (INE 2019) afirma que en los últimos diez años, las mujeres han aumentado el uso de Internet, pasando de un 51,9 % en 2008 aun 85,6 % en 2018 reduciendo la diferencia entre hombres y mujeres de 8,1 puntos a 1 punto. Disponible en https://www.inmujeres.gob.es/diseno/novedades/M_MUJERES_Y_DIGITALIZACION_DE_LAS_BRECHAS_A_LOS_ALGORITMOS_04.pdf

56 Disponible en https://www.igualdadenlaempresa.es/recursos/estudiosMonografia/docs/
Estudio_Inteligencia_artificial_e_igualdad_de_genero_Fundacion_Alternativas.pdf

57 Datos disponibles en: https://www.inmujeres.gob.es/actualidad/noticias/2020/Julio/SociedadDigital.htm

58 Legal Alert., Aspectos laborales de la ley 2/2023 de 20 de febrero reguladora de la protección de las personas que informen sobre infracciones normativas y de lucha contra la corrupción. Disponible en https://assets.kpmg.com/content/dam/kpmg/es/pdf/2023/02/legal-alert-aspectos-laborales-ley-2-2023-20-de-febrero.pdf

REJLSS/Revista de Estudios Jurídicos Laborales y de Seguridad Social
mayo - octubre 2023 - núm 7   ISSN-e 2660-437X