Dos profesionales con reconocida experiencia en la correcta gestión de los datos que usa la IA -Alberto García Galindo y Borja García- han dado un giro de 360º al reto de la inclusión de colectivos desfavorecidos en la empresa: “Hay que fijarse en la capacidad de las personas antes que en la discapacidad”.
Madrid, 10 de abril. Partiendo de esta premisa, durante el webinar de Campus IA+Igual sobre ‘Datos y aprendizaje automático’, han puesto el acento en el uso correcto del dato -combustible de la IA- y en los equipos de Recursos Humanos que, en colaboración con los técnicos, deben ayudar a detectar los posibles sesgos en los modelos de IA.
Alberto García Galindo está investigando sobre Aprendizaje Automático Responsable en DATAI, instituto perteneciente a la Universidad de Navarra. Este científico de datos alerta sobre el papel que tiene la IA en Recursos Humanos: “La IA no es la panacea y tiene muchas limitaciones. Nos puede ayudar como un compañero rápido, una especie de buen asistente, pero no podemos correr el riesgo de automatizar las decisiones”.
Para garantizar el uso de algoritmos éticos, responsables e inclusivos, el equipo de Recursos Humanos necesita, según Alberto García Galindo “perfiles con conocimiento interdisciplinar y una correcta representación de personas con diferentes edades, etnias… que nos ayuden a ser más justos y éticos”. Como el problema de los sesgos es socio-técnico, es clave contar con “profesionales que, sin ser técnicos, son imprescindibles para detectar posibles sesgos discriminatorios en los modelos que diseñemos”, garantizando así la diversidad.
Borja García Rubio, gerente de IT de la Fundación ONCE, añade, además, que podemos corregir a la persona que hace algo mal, pero con la IA surge el problema de a quién corregir:”¿Al técnico informático, al diseñador del algoritmo, a la herramienta que utilizas, etc.?”
Cómo evitar posibles sesgos en los modelos de IA
El investigador y el gerente de IT han llegado al fondo del problema y han propuesto interesantes soluciones, empezando por el punto de partida: “Los algoritmos son modelos matemáticos que aprenden patrones. Si la materia prima que das a la IA son datos históricos que contienen patrones discriminatorios, los heredará y reproducirá. sexo, edad, etnia…”, ha afirmado el profesional de DATAI. Por eso, ha destacado, es importante dar pautas éticas y de diversidad al modelo a la hora de diseñarlo porque, si no, reproducirá la infrarrepresentación de algunos colectivos vulnerables.
Desde su puesto en la Fundación ONCE, que tiene un Proyecto de Intermediación Laboral basado en IA, Borja García tiene muy claro cómo identificar la falta de representación de colectivos de personas con alguna discapacidad: “Si al analizar los procesos de selección vemos que ciertos colectivos están constantemente subrepresentados o excluidos, es una señal de que los datos pueden ser incompletos, estar sesgados, o que el propio algoritmo esté adquiriendo un sesgo sobre los propios datos”. Por eso, propone, por ejemplo, analizar los datos de las candidaturas en un proceso de selección y compararlos con las personas incorporadas.
Asimismo, Alberto García Galindo destaca que cuantificar y evaluar sesgos es complicado, a priori, para los científicos del dato. “Es necesario diseñar el modelo, entrenarlo e intentar detectar el sesgo al probarlo como un efecto. Comparo si el rendimiento de mi modelo es bueno con las métricas de bondad de ajuste por grupos demográficos”.
Ambos profesionales parten de la gobernanza del dato y la necesaria política de trazabilidad para evitar el problema de los sesgos. “Esto requiere una total transparencia en los datos y ser capaces de responder a los interrogantes de los profesionales del Talento acerca de la procedencia de los datos, cómo se gestionan, protocolo de análisis de su calidad -teniendo en cuenta que el combustible de la IA son los datos-, si están normalizados, dónde se almacenan, etc., aunque no sean técnicos”.
Consecuencia de la falta de representación de personas con discapacidad
Para Borja García, “las consecuencias de la infrarrepresentación de colectivos vulnerables en los datos de entrenamiento son graves, sobre todo en procesos de selección y promoción interna”. En este último proceso, los algoritmos entrenados con datos sesgados pueden llegar a malinterpretar las habilidades y capacidades de personas con discapacidad y asignarles perfiles laborales que no se corresponden con su verdadero potencial. Además, si las bases de datos no reflejan la diversidad de la fuerza laboral, es probable que los sistemas favorezcan a ciertos perfiles más habituales que no necesariamente son los mejores, pero que prolongan barreras estructurales.
En el mercado laboral, “hay que fijarse más en la capacidad de las personas antes que en la discapacidad. Y muchos algoritmos le dan más importancia a la discapacidad”, y es algo que hay que cambiar, explica el gerente de IT.
Datos reales o sintéticos
Partiendo de que los datos históricos no reflejan de manera adecuada la diversidad de la población y la IA puede llegar a repetir o amplificar los sesgos, algunas organizaciones han empezado a usar datos sintéticos -por ejemplo, para mejorar la representación de personas con discapacidad- en los modelos de IA, con el objetivo de mejorar la precisión de los modelos sin distorsionarlos
Se trata de datos sintéticos -subraya el profesional de la Fundación ONCE- que se generan artificialmente -pero con “sentido”- para conseguir datos más equilibrados, por ejemplo, respecto alta o baja cualificación para buscar a las personas que se necesitan. La principal ventaja es que ayudan a suplir la ausencia de datos y a reproducir una mayor diversidad, aunque también se debe tener en cuenta el riesgo de su uso excesivo: si no se manejan adecuadamente y los datos son muy diferentes de los reales podrían genera resultados imprecisos o incorrectos.
“Es un reto técnico al que nos enfrentamos hoy en la ONCE: el equilibrio de datos históricos y sintéticos sin abusar de estos. Por eso, nuestro modelo incluye valoraciones periódicas entre modelos de datos históricos y sintéticos para garantizar unos resultados esperables que son muy útiles para las recomendaciones de empleo y formación”.
Para evitar lo que el científico del dato llama el “sesgo del sesgo de los datos sintéticos”, el gerente de IT concluye que es importante comparar los resultados de los modelos que usan datos sintéticos para ver si efectivamente resuelven el problema.
RR.HH.
- 4 claves para evitar que la IA perpetúe sesgos de género en RRHH.
- Cinco pasos para implantar la IA en Recursos Humanos.
- La incorporación de la inteligencia artificial en las empresas es imparable y recursos humanos no será una excepción, Félix Villar.
- RR. HH evita que los procesos basados en inteligencia artificial interfieran con la ética, Javier Moscoso
- Recursos Humanos sólo debe usar IA si tiene claro el objetivo, Carlos Cabañas y Elena Martín.
- Cómo evitar que la inteligencia artificial genere nuevas formas de discriminación en recursos humanos, Alberto García.
- 4% de los profesionales piensan que la IAg no cambiará su rol actual.
- La IA revoluciona la inclusión y diversidad en el entorno laboral.
- Adiós a los roles: cómo la IA revoluciona la planificación de plantillas basada en competencias.
- La IA y el nuevo ´Joven aunque Sobradamente Preparado’.
Regulación
- IA+Igual edita la «Guía práctica para introducirse en el Reglamento Europeo de Inteligencia Artificial», Maite Sáenz
- Qué dice la Ley de IA sobre los sistemas automatizados de control de emociones, Ana B. Muñoz.
- La IA respira datos y hay que conseguir que respire el aire más puro posible, Jesús R. Mercader.
- Gestión de los riesgos, garantías y responsabilidades del uso de la IA, Jesús R. Mercader.
- La empresa debe asegurarse de que todos los servicios de la empresa cumplan la IA cumplan la Ley IA europea, José Domínguez.
- Algoritmos en lugar de jueces: la distopía que plantea ‘Justicia Artificial’ y su reverso en RRHH.
- Propósito del nuevo curso: implantar gradualmente el RIA.
- El Reglamento Europeo de IA en RR.HH: preguntas y respuestas.
Formación
Diálogo social
Negociación colectiva, clave para implantar la IA en la empresa, José Luis Fernández y Estela Martín.
Spanish 
English