Verificación, explicabilidad o mitigar sesgos, claves para la IA en RRHH

El uso de la Inteligencia Artificial (IA) en RR.HH. puede tener consecuencias directas sobre la vida de las personas. Elena Martín de Diego, del equipo de DATAI, señala algunos pilares fundamentales que tener en cuenta: la explicabilidad, la equidad, la transparencia o la identificación y mitigación de sesgos.

Madrid, 26 de junio. Elena Martín de Diego es técnica de investigación en el Instituto de Ciencia de los Datos e Inteligencia Artificial (DATAI) de la Universidad de Navarra centrada en el desarrollo de aprendizaje automático confiable mediante métodos de equidad y explicabilidad aplicados a marcos empresariales.

IA+Igual.- ¿Cómo describiría el papel de la inteligencia artificial en el futuro del trabajo y en la transformación de las empresas?

Elena Martín de Diego.- La inteligencia artificial está revolucionando el futuro del trabajo y la transformación de las empresas mediante la automatización de tareas rutinarias, la mejora en la toma de decisiones y la personalización de productos y servicios. La IA permitirá a las empresas analizar grandes volúmenes de datos en tiempo real, identificar patrones y tendencias, y proporcionar insights que guían estrategias comerciales.

Aprendizaje automático

IA+Igual.- ¿En qué consiste el desarrollo de aprendizaje automático confiable y por qué es crucial para la aplicación de la IA en marcos comerciales?

E.M.- El aprendizaje automático confiable es una reciente línea de investigación que trata de desarrollar técnicas para asegurar que los modelos de inteligencia artificial sean (1) justos en cuanto a personas pertenecientes a diferentes grupos demográficos (e.g. etnia, género), (2) transparentes en cuanto a la explicación de la decisión ofrecida por el sistema de decisión, (3) robusto en las decisiones y (4) con la menor incertidumbre posible acerca de la predicción. Esto es crucial para su aplicación en marcos comerciales porque asegura que las decisiones basadas en IA sean consistentes y fiables, lo que a su vez genera confianza entre los usuarios y stakeholders.

IA+Igual.- ¿Qué papel juega la explicabilidad en el desarrollo de sistemas de IA aplicados a la gestión de recursos humanos?

E.M.- La explicabilidad es fundamental en los sistemas de decisión basados en Inteligencia Artificial aplicados a la gestión de recursos humanos (RRHH) porque permite a los usuarios comprender cómo se toman las decisiones y en qué se basan estas. Esto es especialmente importante en RRHH, donde las decisiones pueden afectar directamente las carreras y vidas de los empleados. La explicabilidad ayuda a garantizar transparencia y equidad, y permite identificar y corregir posibles sesgos o errores en los algoritmos.

Métodos efectivos para asegurar la transparencia en la toma de decisiones de IA en recursos humanos

Documentación detallada de los algoritmos y datos utilizados: Mantener un registro claro de cómo funcionan los modelos y qué datos se utilizan.
Modelos explicables: Utilizar técnicas de IA que permitan interpretar las decisiones.
Auditorías regulares: Realizar auditorías periódicas de los sistemas de IA para identificar y corregir posibles sesgos o fallos.
Involucrar a diversas partes interesadas: Incluir a diferentes grupos de interés en el proceso de desarrollo y revisión para obtener una perspectiva amplia y minimizar sesgos. Todos ellos junto con la nueva Ley Europea sobre IA.

IA+Igual.- ¿Qué importancia tiene la validación y verificación de modelos de IA en el contexto de recursos humanos?

E.M.- La validación y verificación de modelos de IA son cruciales en RRHH porque aseguran que los modelos funcionen como se espera y proporcionen resultados justos y precisos. La validación implica probar el modelo con datos independientes para evaluar su desempeño, mientras que la verificación asegura que el modelo ha sido implementado correctamente y cumple con los requisitos especificados. Estos procesos ayudan a identificar errores, mejorar la precisión y mantener la confianza en las herramientas de IA utilizadas en RRHH.

IA+Igual.- ¿Qué consideraciones éticas deben tenerse en cuenta al implementar sistemas de IA en la gestión de recursos humanos?

E.M.- Al implementar sistemas de IA en RRHH, es esencial considerar: (1) Equidad y no discriminación: Asegurar que los algoritmos no perpetúen sesgos existentes y traten a todos los empleados de manera justa. (2) Privacidad: Proteger los datos personales y sensibles de los empleados. (3) Transparencia: Mantener claridad en cómo se toman las decisiones y permitir que los empleados comprendan y cuestionen los resultados. (4) Responsabilidad: Definir claramente quién es responsable de las decisiones tomadas por sistemas de IA. (5) Consentimiento informado: Asegurar que los empleados sepan cómo se usan sus datos y para qué fines; entre otras.

IA+Igual.- ¿Cómo se pueden identificar y mitigar los sesgos en los algoritmos de IA utilizados en RRHH?

E.M.- Para identificar y mitigar los sesgos en los algoritmos de IA en RRHH, los pasos que me vienen en mente son los siguientes:

Evaluar los datos utilizados para entrenar los modelos para detectar y corregir posibles sesgos.
Implementar pruebas específicas para identificar sesgos en los resultados del modelo, como métricas de discriminación algorítmica existentes.
Revisar y actualizar los modelos regularmente para asegurarse de que sigan siendo confiables.
Incluir a personas de diversos orígenes y perspectivas en el desarrollo y prueba de los algoritmos.
Aplicar métodos específicos como la reponderación de datos o la modificación de algoritmos para reducir el sesgo.

Proyecto colaborativo

IA+Igual.- Como parte del equipo del Instituto de Ciencia de los Datos e Inteligencia Artificial (DATAI) de la Universidad de Navarra y miembro de IA+Igual, ¿Cuál es la importancia de la colaboración entre DATAI y IA+Igual, y cómo cree que esta asociación contribuye a los avances en la implementación ética y efectiva de la IA en el ámbito de RRHH?

E.M.- La colaboración entre DATAI y IA+Igual es vital para promover el desarrollo e implementación de IA de manera ética y efectiva en RRHH. Esta asociación combina la experiencia técnica de DATAI con el enfoque empresarial de IA+Igual, lo que permite abordar los desafíos éticos y técnicos de manera integral. Juntas, las organizaciones pueden desarrollar herramientas y directrices que aseguren la transparencia, equidad y responsabilidad en el uso de IA en RRHH, y pueden influir en políticas y prácticas que beneficien tanto a empleados como a empleadores.

IA+Igual.- Como mujer en el ámbito STEM y miembro DATAI, ¿Qué cree que se necesita para fomentar que más mujeres se decanten por estudiar y trabajar en el entorno tecnológico, y cómo pueden las instituciones educativas y las empresas apoyar esta iniciativa?

E.M.- Para fomentar que más mujeres estudien y trabajen en el entorno tecnológico, es esencial promover la visibilidad de mujeres exitosas en STEM, establecer programas de mentoría que conecten a estudiantes y profesionales jóvenes con mujeres experimentadas en el campo, crear ambientes laborales y educativos que sean inclusivos y apoyen la diversidad, ofrecer becas y programas específicos para mujeres en STEM, fomentar el interés por STEM desde edades tempranas a través de programas educativos y actividades extracurriculares. Es fundamental que tanto las instituciones educativas como las empresas trabajen juntas para crear una cultura que valore y apoye la participación de las mujeres en la tecnología.