Alerta roja acerca de la versión sesgada de la inteligencia artificial: aunque es pronto para determinar el impacto económico real de la inteligencia artificial, la implantación de la IA en la empresa requiere que Recursos Humanos actúe de forma proactiva para evitar un posible impacto negativo en materia de diversidad. Nos enfrentamos a un reto socio tecnológico.
El futuro de la IA en España estará en manos de… hombres
Un último informe: la Universidad de Stanford planteaba a finales de junio en Artificial Intelligence Index Report 2024 que las principales empresas de IA y los datos utilizados para el entrenamiento de modelos proceden de países occidentales, por lo que reflejan perspectivas occidentales. Utilizar modelos de IA con datos sesgados de género lleva a que la IA pueda propagar y reforzar estereotipos de género perjudiciales.
Standford incluye, por vez primera, datos procedentes de Informatics Europe que arrojan luz sobre las tendencias de la diversidad en la enseñanza europea de las ciencias de la computación. En todos los países europeos encuestados hay más licenciados que licenciadas en programas de grado, máster y doctorado en Informática, Ciencias de la Computación (CC), Ciencias de la Educación (CE) y Tecnologías de la Información (TI). Mientras que la brecha se ha ido ha reducido en la última década en la mayoría de los países, en España ha aumentado.
Si en 2011 el porcentaje de nuevas licenciadas en Informática, CC, CE y TI era de 21,66% en España, en 2022 descendió a 14,32%. Un dato preocupante, sin duda, en la medida en que apunta a un futuro en el que las mujeres seguirán siendo minoría a la hora de tomar decisiones sobre la IA, algo clave a la hora de supervisar los algoritmos como apunta el Reglamento de IA europeo (RIA). En el caso de nuevas doctoradas, la cifra descendió de 25,39% a 20,25% entre 2011 y 2022. Esta “falta de diversidad puede exacerbar las desigualdades y los prejuicios sociales”, asegura la prestigiosa universidad norteamericana en el capítulo 8 del Índice de inteligencia artificial Informe 2024, con el consiguiente impacto en los derechos fundamentales de la persona.
Enfoque proactivo para favorecer la diversidad
“La IA ha aumentado significativamente la eficiencia en diversos procesos de Recursos Humanos, especialmente en el reclutamiento y la gestión del talento. Sin embargo, es crucial abordar y mitigar los sesgos para garantizar la equidad”, explica Ambrosio Nguema, experto en LLM y miembro del Consejo Asesor de IA+Igual. Por eso, la empresa debe apostar por una inteligencia artificial centrada en personas, que sea justa y no discriminatoria, que evite o mitigue los sesgos en sus decisiones y que permita una explicabilidad, en la medida de lo posible, acerca de cómo se adoptan las decisiones basadas en IA.
Partiendo del respeto a los modelos de gobernanza basados en el RIA y la alineación al código de valores de cada empresa, los expertos del Consejo Asesor de IA+Igual proporcionan algunas que debe adoptar de forma proactiva el área de Talento para conseguirlo:
- Visión multidisciplinar: la inteligencia artificial es tan compleja como el ser humano y demanda un gran capital intelectual diverso para acometer los retos y los desafíos de nuestra propia creación de manera inteligente.
- Constante supervisión humana, evaluación y ajuste de los algoritmos: asegurar la precisión objetividad, privacidad y seguridad de los datos que usan los algoritmos para conseguir el anonimato y equilibrio de los datos y, por tanto, reducir las distorsiones.
- Sistemas transparentes y flexibles: deben adaptarse a las necesidades específicas de cada organización, sin dejar que prime exclusivamente la visión tecnológica.
- Evitar la brecha digital: fomentar que accedan a los beneficios de la incorporación de la IA a la empresa todos los profesionales y no solo aquellos más capacitados digitalmente y con mayor acceso a los recursos tecnológicos necesarios.
Información relacionada
- Ante la IA, los empleos son como la energía: no se destruyen, se transforman, Ana Valera
- Pensar la inteligencia artificial desde la interdisciplinariedad, Alejo Sison
- Las empresas deben enseñar a ver la IA como una herramienta y no como una amenaza, Iván Cordón
- La incorporación de la IA en las empresas es imparable y RR. HH no es una excepción, Félix Villar.
- RR. HH evita que los procesos basados en IA interfieran con la ética, Javier Moscoso
- Recursos Humanos sólo debe usar IA si tiene claro el objetivo, Carlos Cabañas y Elena Martín.
- Cómo evitar que la IA genere nuevas formas de discriminación en recursos humanos, Alberto García.
- Puentes entre el conocimiento técnico y el de RR. HH para implantar la IA, Marisa Cruzado
- Sesgos inconscientes y crisis reputacional de la evaluación del desempeño
- Verificación, equidad, explicabilidad y mitigar sesgos, claves para implantar la IA en RRHH, Elena Martín
- Cinco pasos para implantar la IA en Recursos Humanos
- Qué dice la Ley de IA sobre los sistemas automatizados de control de emociones, Ana B. Muñoz.
- La IA respira datos y hay que conseguir que respire el aire más puro posible, Jesús R. Mercader.
- Gestión de los riesgos, garantías y responsabilidades del uso de la IA, Jesús R. Mercader.
- La empresa debe asegurarse de que todos los servicios cumplan la Ley IA europea, José Domínguez.
Formación
Diálogo social
- Negociación colectiva, clave para implantar la IA en la empresa, José Luis Fernández y Estela Martín.
Spanish 
English