A medida que la IA se implementa en áreas sensibles, crecen las dudas sobre si los modelos pueden escapar de los sesgos humanos. Para abordar los sesgos de la IA, surge la equidad algorítmica, que busca equilibrar la precisión y proteger grupos vulnerables, asegurando que las decisiones automatizadas sean justas.
Madrid, 18 de febrero. La inteligencia artificial (IA) ha transformado sectores clave, desde la salud hasta los recursos humanos. Lejos de ser parciales, estos sistemas pueden reflejar prejuicios humanos. Es por ello que su extensión suscita preocupaciones éticas en relación con la discriminación algorítmica.
Alberto García-Galindo, Marcos López-De-Castro y Rubén Armañanzas, investigadores del Instituto de Ciencia de Datos e Inteligencia Artificial (DATAI) de la Universidad de Navarra —partner académico de IA+Igual—, estudian en un artículo (disponible aquí) la posibilidad de trabajar con “algoritmos que tengan en cuenta la equidad”.
Preocupaciones éticas
Según exponen los investigadores en su publicación, debido a su potencial para mejorar la toma de decisiones automatizada, los algoritmos de aprendizaje automático se han ido incorporando cada vez más en muchos ámbitos de la sociedad actual, con importantes implicaciones económicas y sociales. Estos algoritmos, que normalmente funcionan como cajas negras, han demostrado potencial para lograr un rendimiento de nivel experto en una amplia gama de tareas. Desde el diagnóstico médico hasta los mercados financieros o la selección de candidatos, la tendencia a apoyar las decisiones con algoritmos basados en datos está en aumento.
Sin embargo, a medida que la integración del Machine Learning (ML) —también conocido como Aprendizaje Automático, es una rama de la inteligencia artificial que permite a las máquinas aprender de datos y mejorar su rendimiento sin ser programadas explícitamente— en dominios críticos para la seguridad se ha extendido, también lo ha hecho la conciencia de las preocupaciones éticas sobre sus usos indebidos. De hecho, a pesar de la idea errónea común de que los modelos de ML pueden escapar de los sesgos humanos, hallazgos recientes han demostrado que los algoritmos pueden heredar e incluso amplificar patrones de discriminación por etnia, género o edad.
Según explica Rubén Armañanzas, doctor e investigador principal del Laboratorio de Medicina Digital en DATAI, “los algoritmos de inteligencia artificial, por definición, están diseñados para reconocer patrones complejos en grandes bases de datos. En muchas ocasiones, estas bases de datos son el reflejo de la sociedad y del comportamiento sesgado de los seres humanos. Esto puede provocar que los patrones aprendidos por los modelos no solo reproduzcan, sino que amplifiquen, esos sesgos contenidos en base a características sensibles de los individuos como la raza, el sexo, o la edad”.
Equidad algorítmica
La preocupación derivada de estos problemas ha hecho crecer el interés entre los profesionales del ML por desarrollar soluciones técnicas para abordar los retos de las “predicciones discriminatorias”, lo que ha dado lugar a la aparición de un nuevo campo acuñado: equidad algorítmica. Esto “ha supuesto un nuevo enfoque en el desarrollo de sistemas de IA que busca equilibrar el rendimiento numérico, cómo de precisos son ajustándose a los datos de entrenamiento, con la protección de grupos sensibles o protegidos”, como explica Armañanzas.
Para evitar que se generen desigualdades en las predicciones, los investigadores han desarrollado una metodología que busca garantizar que la fiabilidad de las predicciones sea equitativa para todos los grupos poblacionales. Su enfoque se basa en dos estrategias clave:
- Predicción confiable: Un método que permite estimar la confianza de una predicción, asegurando que el modelo no solo genere resultados precisos, sino que también informe sobre el nivel de incertidumbre asociado a cada decisión. Según explica Armañanzas, “el objetivo es, en lugar de generar una predicción única, generar un conjunto de posibles valores de manera que el evento a predecir esté contenido con cierta seguridad”.
- Optimización multiobjetivo: Una técnica que equilibra la precisión del modelo con la equidad de sus predicciones. En lugar de buscar una única solución óptima, este enfoque genera un conjunto de modelos que ofrecen distintos niveles de compromiso entre eficiencia y justicia, permitiendo seleccionar aquel que mejor se alinee con los criterios éticos y normativos de cada aplicación.
Esta combinación de técnicas representa un avance significativo en el desarrollo de modelos de inteligencia artificial más justos y confiables, especialmente en contextos donde las decisiones automatizadas pueden tener un impacto directo en la vida de las personas. De hecho, es la primera vez que se combina la predicción confiable con la optimización multiobjetivo para lograr modelos tanto precisos como equitativos.
Siguientes pasos
Los investigadores han demostrado que es posible desarrollar algoritmos de inteligencia artificial que equilibren eficiencia y equidad mediante la combinación de la predicción conforme y la optimización multiobjetivo. En su estudio, lograron generar un repertorio de modelos que permiten seleccionar la mejor opción en función de los criterios éticos y prácticos de cada situación. Esto supone un paso importante hacia el desarrollo de sistemas más justos y transparentes.
Sin embargo, los autores señalan que aún queda trabajo por hacer. Su enfoque se ha probado en cuatro conjuntos de datos representativos, pero se requiere más investigación para evaluar su eficacia en un mayor número de aplicaciones. Armañanzas señala como mayor reto “definir la equidad y la no discriminación desde un punto de vista matemático, ya que es un concepto derivado de la ética y la regulación jurídica. Esto provoca que se hayan originado múltiples definiciones de justicia algorítmica, cuya elección debe estar justificada por el contexto y que, en muchos casos, se contradicen entre ellas”.
En definitiva, este estudio subraya la importancia de integrar la equidad en el diseño de sistemas de inteligencia artificial. A medida que estos algoritmos continúan expandiéndose en sectores críticos, es fundamental seguir investigando y desarrollando soluciones que garanticen decisiones automatizadas más justas y confiables.
RR.HH.
- 4 claves para evitar que la IA perpetúe sesgos de género en RRHH.
- Cinco pasos para implantar la IA en Recursos Humanos.
- La incorporación de la inteligencia artificial en las empresas es imparable y recursos humanos no será una excepción, Félix Villar.
- RR. HH evita que los procesos basados en inteligencia artificial interfieran con la ética, Javier Moscoso
- Recursos Humanos sólo debe usar IA si tiene claro el objetivo, Carlos Cabañas y Elena Martín.
- Cómo evitar que la inteligencia artificial genere nuevas formas de discriminación en recursos humanos, Alberto García.
- 4% de los profesionales piensan que la IAg no cambiará su rol actual.
- La IA revoluciona la inclusión y diversidad en el entorno laboral.
- Adiós a los roles: cómo la IA revoluciona la planificación de plantillas basada en competencias.
- La IA y el nuevo ´Joven aunque Sobradamente Preparado’.
Regulación
- IA+Igual edita la «Guía práctica para introducirse en el Reglamento Europeo de Inteligencia Artificial», Maite Sáenz
- Qué dice la Ley de IA sobre los sistemas automatizados de control de emociones, Ana B. Muñoz.
- La IA respira datos y hay que conseguir que respire el aire más puro posible, Jesús R. Mercader.
- Gestión de los riesgos, garantías y responsabilidades del uso de la IA, Jesús R. Mercader.
- La empresa debe asegurarse de que todos los servicios de la empresa cumplan la IA cumplan la Ley IA europea, José Domínguez.
- Algoritmos en lugar de jueces: la distopía que plantea ‘Justicia Artificial’ y su reverso en RRHH.
- Propósito del nuevo curso: implantar gradualmente el RIA.
- El Reglamento Europeo de IA en RR.HH: preguntas y respuestas.
Formación
Diálogo social
Negociación colectiva, clave para implantar la IA en la empresa, José Luis Fernández y Estela Martín.
Spanish 
English