Las empresas deben enseñar a ver la IA como una herramienta y no como una amenaza

El discurso catastrofista sobre la Inteligencia Artificial, que predice la destrucción masiva de empleos, no convence al director de innovación del Instituto de Ciencia de los Datos e Inteligencia Artificial (DATAI) de la Universidad de Navarra (UNAV) y partner académico de IA+Igual, Iván Cordón.

Madrid, 21 de mayo. El experto en IA considera crucial que las empresas que adopten estas herramientas hagan ver a sus empleados que pueden beneficiarse de ellas en lugar de verlas como una amenaza que viene a reemplazarlas. Iván Cordón tiene claro que las personas no van a ser sustituidas por inteligencia artificial, pero puede que sí por otras personas que sepan utilizar esta tecnología.

IA+Igual.– Dada su sólida formación en IA y su experiencia en ayudar a empresas a aprovechar al máximo sus datos, ¿cómo cree que la IA está transformando actualmente los procesos de recursos humanos?

Iván Cordón.- Está claro que la lA es una tecnología o una disciplina transversal, y en la medida en la que existan datos tiene una capacidad transformadora para prácticamente cualquier sector. Hablando de los Recursos Humanos, existe una transformación acerca de cómo está ayudando la IA a mejorar sus procesos. La IA a través de los datos permite entender cómo ayudar a los empleados a mejorar mediante formaciones o a que tengan mejor desempeño y sean más felices. Ya existen plataformas que lo hacen y que te van recomendando qué habilidades o candidatos de tu compañía son mejores para ciertos puestos. Esto beneficia a la empresa y a la persona. Existe una relación empresa-empleado y empleado-empresa que necesita en mi opinión una proyección bidireccional.

La IA permite dos puntos. Por un lado, eficientar procesos y hacer que sean más ágiles y rápidos, como podría ser el caso de la contratación de nuevos empleados. Pero también permite mejorar estos procesos, haciendo que sean más efectivos y generen valor en la compañía. Ambos se podrían aplicar a la gestión de talento.

Esto desde el punto de vista de los procesos, pero también tenemos que pensar a nivel más genérico. Hay que tener en cuenta que ha habido un cambio en cómo la propia IA está enfocada en las empresas. Hemos pasado de una sociedad en la que los Recursos Humanos valoraban a alguien con experiencia o que tuviera sólidos conocimientos, a un punto en el que, gracias sobre todo a la IA generativa, estamos igualando perfiles por habilidades. Es decir, aquellas personas que son capaces de utilizar esta tecnología son las que también van aportando valor a las empresas. Esto es fundamental, porque a la hora de contratar nuevas personas podemos considerar que una persona con habilidades y conocimientos para manejar herramientas con IA es mucho más interesante que una persona con 10 años de experiencia pero que no tiene la capacidad de manejarlas. De ahí esas dos vías, una más de procesos y esa vía de transformación de cómo las propias empresas están operando.

Ia+Igual.- ¿Cuál cree que es el mayor desafío y la mayor ventaja al que se enfrentan las empresas al implementar sistemas de IA en sus procesos de recursos humanos?

I.C.- El mayor reto al que se enfrentan todas empresas para implementar la IA son las personas. Tenemos que pensar que la IA viene para quedarse y nos va a ayudar, no viene a destruir nada, sin dejar de tener en cuenta que el éxito y el fracaso lo hacen las personas.

Esta es la clave. Debemos tener a la organización completamente alineada para que las personas adopten la inteligencia artificial y la vean como una herramienta a la cual pueden sacar partido, no como una amenaza que viene a reemplazarlas.

Hay una frase que me gusta mucho en este aspecto y que habla de cómo aquellas personas que trabajen (no solo en recursos humanos), no van a ser reemplazadas por inteligencia artificial, pero sí van a ser reemplazadas por otras personas que sepan utilizar esta tecnología. Esta es la razón por la cual, a la hora de implementarla dentro de la organización es muy importante alinear todo y hacer que este proceso de adopción e integración sea efectivo.

Papel transformador

IA+Igual.- ¿Qué papel juega la transparencia en el desarrollo y aplicación de algoritmos de IA en los procesos de RRHH?

I.C.- El papel que debe jugar la transparencia, aunque en ocasiones no lo hace, es fundamental y debería ser obligatorio. Es cierto que ya existe un pequeño esfuerzo, en el cual ya se está trabajando a través de la nueva ley de Inteligencia Artificial aprobada recientemente por la Unión Europea.

En Recursos Humanos el impacto de los algoritmos recae directamente sobre las personas, por ello es importante que las decisiones finales también las tome una persona. Debemos poder entender por qué un algoritmo me recomienda despedir a una persona, o me dice que no está bien o que se va a marchar de la empresa. Porque si no se entiende la causa o las variables que hacen al algoritmo decir esto, no se va a poder tomar una decisión acorde.

Es necesario ser capaces de poder dar una explicación a la persona a la que va a impactar la decisión. Ya no solo por el punto de vista ético, sino también por el ámbito regulatorio, porque debemos ser capaces de explicar a la entidad reguladora en este caso, la Unión Europea, porque se toma esa decisión. De hecho, muchos de los procesos que impactan en personas se van a prohibir, y el uso de cierta tipología de Inteligencia Artificial va a quedar prohibido. Es el caso de la vigilancia, restringida a entidades como la policía o servicios de inteligencia.

En ese aspecto es necesario ser capaces en la medida de la posible poder explicar y entender por qué esa decisión o esa recomendación llega a nosotros, para poder tomar la decisión de la forma más informada y transparente posible.

Evitar nuevas formas de discriminación

IA+Igual.- ¿Qué deben hacer las empresas para evitar que el uso de la IA genere nuevas formas de discriminación en los procesos relacionados con los empleados?

I.C.- Tenemos que ser conscientes y muy críticos con los procesos y con la incorporación de IA a los procesos de recursos humanos en la empresa. Cuando se va a incorporar tecnología hay que entender muy bien cuáles son sus limitaciones, sus pros y contras, y hacer un análisis exhaustivo de los proveedores. Tenemos que asegurarnos que esas empresas que han desarrollado el software de Inteligencia Artificial cumplan con la normativa vigente y que tengan un foco a la hora de desarrollar sus modelos que ponga en el centro a la persona. Debemos seguir la “Human centered AI” (Inteligencia Artificial centrada en personas), es decir, una IA que sea justa y no discriminatoria, que no tenga sesgos en sus decisiones y que permita una explicabilidad, en la medida de lo posible, de cómo se lleva a cabo las decisiones o recomendaciones finales. Esto es fundamental, debemos tener en las empresas procesos que nos permitan llevar a cabo esa incorporación de una forma segura y confiable.

IA+Igual.- Al haber trabajado con empresas en varios continentes. ¿Ha notado diferencias significativas en la adopción y aplicación de IA en RRHH entre diferentes regiones o culturas empresariales?

I.C.- Por supuesto. Para explicarlo vamos a hablar de los sesgos. Los sesgos no se asocian a un modelo, un modelo de IA no está sesgado, el sesgo viene de los datos, y los datos son una representación de la sociedad en la que vivimos, y cada país tiene sus sesgos.

Hay culturas en las cuales existe un cuidado mucho más estricto de la persona, como es el caso de Europa, donde tenemos ya una primera regulación y nos centramos en que la IA cada vez más sea segura, confiable, explicable y ética. Por otro lado, hay culturas como Estados Unidos en las que estos valores no trascienden y existe más libertad. Por una parte, existe una forma de intentar regular, que es lo que hacemos aquí, y existe una forma de intentar delegar y que sean las propias empresas quienes autorregulan el uso de la IA y determinen si este uso es ético. Cada una de estas formas tiene sus pros y sus contras, pero evidentemente existen diferencias en Latinoamérica, en Estados Unidos, Europa o Asia en la forma en que las empresas adoptan la inteligencia artificial. Esto tiene que ver con las distintas sociedades y por supuesto con las personas y la cultura en la que estas empresas trabajan.

Tendencias emergentes de IA en RRHH

IA+Igual.- Con el rápido avance de la tecnología, ¿Cuáles son las tendencias emergentes en IA que crees que tendrán el mayor impacto en la gestión del talento en un futuro próximo?

I.C.- Sin duda, la IA ya está teniendo un gran impacto en la mejora de la gestión del talento. La integración de la IA generativa facilitará este proceso, permitiendo una interpretación rápida y eficiente de la información sobre los empleados. Esto va a permitir conocer mejor al empleado y va a permitir gestionar el talento que tenemos de una forma más eficaz.

La empresa tiene que pensar en cómo puede ayudar a los empleados a ser mejores para que el beneficio sea mutuo. Si los empleados se sienten realizados y están más a gusto en su trabajo inherentemente mejorará la productividad y el valor que crean para la empresa.

IA+Igual.- DATAI forma parte del proyecto IA+Igual como partner académico. ¿Cómo estructuraron este grupo de trabajo desde la UNAV?

I.C.- Cuando recibí la oportunidad de poder postularnos como partners, tenía claro que, aunque nosotros somos expertos en la parte más técnica, la inteligencia artificial y un proyecto como IA+Igual necesitaba tener un enfoque de 360 grados. Por ello, la estructura de nuestra propuesta siempre tuvo un foco multidisciplinar, principalmente en tres pilares: pilar técnico, fundamental por los algoritmos y cómo se construyen los datos; un pilar ético, acerca de cómo se gestiona y cómo debe ser el desarrollo de la IA y un pilar regulatorio, en el cual entramos en cómo la sociedad y las entidades como la UE van a regular la inteligencia artificial. Esto encaja con el enfoque multidisciplinar de DATAI, y así creemos que podemos aplicar la IA en RR. HH., centrándonos en tres aspectos que nos ayudan a entender el proceso y a diseñar una normativa para analizar estas herramientas. De esta forma, podemos determinar si están bien desarrolladas y si merece la pena certificarlas como seguras.

IA+Igual.- ¿Qué impacto cree que podría tener el éxito del proyecto IA+Igual en el futuro de la IA aplicada a Recursos Humanos?

I.C.- El impacto puede ser tremendo si conseguimos desarrollar una metodología que se entienda como válida para auditar algoritmos de recursos humanos. Y me quedo en la parte de recursos humanos porque no es lo mismo que auditar otro tipo de algoritmo. Los RR. HH. impactan fundamentalmente a las personas, por lo que este tipo de proyectos deben abordarse desde una perspectiva multidisciplinar y vertical. Esto significa centrarse en el tema específico y analizar detalladamente las características intrínsecas de cada aspecto para poder aportar de manera efectiva.

En la medida en la que podamos hacer llegar una metodología clara y práctica que pueda ser usada en las empresas para mejorar, complementar y validar el desarrollo de la IA de manera fiable, ética y humana, podremos decir que el proyecto IA+Igual ha sido rotundamente exitoso.

Muchos proyectos hablan de ética de manera genérica, pero nosotros queremos concretarlo. Vamos a crear una hoja de ruta para auditar algoritmos de forma empírica y concreta. Así, cada empresa podrá usar esta guía para auditar y diagnosticar sus herramientas, determinando si están bien o necesitan mejoras.

Un papel relevante

El Instituto de Ciencia de los Datos e Inteligencia Artificial (DATAI) de la Universidad de Navarra (UNAV) juega un papel trascendental en la investigación del alcance e impacto de esta revolucionaria tecnología.

Es un instituto de investigación fundado en 2019, cuya función es investigar en las últimas tecnologías de inteligencia artificial con un gran foco en la transferencia en la sociedad y a las empresas.
Equipo: Está formado por 25 personas a tiempo completo y más de 100 colaboradores entre las que hay filósofos, neurocientíficos, abogados, informáticos, físicos, matemáticos… Una grupo multidisciplinariedad que muestra su visión de la IA y su visión del mundo
Pilares:

La investigación básica: que permite generar y producir científicamente nuevos avances para la evolución de la sociedad y la ciencia en el contexto de la ciencia de datos, IA y estadística avanzada.
La formación: a través de un máster de Big Data e inteligencia artificial y de diversos cursos.
La transferencia: que intenta aunar todos los resultados de la parte de investigación y transferirlos a la sociedad. Para ello, trabajan con empresas, en proyectos y colaboramos en iniciativas como IA+Igual como partners académicos.

Objetivo: Nace con una vocación de explicabilidad y su objetivo es llevar su expertise y conocimiento desde el punto de vista de investigación a un entorno real para ayudar, por ejemplo, a auditar herramientas de IA aplicadas a RR. HH. Es aquí donde queremos trabajar, haciendo entender que a través de la IA podemos mejorar en las empresas, personas o la sociedad. Entienden la IA como una herramienta y una tecnología transversal que nos permite ayudar en diferentes frentes e impactar positivamente en la sociedad.
Áreas científicas:

Medicina digital y personalizada (ayudando a mejorar diagnósticos o a la atención de los pacientes)
Estadística avanzada a través del diseño óptimo de experimentos
Procesamiento natural del lenguaje con el advenimiento de la IA generativa.