¿Podría el sesgo de la Inteligencia Artificial costarle un trabajo? Legislador de New Jersey quiere más control sobre el desarrollo de estas aplicaciones 

Por: Daniel Muñoz

Es muy probable que un empleador haya utilizado inteligencia artificial para determinar si eres el candidato adecuado para un trabajo. 

Casi una de cada cuatro organizaciones dijo que usa o planea adoptar Inteligencia Artificial y otros procesos computarizados para la contratación y el reclutamiento, según una encuesta realizada el año pasado por la Sociedad para la Gestión de Recursos Humanos. El software se está haciendo cargo de gran parte del trabajo rutinario de contratación, selección y recopilación de información, dijo Chinmay Hegde, profesor asociado de informática en la Universidad de New York.

Pero los escépticos se preocupan por un lado oscuro: que los sistemas de inteligencia artificial entrenados en decisiones de contratación anteriores simplemente automatizan los sesgos raciales y culturales que anteriormente excluyeron a las mujeres, las minorías, las personas con discapacidades u otros grupos.

En respuesta, algunos legisladores de New Jersey quieren un mayor escrutinio de cómo los empleadores usan la Inteligencia Artificial en sus decisiones de contratación.

“Esto no es prohibir el uso de este software, es solo asegurarse de que estamos verificando y auditando y estableciendo algunos límites para garantizar procesos de equidad”, dijo uno de los principales patrocinadores del proyecto de ley, la asambleísta estatal Sadaf Jaffer, D-Mercer. .

Cómo regularía el estado la Inteligencia Artificial

Según el proyecto de ley A4909 , los empleadores solo pueden usar software de contratación que haya sido sujeto a una «auditoría de sesgo», que busca cualquier patrón de discriminación. Requeriría revisiones anuales de si los programas cumplen con la ley estatal.

Los empleadores también tendrían que notificar a los candidatos si se utilizó software automatizado en el proceso de contratación. Una primera infracción generaría una multa de $500 y hasta $1,500 por cada infracción subsiguiente.

El proyecto de ley de Jaffer superó un primer obstáculo cuando el Comité Laboral de la Asamblea lo aprobó con una votación de 8 a 1 el 19 de Enero. Una versión del Senado estatal, S1926, se presentó al comité laboral de esa cámara en marzo pasado, pero hasta ahora no ha recibido una votación.

Cómo se utiliza la Inteligencia Artificial en la contratación

Los empleadores en la encuesta de la Sociedad para la Gestión de Recursos Humanos dijeron que utilizan la Inteligencia Artificial y la automatización para todo, desde la selección de currículos hasta la elección de candidatos para entrevistas, la calificación de candidatos en evaluaciones de habilidades e incluso la administración de entrevistas.

Sesenta y cuatro por ciento de los profesionales de recursos humanos le dijeron a la sociedad que usaban software para filtrar automáticamente a los solicitantes «no calificados». Los empleadores dijeron que las herramientas les ahorran tiempo y les ayudan a identificar rápidamente las mejores opciones.

«Los sistemas de Inteligencia Artificial pueden ayudar a analizar un gran volumen de currículos y buscar más rápidamente candidatos calificados», dijo Beena Ammanath, directora ejecutiva del Deloitte AI Institute. «Los chatbots y otros sistemas de mensajería automatizados pueden agilizar las comunicaciones con los posibles candidatos».

¿Qué es el sesgo de la Inteligencia Artificial?

Si bien tales herramientas pueden ahorrar tiempo y dinero a las empresas, sin cuidado también «pueden resultar en discriminación ilegal», advirtió el Departamento de Justicia de Estados Unidos en un aviso a los empleadores en Mayo pasado.

De hecho, Reuters informó en 2018 que Amazon había dejado de usar una herramienta de reclutamiento de Inteligencia Artificial porque penalizaba a los solicitantes con currículums que hacían referencia a actividades «femeninas» o títulos de dos universidades exclusivamente para mujeres.

El Departamento de Justicia, en su guía del año pasado, advirtió que la contratación automatizada puede violar la Ley de Estadounidenses con Discapacidades.

Por ejemplo, dijo el departamento, un empleado con discapacidad visual que tiene que tomar una evaluación usando un teclado podría tener un mal desempeño, lo que podría costarle un ascenso u otra oportunidad laboral, incluso si sus habilidades de mecanografía no fueran relevantes para el trabajo.

Un evaluador de chatbot podría rechazar automáticamente a alguien con brechas de empleo causadas por una discapacidad. O el chatbot podría rechazar a un solicitante en silla de ruedas que indica que no puede estar de pie durante largos períodos de tiempo, incluso si podría hacer el trabajo sentado. 

La Comisión de Igualdad de Oportunidades en el Empleo del departamento dijo que los empleadores deben tomar medidas conscientes que no dejen fuera a los solicitantes y empleados discapacitados. 

Los empleadores de NJ piden precaución

La Asociación de Industria y Negocios de New Jersey dijo que se necesita más información de los empleadores sobre cómo usan la inteligencia artificial, y que se necesitan varias enmiendas antes de que el grupo pueda apoyar el proyecto de ley.

“Creo que no tenemos muchos datos concretos sobre cómo se utilizan estas herramientas en el lugar de trabajo”, dijo Alexis Bailey, vicepresidente de asuntos gubernamentales de la asociación. 

«Hemos escuchado anécdotas aquí y allá sobre diferentes problemas que han surgido, pero creo que hasta que comprendamos exactamente qué son estas herramientas, exactamente cómo se usan en el lugar de trabajo, es difícil decir dónde deberíamos, como estado, reduzca las regulaciones «, dijo Bailey. «Decimos que tenga cuidado, solo porque hay muchas incógnitas y las cosas están cambiando, como siempre sucede con la tecnología». 

El año pasado, el Concejo Municipal de New York aprobó una de las primeras leyes del país para regular la Inteligencia Artificial en la contratación. Pero la ciudad ha retrasado la implementación , después de verse inundada de preguntas sobre qué tipos de automatización se incluyen en sus reglas, quién realizará las auditorías y qué deberían medir.

Cómo hackear la Inteligencia Artificial utilizada en la contratación

Los solicitantes de empleo pueden adaptar su currículum para que se vea más atractivo para los algoritmos al incluir términos o frases de la descripción del trabajo, dijo Ammanath, del Deloitte AI Institute.

Se deben evitar los «currículums creativos o inusuales», ya que «las imágenes, las ilustraciones y las fuentes inusuales generalmente no funcionan bien con los modelos de Inteligencia Artificial», agregó Ammanath. «Cuando se trata de formatos de currículum, los candidatos deben usar plantillas de currículum estándar y fuentes comunes».

Pero Ridhi Shetty, asesora de políticas en el Centro para la Democracia y la Tecnología en Washington, DC, dijo que «al final del día, hacer que los trabajadores intenten y piensen en formas de eludir estas herramientas realmente solo pone la responsabilidad sobre los trabajadores de evitar ser discriminados, en lugar de redoblar esfuerzos con los empleadores y proveedores, quienes deberían ser más responsables de sus prácticas».

Esta traducción fue proporcionada por Latino Spirit Media, en asociación con el Centro de Medios Cooperativos de la Universidad Estatal de Montclair, y cuenta con el apoyo financiero del Consorcio de Información Cívica de NJ. La historia fue escrita originalmente en inglés por northjersey.com y se vuelve a publicar en virtud de un acuerdo especial para compartir contenido a través del Servicio de noticias de traducción al español de NJ News Commons.

This translation was provided by Latino Spirit Media, in association with the Center for Cooperative Media at Montclair State University and is financially supported by the NJ Civic Information Consortium. The story was originally written in English by  northjersey.com and is republished under a special content sharing agreement through the NJ News Commons Spanish Translation News Service.