Los legisladores europeos están finalizando el trabajo sobre una ley de IA. La administración de Biden y los líderes del Congreso tienen sus propios planes para dominar la inteligencia artificial. Sam Altman, CEO de OpenAI, creador de la sensación de IA ChatGPT, recomendó la creación de una agencia federal con poderes de supervisión y concesión de licencias en el testimonio del Senado la semana pasada. Y el tema se planteó en la cumbre del G-7 en Japón.

En medio de grandes planes y promesas, Nueva York se ha convertido en un modesto pionero en la regulación de la IA.

El gobierno de la ciudad aprobó una ley en 2021 y adoptó reglas específicas el mes pasado para una aplicación de alto riesgo de la tecnología: decisiones de contratación y promoción. La implementación comienza en julio.

La ley de la ciudad requiere que las empresas que utilizan software de inteligencia artificial en la contratación notifiquen a los solicitantes que se está utilizando un sistema automatizado. También requiere que las empresas tengan auditores independientes que verifiquen la tecnología anualmente para detectar sesgos. Los solicitantes pueden solicitar y recibir información sobre qué datos se recopilan y analizan. Las empresas serán multadas por violaciones.

El enfoque centrado de Nueva York representa un frente importante en la regulación de la IA. En algún momento, los principios generales desarrollados por los gobiernos y las organizaciones internacionales, dicen los expertos, deben traducirse en detalles y definiciones. ¿Quién se ve afectado por la tecnología? ¿Cuáles son los beneficios y los daños? ¿Quién puede intervenir y cómo?

“Sin un caso de uso específico, no puede responder estas preguntas”, dijo Julia Stojanovic, profesora asociada de la Universidad de Nueva York y directora del Centro de Inteligencia Artificial Responsable.

Pero incluso antes de que entrara en vigor, la ley de Nueva York fue un imán para las críticas. Los defensores del interés público dicen que eso no es suficiente, mientras que los grupos empresariales dicen que no es práctico.

Las quejas de ambos campos apuntan al desafío de regular la IA, que avanza a un ritmo vertiginoso con consecuencias desconocidas, generando entusiasmo y ansiedad.

Los compromisos difíciles son inevitables.

A la Sra. Stojanovic le preocupa que la ley de la ciudad tenga lagunas que podrían debilitarla. “Pero es mucho mejor que ninguna ley en absoluto”, dijo. “Y hasta que no intentes regular, no aprenderás cómo hacerlo”.

La ley se aplica a las empresas con trabajadores en Nueva York, pero los expertos laborales esperan que afecte las prácticas a nivel nacional. Al menos cuatro estados (California, Nueva Jersey, Nueva York y Vermont) y el Distrito de Columbia también están trabajando en leyes para regular la IA en la contratación. E Illinois y Maryland han aprobado leyes que restringen el uso de tecnologías de inteligencia artificial específicas, a menudo para la vigilancia en el lugar de trabajo y la evaluación de los solicitantes de empleo.

La ley de Nueva York surgió de un choque de puntos de vista fuertemente contradictorios. El Concejo Municipal lo aprobó en los últimos días de la administración del alcalde Bill de Blasio. Luego vino una serie de audiencias y comentarios públicos, más de 100,000 palabras, supervisados ​​por el Departamento de Protección al Consumidor y al Trabajador de la ciudad, la agencia reguladora.

Algunos críticos dicen que el resultado es demasiado comprensivo con los intereses comerciales.

“Lo que podría haber sido una legislación histórica se diluyó hasta perder efectividad”, dijo Alexandra Givens, presidenta del Centro para la Democracia y la Tecnología, una organización política y de derechos civiles.

Eso se debe a que la ley define una “herramienta de toma de decisiones de empleo automatizada” como la tecnología utilizada “para ayudar significativamente o reemplazar la toma de decisiones discrecional”, dijo. Las reglas aprobadas por la ciudad parecen interpretar esa frase de manera restringida, de modo que el software de inteligencia artificial requeriría una auditoría solo si es el factor único o principal en una decisión de contratación o se usa para invalidar a una persona, dijo Givens.

Eso pasa por alto el núcleo de cómo se usa el software automatizado, dijo, y el gerente de contratación invariablemente toma la decisión final. El potencial de discriminación impulsada por la IA, dijo, generalmente consiste en evaluar a cientos o miles de solicitantes hasta reducirlos a un puñado, o en el reclutamiento en línea dirigido para generar un grupo de candidatos.

La Sra. Givens también criticó la ley por limitar los tipos de grupos a los que se dirige el trato injusto. Cubre los prejuicios de género, raza y etnia, pero no la discriminación contra los trabajadores mayores o las personas con discapacidad.

“Mi mayor preocupación es que esto se está convirtiendo en un patrón nacional cuando deberíamos pedir mucho más a nuestros políticos”, dijo la Sra. Givens.

La ley se redujo para agudizarla y garantizar que sea específica y aplicable, dijeron funcionarios de la ciudad. El consejo y la agencia de protección de los trabajadores escucharon muchas voces, incluidas las de activistas de interés público y empresas de software. Su objetivo era sopesar las compensaciones entre la innovación y el daño potencial, dijeron los funcionarios.

“Este es un éxito regulatorio significativo para garantizar que la tecnología de IA se use de manera ética y responsable”, dijo Robert Holden, quien presidió el comité de tecnología del Consejo cuando se aprobó el proyecto de ley y sigue siendo miembro del comité.

Nueva York trató de lidiar con la nueva tecnología en el contexto de las leyes laborales federales con pautas de contratación desde esa fecha hasta la década de 1970. La regla básica de la Comisión de Igualdad de Oportunidades en el Empleo establece que ninguna práctica o método de selección utilizado por los empleadores debe tener un “impacto dispar” en un grupo legalmente protegido, como las mujeres o las minorías.

Las empresas criticaron la ley. En una declaración de este año, Software Alliance, un grupo comercial que incluye a Microsoft, SAP y Workday, dijo que exigir auditorías independientes de IA era “inviable” porque “el entorno de auditoría es incipiente”, carece de estándares y organismos de supervisión profesional.

Pero el campo naciente es una oportunidad de mercado. El negocio de auditoría de IA, dicen los expertos, aún no ha crecido. Ya está atrayendo bufetes de abogados, consultores y empresas emergentes.

Las empresas que venden software de inteligencia artificial para ayudar con las decisiones de contratación y promoción generalmente aceptan las regulaciones. Algunos ya se han sometido a auditorías externas. Ven el requisito como una ventaja competitiva potencial, lo que proporciona evidencia de que su tecnología amplía el grupo de candidatos laborales para las empresas y aumenta las oportunidades para los trabajadores.

“Creemos que podemos cumplir con la ley y mostrar cómo se ve una buena IA”, dijo Roy Wang, asesor general de Eightfold AI, una startup de Silicon Valley que fabrica software que se usa para ayudar a los gerentes de contratación.

La ley de Nueva York también adopta un enfoque de la regulación de la IA que podría convertirse en la norma. La medida principal de la ley es una “relación de impacto”, o un cálculo del efecto del uso del software en un grupo protegido de solicitantes de empleo. No profundiza en cómo el algoritmo toma sus decisiones, un concepto conocido como “explicabilidad”.

Los críticos dicen que en aplicaciones que afectan la vida, como la contratación, las personas tienen derecho a una explicación de cómo se tomó una decisión. Pero la IA, como el software de estilo ChatGPT, se está volviendo cada vez más compleja, lo que quizás pone fuera de alcance el objetivo de una IA explicable, dicen algunos expertos.

“El enfoque se convierte en el resultado del algoritmo, no en la operación del algoritmo”, dijo Ashley Cassovan, directora ejecutiva del Instituto de IA responsable, que desarrolla certificaciones para el uso seguro de aplicaciones de IA en el lugar de trabajo, la atención médica y las finanzas.