El Consejo de Derechos Civiles publica regulaciones propuestas para proteger contra la discriminación laboral en los sistemas automatizados de toma de decisiones

SACRAMENTO – El Consejo de Derechos Civiles de California anunció hoy la publicación de regulaciones propuestas para proteger contra la discriminación en el empleo resultante del uso de inteligencia artificial, algoritmos y otros sistemas automatizados de toma de decisiones. De conformidad con la Ley de Procedimiento Administrativo, el Consejo de Derechos Civiles ha iniciado el período de comentarios públicos para las regulaciones propuestas y alienta a las partes interesadas a presentar comentarios públicos antes de la fecha límite del 18 de julio de 2024.

“Los empleadores utilizan cada vez más la inteligencia artificial y otras tecnologías para tomar decisiones laborales, desde el reclutamiento y la contratación hasta la promoción y la retención,” dijo la concejal de Derechos Civiles Hellen Hong. “Si bien estas herramientas pueden aportar una variedad de beneficios, también pueden contribuir y perpetuar aún más los prejuicios y la discriminación basados en características protegidas. Las regulaciones propuestas aclaran cómo las reglas existentes que protegen contra la discriminación laboral se aplican a estas tecnologías emergentes, y aliento a cualquiera que esté interesado a participar en el proceso regulatorio enviando comentarios públicos.”

“Estamos orgullosos del espíritu innovador de California,” dijo el director del Departamento de Derechos Civiles, Kevin Kish. “A través de avances en tecnología e inteligencia artificial, estamos tomando medidas para abordar el cambio climático, desarrollar tratamientos de vanguardia en atención médica y construir la economía del mañana. Al mismo tiempo, también tenemos la responsabilidad de garantizar que nuestras leyes sigan el ritmo y conservemos los derechos civiles ganados con tanto esfuerzo. Las regulaciones propuestas anunciadas hoy representan nuestro compromiso continuo con la justicia y la equidad en el lugar de trabajo. Aplaudo al Consejo de Derechos Civiles por su trabajo.”

Según la ley de California, el Departamento de Derechos Civiles de California (CRD) está encargado de hacer cumplir muchas de las sólidas leyes de derechos civiles del estado, incluso en las áreas de empleo, vivienda, negocios y alojamiento público, y programas y actividades financiados por el estado. Como parte de esos esfuerzos, el Consejo de Derechos Civiles — una rama del CRD — desarrolla y emite regulaciones para implementar las leyes estatales de derechos civiles. Con respecto a los sistemas de decisión automatizada, las regulaciones propuestas inicialmente por el Consejo de Derechos Civiles son el resultado de una serie de discusiones públicas, incluida una audiencia en abril de 2021, y una cuidadosa consideración de las aportaciones de expertos y del público, así como de informes y orientaciones federales.

Los sistemas automatizados de toma de decisiones — que pueden depender de algoritmos o inteligencia artificial — se utilizan cada vez más en entornos laborales para facilitar una amplia gama de decisiones relacionadas con los solicitantes de empleo o los empleados, incluso con respecto al reclutamiento, la contratación y la promoción. Si bien estas herramientas pueden aportar innumerables beneficios, también pueden exacerbar los sesgos existentes y contribuir a resultados discriminatorios. Ya sea una herramienta de contratación que rechaza a las candidatas imitando las características existentes de la fuerza laboral dominada por hombres de una empresa o un sistema de entrega de anuncios de empleo que refuerza los estereotipos de género y raciales al dirigir anuncios de cajero a mujeres y trabajos de taxi a trabajadores negros, muchos de los desafíos han sido bien documentados.

Entre otros cambios, las regulaciones propuestas por el Consejo de Derechos Civiles buscan:

• Aclarar que es una violación de la ley de California utilizar un sistema automatizado de toma de decisiones si perjudica a los solicitantes o empleados en función de características protegidas.
• Garantizar que los empleadores y las entidades cubiertas mantengan registros de empleo, incluidos datos de toma de decisiones automatizadas, durante un mínimo de cuatro años.
• Afirmar que el uso de un sistema automatizado de toma de decisiones por sí solo no reemplaza el requisito de una evaluación individualizada al considerar los antecedentes penales de un solicitante.
• Aclarar que los terceros tienen prohibido ayudar e incitar a la discriminación laboral, incluso mediante el diseño, la venta o el uso de un sistema automatizado de toma de decisiones.
• Proporcionar ejemplos claros de pruebas o desafíos utilizados en evaluaciones de sistemas automatizados de toma de decisiones que puedan constituir consultas médicas o psicológicas ilegales.
• Agregar definiciones de términos clave utilizados en las regulaciones propuestas, como “sistema de decisión automatizada,” “impacto adverso” y “proxy.”

El Consejo de Derechos Civiles y el CRD alientan a todas las partes interesadas y miembros del público a participar en el proceso regulatorio. Los comentarios escritos deben enviarse antes de las 5:00 p.m. PT del 18 de julio de 2024. Los comentarios pueden enviarse por correo electrónico a council@calcivilrights.ca.gov. Se llevará a cabo una audiencia pública sobre las regulaciones propuestas a las 10:00 a.m. PT el 18 de julio de 2024. Información adicional sobre cómo enviar comentarios públicos y participar en la audiencia está disponible aquí.

El aviso de reglamentación propuesta, la exposición inicial de los motivos de las regulaciones propuestas y el texto propuesto de las regulaciones están disponibles aquí.

Para recibir actualizaciones por correo electrónico sobre la reglamentación propuesta y otras actividades del Consejo de Derechos Civiles, puede suscribirse en línea en https://calcivilrights.ca.gov/subscriptions/.

El Departamento de Derechos Civiles de California (CRD) es el organismo estatal encargado de hacer cumplir las leyes de derechos civiles de California. La misión de CRD es proteger a la población de California contra la discriminación ilegal en el empleo, la vivienda, los alojamientos públicos y los programas y actividades financiados por el Estado, así como contra la violencia motivada por el odio y la trata de seres humanos. Para obtener más información, visite calcivilrights.ca.gov.

Ver comunicado de prensa (PDF) El Consejo de Derechos Civiles publica regulaciones propuestas para proteger contra la discriminación laboral en los sistemas automatizados de toma de decisiones