California acaba de convertirse en el primer estado de Estados Unidos en prohibir que la inteligencia artificial despida a un trabajador por sí sola.
El gobernador Gavin Newsom firmó la ley SB 947, conocida como la “Ley contra el Jefe Robot” y con ella, establece un principio que hasta ahora solo existía en el terreno de la ética: las decisiones que arruinan la vida de una persona no pueden delegarse por completo en una máquina.
La norma no prohíbe usar IA en recursos humanos. Prohíbe confiar en ella ciegamente y las diferencias son importantes.
¿Qué dice exactamente la ley?
El texto establece tres obligaciones concretas para los empleadores de California. La primera es que ningún despido ni sanción disciplinaria puede basarse exclusivamente en un sistema automatizado de decisión. Siempre tiene que haber una persona que revise y valide.
La segunda es que esa supervisión humana no puede ser un trámite vacío. El empleador debe verificar activamente la decisión que propone el algoritmo antes de ejecutarla.
La tercera es la transparencia. El trabajador tiene derecho a saber si la decisión que le afecta se tomó con ayuda de un sistema automatizado. Ya no vale eso de “la empresa ha decidido” cuando en realidad fue un modelo el que puso la firma.
El argumento que lo sostiene
El senador estatal Jerry McNerney, impulsor de la norma, lo resumió con una frase que difícilmente podría ser más clara: “Ningún empleado debería ser despedido o sancionado por un jefe robot”.
McNerney no se opone a la tecnología. Reconoce que la IA puede aumentar la productividad. Pero también señala sus debilidades: se equivoca, arrastra sesgos y comete errores de juicio. Y cuando esos errores caen sobre la vida laboral de una persona, las consecuencias son demasiado graves para dejarlas sin supervisión.
Su conclusión es una declaración de principios: “La IA debe ser siempre una herramienta controlada por humanos, no al revés”.
¿Por qué esto importa más de lo que parece?
La ley llega en un momento en el que la automatización de decisiones laborales avanza deprisa. Los sistemas de IA ya se usan para filtrar currículos, evaluar el rendimiento, detectar comportamientos “problemáticos” y recomendar despidos. En muchos casos, el humano que “revisa” la decisión se limita a firmar lo que el algoritmo propone.
Ese es exactamente el escenario que California quiere evitar. No discute que la IA ayude a gestionar plantillas grandes o a detectar patrones que un mánager no vería. Discute que la IA decida sola quién se queda sin empleo.
El problema no es teórico. Los sistemas automatizados han demostrado sesgos documentados por género, raza, edad y discapacidad. Han despedido a trabajadores por errores de datos. Han penalizado a empleados por patrones de comportamiento que no reflejaban su desempeño real. Y en la mayoría de esos casos, no había nadie al otro lado revisando.
El contexto: la regulación empieza a llegar
California no es el único lugar donde se está legislando sobre esto. La Unión Europea lleva tiempo trabajando en normas para clasificar los sistemas de IA según su riesgo, y las decisiones laborales están entre las más sensibles. En Estados Unidos, varias ciudades ya han aprobado reglas locales sobre el uso de algoritmos en la contratación.
Lo que hace especial a la ley de California es su alcance. Es un estado con casi 40 millones de habitantes y algunas de las mayores empresas tecnológicas del mundo. Lo que se decida allí suele marcar tendencia.
Lo que cambia para empresas y trabajadores
Para las empresas, la norma obliga a revisar sus procesos. Cualquier sistema de IA que participe en decisiones disciplinarias o de despido tendrá que pasar por una capa de revisión humana real. Y esa revisión tendrá que documentarse.
Para los trabajadores, la ley ofrece algo que hasta ahora era difícil de exigir: el derecho a saber. Si te despiden y hubo un algoritmo de por medio, la empresa tiene que decírtelo.
No es una protección absoluta. No impide que una empresa use IA para vigilar, evaluar o presionar. No garantiza que la revisión humana sea justa. Pero establece un límite. Y en un terreno donde los límites escasean, eso ya es mucho.
Lo que viene en el futuro
La ley entrará en vigor con un periodo de adaptación. Las empresas tendrán que ajustar sus sistemas. Los abogados laborales tendrán un nuevo marco para litigar. Y los trabajadores, por primera vez, tendrán una herramienta para preguntar por qué se tomaron decisiones que antes llegaban sin explicación.
El debate de fondo no es si la IA debe estar en el lugar de trabajo. Ya está. El debate es quién tiene la última palabra cuando la IA se equivoca. California ha decidido que la respuesta es una persona. Y ha puesto una ley para que así sea.
Descubre más desde CIBERED
Suscríbete y recibe las últimas entradas en tu correo electrónico.
