¿Quién es Deborah Raji?
Inioluwa Deborah Raji nació en Port Harcourt (Nigeria) en 1995 o 1996 y se mudó a Canadá a los cuatro años, creciendo entre Mississauga y Ottawa. Es una científica de la computación nigeriano-canadiense, investigadora y activista, reconocida mundialmente por su trabajo en sesgo algorítmico, rendición de cuentas de la IA y auditoría algorítmica.
Actualmente es, Mozilla Fellow y estudiante de doctorado en ciencias de la computación en la Universidad de California (Berkeley). Antes de eso, se graduó en Ingeniería (Engineering Science) por la Universidad de Toronto. Ha trabajado con el Algorithmic Justice League (fundado por Joy Buolamwini), el AI Now Institute, la Partnership on AI y el equipo de Ético de Google AI.
Ha sido reconocida por MIT Technology Review como una de las 35 Innovadoras Menores de 35 (2020) por Forbes en su lista 30 Under 30 (2021), y por TIME como una de las 100 personas más influyentes en IA (2023). También recibió el Tech For Humanity Prize 2024 y el EFF Pioneer Barlow Award junto a Joy Buolamwini y Timnit Gebru.
Lo que ha hecho y lo más relevante
El trabajo de Raji se centra en algo que suena técnico pero que tiene consecuencias profundamente humanas: auditar los sistemas de inteligencia artificial para detectar sesgos, exigir transparencia y obligar a las empresas a rendir cuentas. Su punto de partida fue revelador.
Durante una pasantía en Clarifai, una empresa de aprendizaje automático, notó que las personas de color eran etiquetadas con mayor frecuencia como contenido “NSFW” (no seguro para el trabajo) en comparación con personas blancas. Ese hallazgo la llevó a preguntarse qué había detrás de esos sistemas y quién los estaba supervisando.
Junto a Joy Buolamwini y el Algorithmic Justice League, Raji realizó auditorías pioneras sobre sesgo de género y racial en tecnologías de reconocimiento facial. Sus investigaciones demostraron que estos sistemas eran significativamente menos precisos con mujeres de piel oscura que con hombres de piel clara. Sus hallazgos, fueron tan contundentes que forzaron a empresas como IBM y Amazon a cambiar sus prácticas y a modificar o retirar productos de reconocimiento facial.
También, trabajó en la creación de model cards (tarjetas de modelos), un marco de documentación para reportar de forma transparente cómo funcionan los modelos de machine learning. Este tipo de herramientas son hoy parte del debate sobre estándares de transparencia en IA.
¿Por qué su trabajo es importante para el futuro de la tecnología?
Raji aborda una de las preguntas más urgentes de nuestra era: ¿Quién se encarga de vigilar a los sistemas actuales que toman decisiones sobre nuestras vidas?. Los algoritmos ya influyen en si conseguimos un trabajo, un crédito, una vivienda o incluso en decisiones médicas y gubernamentales. Su propuesta va más allá de la simple detección de fallos.
Raji defiende que la auditoría algorítmica debe convertirse en una práctica institucionalizada, con consecuencias legales y organizativas reales cuando los sistemas causan daño. En sus propias palabras, se necesita construir “la infraestructura técnica e institucional necesaria para que esta forma de supervisión permita una adopción segura y generalizada de la IA”.
Si la IA va a gestionar aspectos críticos de la sociedad, el trabajo de Raji sienta las bases para que eso ocurra sin reproducir desigualdades históricas ni crear nuevas formas de discriminación a escala masiva. Es, en esencia, una voz que exige que la innovación tecnológica vaya acompañada de responsabilidad.
¿Y para el presente?
El impacto de Raji ya es tangible. Sus auditorías cambiaron el comportamiento de gigantes tecnológicos en tiempo real. Hay empresas que inicialmente negaban los sesgos en sus sistemas se vieron obligadas a reconocerlos y corregirlos tras la publicación de sus investigaciones.
Además, su trabajo ha influido en el debate regulatorio actual. A medida que los gobiernos de todo el mundo discuten leyes para regular la IA, conceptos como “auditoría algorítmica” y “evaluación de impacto” empiezan a aparecer en propuestas legislativas, en parte gracias a la labor de investigadores como Raji.
Hoy, sus charlas y publicaciones son referencia obligada en conferencias de ética en IA, derechos digitales y gobernanza tecnológica. Su voz conecta el mundo técnico con el jurídico y el social, algo imprescindible para que las políticas de IA sean efectivas y no meros gestos simbólicos.
Contribuciones destacadas (más allá de “inventos”)
Raji no es una inventora en el sentido tradicional de patentar dispositivos. Su contribución es metodológica y conceptual: ha desarrollado marcos para auditar sistemas de IA, ha definido procesos para documentar modelos (model cards) y ha sentado las bases de lo que hoy se conoce como auditoría algorítmica de extremo a extremo.
Entre sus trabajos más citados están:
- “Actionable Auditing” (con Joy Buolamwini): una de las primeras auditorías que demostró sesgos raciales y de género en sistemas comerciales de reconocimiento facial.
- “Closing the AI Accountability Gap”: un marco integral para auditar internamente sistemas de IA antes y después de su despliegue.
- “Saving Face”: un análisis de las preocupaciones éticas en la auditoría de reconocimiento facial.
Datos curiosos
- Comenzó su camino en la ética de la IA antes de terminar la universidad, con una pasantía que la confrontó con un sesgo evidente en un producto real.
- Fue incluida en la lista de TIME 100 Most Influential in AI en 2023, un reconocimiento reservado para las figuras más influyentes del sector.
- Es co-recipiente del EFF Pioneer Barlow Award, un premio que reconoce a quienes defienden las libertades digitales.
- Su trabajo ha sido cubierto por medios como The New York Times, The Washington Post, The Verge y National Post.
- Forma parte de consejos asesores de organizaciones como el Center for Democracy and Technology AI Governance Lab y el Health AI Partnership.
Frases destacadas
“Estos sistemas son mucho menos precisos con personas de piel oscura y específicamente, con mujeres de piel oscura.”
— Deborah Raji, sobre los hallazgos de sus auditorías de reconocimiento facial
“Espero que la gente se lleve la idea de que la IA no funciona a menos que funcione para todos. La idea de que una tecnología sesgada y peligrosa pueda desplegarse en millones de personas me resulta increíble.”
— Deborah Raji
“Realmente quiero que seamos más reflexivos como campo sobre cómo construimos estas cosas, porque importa y afecta a las personas.”
— Deborah Raji
“A una empresa se le evalúa con un benchmark que cuenta una historia muy bonita y limpia. Pero eso no es lo que ocurre en el mundo real.”
— Deborah Raji
El puente entre tecnología y los derechos humanos
Lo que distingue a Deborah Raji de muchos investigadores técnicos es que su trabajo no se queda en el laboratorio ni en el paper académico. Ella entiende que la tecnología no existe en un vacío y que sus consecuencias recaen sobre personas reales. Por eso trabaja en la intersección entre ciencia de la computación, derecho, políticas públicas y sociedad civil.
Su labor recuerda que el desarrollo tecnológico sin supervisión ni responsabilidad puede convertirse en una herramienta de opresión a gran escala. Y que la pregunta no es solo qué podemos construir, sino qué deberíamos construir, cómo y para quién. En un momento en que la IA avanza más rápido que las leyes que deberían gobernarla, figuras como Raji son indispensables para que el futuro no sea solo brillante, sino también justo.
Descubre más desde CIBERED
Suscríbete y recibe las últimas entradas en tu correo electrónico.