Sesgos en la IA: no existe un sistema neutral, existe uno que se mide y se corrige

Tesis

No existe un sistema de IA neutral: aprende de datos que reflejan decisiones pasadas. Lo que se puede exigir, y lo que la ley ya exige en los casos de más riesgo, es que sus sesgos se midan, se documenten y se corrijan antes de que decida sobre personas.

Lo que dice la norma

• Reglamento (UE) 2024/1689 (RIA), art. 10, apartado 2: los datos de entrenamiento, validación y prueba de los sistemas de alto riesgo deben someterse a un examen de posibles sesgos que afecten a la salud, la seguridad o los derechos fundamentales o generen discriminación (letra f)) y a medidas para detectarlos, prevenirlos y mitigarlos (letra g)).
• RIA, art. 4 bis, añadido por el Ómnibus de 2026: para detectar y corregir esos sesgos, los proveedores pueden tratar excepcionalmente datos de categorías especiales, como el origen étnico o la salud, solo si es estrictamente necesario y con garantías estrictas: datos sintéticos o anonimizados insuficientes, seudonimización, control de accesos y sin transmisión a terceros.
• Ley 15/2022, de igualdad de trato, art. 23: las administraciones públicas españolas favorecerán que sus algoritmos de decisión tengan en cuenta criterios de minimización de sesgos, transparencia y rendición de cuentas, con evaluaciones de impacto sobre el posible sesgo discriminatorio. Administraciones y empresas promoverán una IA ética y respetuosa con los derechos fundamentales.
• RGPD, art. 22: derecho a no ser objeto de decisiones basadas únicamente en tratamiento automatizado con efectos jurídicos o similares.

Argumentos

1. Los datos cuentan el pasado, no lo que debería ser. Un sistema que aprende de contrataciones, créditos o sanciones anteriores aprende también sus desigualdades. Sin examinarlos, las reproduce a escala y con apariencia de objetividad.

2. El sesgo no se ve desde dentro. Quien diseña o usa un sistema suele no detectar a quién perjudica. Por eso la norma pide un examen expreso y documentado, no una declaración de buenas intenciones.

3. Corregir exige medir, y medir exige datos. Para comprobar si un sistema discrimina por origen o por salud hay que poder contrastarlo con esos datos. El art. 4 bis lo reconoce y lo rodea de garantías: es una excepción, no una puerta abierta.

4. La confianza depende de poder explicar. Una decisión que afecta a una persona, como un préstamo, un empleo o una ayuda pública, debe poder explicarse y revisarse. Un sesgo no documentado convierte la explicación en imposible.

Contraargumentos más sólidos

«Las personas también tienen sesgos, y a veces más.» Es cierto. Pero un sesgo humano afecta caso a caso; uno algorítmico se repite en miles de decisiones idénticas. La ventaja de la IA es que su sesgo se puede medir de forma sistemática. Desaprovecharla sería el error.

«Eliminar todo sesgo es técnicamente imposible.» También es cierto, y la norma no lo pide. Pide examinar, mitigar y documentar. Lo que no es aceptable es no mirar.

«Tratar datos sensibles para corregir sesgos crea otro riesgo.» Es la objeción más seria. Por eso el art. 4 bis solo lo permite si los datos sintéticos o anonimizados no bastan, con seudonimización, accesos controlados y sin cesión. La alternativa, no medir, deja el riesgo de discriminación intacto.

Qué proponemos

1. No prometas una IA «sin sesgos». Promete un proceso: qué se mide, con qué datos y qué se corrige.
2. Examina los sesgos antes de decidir sobre personas, en empleo, crédito, seguros, educación o servicios públicos, aunque el sistema no sea de alto riesgo.
3. Pregunta al proveedor cómo examinó los sesgos de sus datos y qué limitaciones conoce. Ver la ficha del art. 6 y el anexo III.
4. Documenta los resultados en la evaluación de impacto: la del RGPD y, si estás obligado, la del art. 27.
5. Mantén una persona capaz de corregir el resultado y de explicarlo. Ver supervisión humana.
6. Si eres administración pública, aplica el art. 23 de la Ley 15/2022: evaluaciones de sesgo, transparencia y capacidad de interpretación.

La neutralidad no es un punto de partida, es un trabajo continuo. Y ese trabajo se puede auditar.