Supervisión humana de la IA: por qué «una persona en el bucle» no basta si no puede decir que no

Tesis

La supervisión humana de la IA solo protege a las personas cuando quien supervisa entiende el sistema, tiene tiempo para revisarlo y autoridad real para decir que no; sin esas tres condiciones, «una persona en el bucle» es una firma, no una garantía.

Lo que dice la norma

El art. 14 del Reglamento (UE) 2024/1689 de Inteligencia Artificial (RIA) exige que los sistemas de IA de alto riesgo se diseñen para que puedan ser «vigilados de manera efectiva por personas físicas» mientras estén en uso. Su objetivo es prevenir o reducir los riesgos para la salud, la seguridad y los derechos fundamentales (apartado 2), y las medidas deben ser proporcionales a los riesgos, a la autonomía del sistema y al contexto de uso (apartado 3).

El apartado 4 concreta qué debe poder hacer la persona que supervisa:

Para la identificación biométrica remota (anexo III, punto 1, letra a)), el apartado 5 pide además que dos personas verifiquen por separado la identificación antes de actuar, con excepciones en los ámbitos policial, migratorio, fronterizo y de asilo.

El RIA reparte la responsabilidad: el proveedor diseña el sistema para que sea supervisable (art. 14) y el responsable del despliegue encomienda la supervisión a personas «que tengan la competencia, la formación y la autoridad necesarias» (art. 26, apartado 2). Estas obligaciones aplican a los sistemas de alto riesgo del anexo III desde el 2 de diciembre de 2027 (ver el calendario).

Argumentos

1. El sesgo de automatización es real y la norma lo reconoce. Que el propio art. 14 lo nombre es significativo: una persona que revisa cientos de propuestas de un sistema tiende a aceptarlas. Si el diseño del puesto premia la velocidad, la supervisión se convierte en un trámite.

2. Sin autoridad, no hay supervisión. La letra d) solo tiene sentido si descartar el resultado del sistema no le cuesta nada a quien lo hace. Si contradecir a la máquina obliga a justificarse más que aceptarla, o penaliza en los objetivos, la organización ha desactivado la garantía sin decirlo. Por eso el art. 26.2 exige autoridad, no solo formación.

3. Las personas afectadas necesitan a alguien que responda. El art. 86 del RIA da a quien sufre una decisión basada en un sistema de alto riesgo del anexo III (salvo el punto 2) derecho a explicaciones claras sobre el papel del sistema. El art. 22 del RGPD reconoce el derecho a no ser objeto de decisiones basadas únicamente en tratamiento automatizado con efectos jurídicos o similares y, en sus excepciones, a obtener intervención humana e impugnar la decisión. Esos derechos se vacían si la persona que interviene no puede cambiar nada.

4. La supervisión mejora el sistema, no solo lo frena. Las discrepancias registradas son información: muestran dónde falla el modelo, qué casos no previó y qué datos faltan. Una organización que las escucha aprende antes.

Contraargumentos más sólidos

«La persona también se equivoca, y a veces más que el sistema.» Es cierto en tareas concretas. Pero el art. 14 no pide que la persona decida siempre mejor, sino que pueda detectar anomalías, entender límites y frenar. La alternativa a una supervisión imperfecta no es ninguna supervisión, sino una mejor diseñada: datos sobre cuándo acierta cada uno y reglas claras sobre quién decide qué.

«Revisar cada resultado hace inviable el uso de la IA.» También es cierto, y el RIA no lo exige: las medidas son proporcionales al riesgo, a la autonomía y al contexto (art. 14.3), y pueden integrarse en el sistema o aplicarse por el responsable del despliegue. Supervisar no es revisar todo; es poder intervenir donde importa, con muestreos, umbrales y alertas.

«La supervisión humana sirve para trasladar la culpa a la persona.» Es el riesgo más serio: que la organización ponga a alguien a firmar para que la responsabilidad recaiga en él. Por eso la tesis no es «más personas en el bucle», sino personas con condiciones para ejercer el control. Si no las tienen, la responsabilidad sigue siendo de quien diseñó el puesto.

Qué proponemos

1. Mide la supervisión por la discrepancia. Registra cuántas veces la persona descarta o corrige el resultado. Una tasa cercana a cero durante meses no prueba que el sistema sea perfecto; puede indicar que nadie se atreve o tiene tiempo para contradecirlo.
2. Diseña el puesto, no solo el sistema. Tiempo suficiente por caso, objetivos que no penalicen la revisión y una vía clara para detener el sistema (art. 14.4, letra e)).
3. Forma en límites, no en entusiasmo. La alfabetización en IA del art. 4 debe incluir el sesgo de automatización y casos en los que el sistema falla.
4. Da autoridad por escrito. Que la política interna diga quién puede invalidar un resultado y que hacerlo no requiere permiso.
5. Cierra el círculo con las personas afectadas. Prepara cómo explicar una decisión (art. 86) y cómo atender una impugnación (art. 22 del RGPD) antes de necesitarlo.
6. Documéntalo en la evaluación de impacto. Si estás obligado a la evaluación del art. 27, su letra e) pide describir precisamente estas medidas de supervisión humana.

La supervisión humana no es un freno a la IA ni un sello para tranquilizar. Es la forma de que siga habiendo alguien que responda ante las personas. Para saber si un sistema es de alto riesgo, consulta la ficha del art. 6 y el anexo III y el glosario.