IA en educación y formación: qué usos son de alto riesgo y cuáles están prohibidos

Para quién

Para centros educativos de cualquier nivel, universidades, centros de formación profesional, academias y plataformas de formación online que usan, o venden, herramientas con IA.

Requisitos previos

• Inventario de herramientas con IA: plataformas de aprendizaje, correctores automáticos, sistemas de admisión, vigilancia de exámenes y asistentes.
• Saber si el centro es público, privado concertado o privado: cambia alguna obligación.

Qué dice la norma

Pasos

1. Clasifica cada herramienta

Distingue las que solo ayudan a estudiar (riesgo mínimo o transparencia) de las que deciden o evalúan (alto riesgo). Un corrector automático cuya nota cuenta para el expediente evalúa resultados de aprendizaje.

• Entregable: mapa de herramientas con su calificación.

2. Retira la inferencia de emociones

Revisa si alguna plataforma deduce emociones del alumnado (atención, frustración, ánimo) a partir de cámara, voz o gestos. En centros educativos está prohibido salvo uso médico o de seguridad.

• Entregable: revisión documentada del art. 5.

3. Prepara el alto riesgo para diciembre de 2027

Como responsable del despliegue, aplica el art. 26: uso según instrucciones, supervisión humana por docentes con autoridad para cambiar la nota o la decisión, registros e información al alumnado afectado.

• Entregable: procedimiento de uso y revisión humana por herramienta.

4. Si eres centro público o prestas un servicio público

Antes de usar un sistema de alto riesgo, haz la evaluación de impacto en derechos fundamentales del art. 27.

• Entregable: evaluación de impacto notificada.

5. Avisa en tutores y chatbots

El alumnado debe saber que conversa con una IA desde la primera interacción. Ver la guía de chatbots.

• Entregable: aviso visible en cada asistente.

6. Forma al profesorado

Docentes y personal que usan estas herramientas deben conocer sus límites y el riesgo de confiar en exceso en sus resultados (supervisión humana).

• Entregable: plan de formación del claustro.

Checklist

• Herramientas con IA clasificadas.
• Ninguna infiere emociones del alumnado.
• Revisión docente de evaluaciones automáticas.
• Evaluación del art. 27, si el centro es público o presta servicio público.
• Avisos de IA en tutores y chatbots.
• Profesorado formado.

Errores frecuentes

• Dar la nota de la IA por definitiva sin revisión de un docente.
• Usar vigilancia de exámenes con análisis de emociones: la vigilancia es de alto riesgo; inferir emociones, prohibido.
• Dar por hecho que una plataforma online queda fuera: el anexo III habla de centros educativos y de formación profesional a todos los niveles. Analiza si tu plataforma encaja antes de descartarlo.