Nivel 2 · Selección de estudiantes — la ley entra en escena

🟡 Parcial — El bucle de riesgo es ejecutable hoy en CPU con froga y el repositorio público vldemo-student-selection (una etiqueta por hito). La revisión del portal corre en platformpre. Los cuatro enlaces a commits se resuelven una vez que vldemo-student-selection se publique en la organización Venturalitica. El cierre honesto es VERDE limpio en el gate de minimización de datos, con un residual de explicabilidad reconocido y aceptado conscientemente — por diseño.

TL;DR

Un sistema educativo decide quién es admitido o asignado — clasifica a los estudiantes por una predicción de aprobado/suspenso. Esa decisión afecta al futuro de una persona, así que la ley entra en escena: este uso es de alto riesgo según la Ley de IA de la UE, Anexo III §3 (educación y formación profesional). No hay capa sectorial encima — ni DORA, ni el Reglamento de Dispositivos Médicos (MDR) — así que esta es la columna vertebral limpia: solo la Ley de IA, más las dos normas que el motor puede proyectar con veracidad, prEN 18228 e ISO 23894. Las mismas tres personas: Nerea, responsable de producto, declara el propósito y la clasificación desde el portal; Diego, responsable de calidad, revisa y aprueba (four-eyes) desde el portal; Marta, ingeniera, trabaja desde la CLI froga y git. Los sujetos pueden ser menores de edad, y el RGPD exige minimizar sus datos (Art. 5(1)(c)): sobre datos reales de estudiantes, el primer modelo conserva la edad exacta de cada alumno y la barrera de k-anonimato sale ROJA — 216 de 1044 alumnos son re-identificables con solo tres atributos. Marta lo trata con un cambio de código — generaliza la edad a un tercil, la técnica clásica de Sweeney — y el k-anonimato sube de 1 a 27, con un intervalo de confianza que queda entero del lado seguro: el motor cierra VERDE limpio, sin ambigüedad. La paridad demográfica también mejora en paralelo, pero a la muestra real ya era pequeña — queda certificada como control de auditoría, no como el gate. Diego revisa lo que SÍ queda como residual (la opacidad del modelo) y aprueba con ese motivo en el registro. Un gate limpio no es “nada que vigilar” — es la lección entera.

Si todavía no conoces probabilidad × impacto, apetito, residual y la barrera ROJO / ÁMBAR / VERDE, lee primero la introducción de cinco minutos — y el Nivel 1, el calentamiento sin ley:

¿Qué es un riesgo?Probabilidad × impacto, la matriz 5×5, el apetito, el residual y los colores de barrera ROJO/ÁMBAR/VERDE — el vocabulario sobre el que funciona este taller.

Nivel 1 · Iris — tu primer bucle de riesgo, sin ninguna leyEl calentamiento: un clasificador de flores que ninguna ley toca, que cierra limpiamente en VERDE. El Nivel 2 mantiene los tres roles y añade la ley, sujetos menores de edad y un gate de minimización de datos.

Este sistema SÍ es de alto riesgo según la Ley de IA de la UE — y eso lo cambia todo

En el Nivel 1 ejecutamos el bucle de riesgo sobre flores porque es buena ingeniería, sin ninguna ley en juego. Aquí el sistema decide sobre personas — y esas personas pueden ser menores de edad: quién es admitido, quién es asignado. Según la Ley de IA de la UE eso lo sitúa de lleno en el Anexo III §3 — la lista de usos de alto riesgo en educación y formación profesional. Alto riesgo no es una etiqueta que eliges; es una clasificación legal que activa obligaciones reales: un sistema de gestión del riesgo (Art. 9), gobernanza de datos (Art. 10), documentación técnica (Art. 11), transparencia ante los usuarios (Art. 13), supervisión humana (Art. 14) — y, porque hay menores, el RGPD sube el listón (Art. 5, 8, 22, 35). El punto del Nivel 1 era que el método es valioso sin ninguna ley. El punto del Nivel 2 es que, cuando la ley sí aplica, ese mismo método es cómo la cumples — y cómo mantienes la honestidad sobre qué está medido y qué sigue siendo un residual reconocido.

Prerrequisitos

Nivel 1 (el bucle de riesgo) y ¿Qué es un riesgo? (el vocabulario), más Normas, borradores y presunción (las normas que declara este nivel). Tres requisitos materiales, uno por rol:

Nerea (portal): una cuenta de correo para recibir el código de acceso (OTP) — ella declara y abre los PR.
Diego (portal): una cuenta de correo — revisa y aprueba los PR de Nerea y luego aprueba el riesgo.
Marta (terminal): git y uv (gestiona Python ≥ 3.11 y el entorno; el taller usa uv sync y uv run). Sin GPU — todo corre en la CPU de un portátil en minutos, sobre el conjunto de datos real UCI Student Performance combinando sus dos cohortes (matemáticas + portugués, unas mil filas).

Si haces el taller en solitario, interpretas los tres roles: mantén el navegador (para las acciones de portal de Nerea y Diego) y el terminal (el trabajo CLI de Marta) a mano.

Al terminar sabrás…

Clasificar un sistema como de alto riesgo según el Anexo III §3 y explicar por qué entra la ley ahora (decide sobre personas, que pueden ser menores) — y por qué no hay capa sectorial aquí (la columna vertebral limpia).
Ejecutar un bucle de riesgo completo sobre un control de minimización de datos (RGPD Art. 5(1)(c)) medido como k-anonimato, y leer una barrera que pasa de ROJO a VERDE con un tratamiento de generalización real.
Distinguir un control certificado (la paridad demográfica: real, medido, en verde, pero no el gate) de un control bloqueante (la minimización de datos: el que decide el color del arco) — y por qué esa distinción es la respuesta honesta, no un truco narrativo.
Ver un tratamiento por cambio de código real con DOS mitigaciones en el mismo diff (generalizar la edad + aprendizaje justo fairlearn) y reconocer que un gate limpio en verde puede convivir con un residual reconocido (la opacidad del modelo) aceptado conscientemente en la aprobación.
Leer la proyección un paquete → N normas: el mismo paquete firmado proyectado sobre ISO 23894 y prEN 18228 con veredictos reales, con presunción = falso hoy — y entender por qué DORA y el MDR no se declaran aquí.

Las lecciones de este nivel

El encuadre — por qué entra la ley y cuál aplicaPor qué un sistema de selección de estudiantes es de alto riesgo (Anexo III §3 del EU AI Act) y cómo se relaciona ISO 23894 con prEN 18228.

El arco, por traspasosEl taller de tres roles: el gate de minimización de datos de un alumno menor sale ROJO sobre datos reales, Marta lo trata generalizando la edad, y el motor cierra en VERDE limpio — la paridad demográfica queda certificada en paralelo.

En profundidad — la minimización de datos, los artículos y la proyecciónEl gate de k-anonimato explicado, los Artículos 5/9/10/13 en breve, la proyección de un paquete sobre varias normas y por qué el Anexo IV es parcial por diseño.

Práctica y cierreEjecuta el arco de selección de estudiantes, repasa el sistema que cierra en verde con un residual reconocido y autocomprueba lo aprendido.