prEN 18283 — gestión del sesgo en sistemas de IA (borrador armonizado)

prEN 18283 es el borrador de estándar armonizado elaborado por CEN/CENELEC JTC 21 para la gestión del sesgo en sistemas de IA. Operacionaliza los requisitos del EU AI Act Art. 10(2)(f)/(g) y Art. 10(5): el examen de posibles sesgos en los datos de entrenamiento, las medidas para detectarlos, prevenirlos y mitigarlos, y las salvaguardas para el tratamiento excepcional de categorías especiales de datos. prEN 18284 (Calidad de Datos) hace referencia normativa a prEN 18283 como medio de conformidad con Art. 10(2)(f)-(g).

Estado del borrador — sin presunción hasta la cita en el DOUE

prEN 18283 es un borrador armonizado confidencial de CEN-CENELEC JTC 21. Su texto íntegro no es público. Cuando sea adoptado como EN definitivo y citado en el Diario Oficial de la UE (DOUE/OJEU), conferirá presunción de conformidad con Art. 10. Hasta entonces, el cumplimiento de sus orientaciones es una buena práctica técnica — no otorga presunción. Los plazos de obligatoriedad del AI Act para Anexo III se han aplazado al 2 de diciembre de 2027.

IP — por qué los ids de cláusula son semánticos

El texto de prEN 18283 es confidencial (norma de pago). Los identificadores de cláusula en el motor son semánticos (bias.*) y se anclan en el texto público y vinculante del Art. 10 del Reg. UE 2024/1689, no en los números de cláusula del borrador. Esta página tampoco reproduce texto del borrador: parafrasea las obligaciones del artículo público.

---

Qué cubre prEN 18283

prEN 18283 define un proceso sistemático para que los proveedores de sistemas de IA de alto riesgo:

1. Identifiquen los grupos afectados y los escenarios de sesgo relevantes para la finalidad prevista del sistema, incluyendo grupos no limitados a las clases protegidas legales.
2. Examinen los datos de entrenamiento en busca de posibles sesgos: lagunas de datos, representatividad insuficiente y límites contextuales.
3. Midan el sesgo por subgrupo con umbrales gobernados y potencia estadística suficiente.
4. Mitiguen los sesgos identificados mediante tratamientos (debiasing) y evalúen el riesgo residual de sesgo tras la mitigación.
5. Monitoricen el sesgo post-comercialización con disparadores de revisión.
6. Documenten el proceso en un expediente de gestión de sesgo versionado.
7. Apliquen salvaguardas para el tratamiento excepcional de categorías especiales de datos (Art. 10(5)(a)-(f)) cuando sea necesario para detectar y corregir el sesgo.

---

Catálogo de cláusulas

El fichero crates/froga-core/resources/standards/pren-18283-clauses.yaml declara las cláusulas modeladas.

Examen e identificación del sesgo (Art. 10(2)(f))

Cláusula	Título resumido	satisfied_by
bias.affected_groups	Identificación de grupos relevantes/afectados a partir de la finalidad prevista	evidence: affected_persons
bias.examination	Examen de posibles sesgos: escenarios de sesgo, grupo en riesgo, peligros y daños potenciales	measures_citing: true

Una cláusula con evidence: affected_persons queda cubierta cuando el bundle firmado contiene la lista de partes afectadas declaradas en froga.yaml. Una cláusula con measures_citing: true queda cubierta cuando al menos una medida firmada la cita y su control asociado pasa.

Datos relevantes y representativos (Art. 10(2)(a)-(h), 10(3))

Cláusula	Título resumido	satisfied_by
bias.relevant_data	Datos relevantes y suficientemente representativos; examen de lagunas y límites contextuales	measures_citing: true
bias.data_sufficiency_gap	Suficiencia de datos para certificar equidad: brecha no cerrable por reentrenamiento	measures_citing: true

Medición de sesgo por subgrupo (Art. 10(2)(f))

Cláusula	Título resumido	satisfied_by
bias.subgroup_measurement	Medición de sesgo por subgrupo con umbral gobernado y potencia estadística	measures_citing: true

Esta es la cláusula que recoge las métricas de equidad cuantitativas (p. ej. demographic_parity_diff y equal_opportunity_diff en clasificación, o group_score_gap de Dice por subgrupo en segmentación) declaradas como controles en el AssuranceProgram. El umbral es el que declara el equipo en froga.yaml, no un número impuesto por la norma.

Detección, prevención y mitigación (Art. 10(2)(g))

Cláusula	Título resumido	satisfied_by
bias.mitigation	Medidas para detectar, prevenir y mitigar los sesgos identificados	measures_citing: true
bias.residual_evaluation	Evaluación del riesgo residual de sesgo tras la mitigación	criterion: residual_present

Categorías especiales (Art. 10(5))

Cláusula	Título resumido	satisfied_by
bias.special_category_safeguards	Tratamiento excepcional de categorías especiales: salvaguardas Art. 10(5)(a)-(f)	measures_citing: true

Monitorización y expediente

Cláusula	Título resumido	satisfied_by
bias.monitoring	Monitorización post-comercialización del sesgo y disparadores de revisión	measures_citing: true, evidence: monitoring_plan
bias.management_file	Expediente de gestión de sesgo firmado: escenarios de sesgo versionados y documentados	evidence: signed_bundle

---

Cómo se proyecta sobre el motor

El motor froga implementa el paradigma ISO 23894 como motor primario. prEN 18283 se proyecta por encima mediante este catálogo de cláusulas: froga conformance --standard eu/pren-18283@2026 evalúa la cobertura de cada cláusula sin reescribir el proceso subyacente.

El mismo bundle firmado que genera el veredicto ISO 23894 puede proyectarse sobre prEN 18283 sin re-anotación. La cobertura de sesgo emerge de las medidas del AssuranceProgram que citan este estándar en su campo standard_clauses.

Ejemplo de cadena para bias.subgroup_measurement:

• El equipo declara en froga.yaml una medida con control demographic_parity_diff < 0.15 y cita eu/pren-18283@2026#bias.subgroup_measurement en standard_clauses.
• froga run ejecuta el pipeline, mide el valor y lo firma en el bundle.
• froga conformance --standard eu/pren-18283@2026 encuentra la medida citante con control pasado → emite bias.subgroup_measurement: CUBIERTA.

---

Gaps identificados

🟡 Parcial — El motor implementa la medición de sesgo y la proyección a prEN 18283. La cadena de mitigación completa y las salvaguardas de categorías especiales requieren medidas citantes explícitas. Ver Estado e incompletitudes.

bias.data_sufficiency_gap: la brecha de suficiencia de datos para certificar equidad (Art. 10(3)) requiere una medida que documente que la brecha existe y no es cerrable por reentrenamiento. Sin esa medida, la cláusula es HUECO.

bias.special_category_safeguards: las salvaguardas del Art. 10(5) son aplicables solo cuando el sistema trata categorías especiales para detectar/corregir sesgo. Si el proyecto no las declara, la cláusula emite HUECO (no es un fallo per se —puede que no aplique— pero el motor no infiere la inaplicabilidad automáticamente).

Sin control enforcement:blocking en sesgo: la cláusula bias.subgroup_measurement puede quedar PARCIAL si la medida de equidad tiene enforcement: audit en lugar de enforcement: blocking. El motor distingue honestamente entre una métrica monitoreada (advisory) y un control que bloquea la barrera.

---

Cómo usar froga conformance con prEN 18283

# Evaluar conformidad con prEN 18283 desde el bundle firmado
froga conformance --standard eu/pren-18283@2026

# Con historial por iteración RDD
froga conformance --standard eu/pren-18283@2026 --history

# Exportar a .froga/conformance/
froga conformance --standard eu/pren-18283@2026 --out

El informe emite CUBIERTA / PARCIAL / HUECO por cláusula, agrupada por fase del ciclo de gestión de sesgo.

---

Relación con otros estándares

• EU AI Act Art. 10 — la obligación legal que prEN 18283 operacionaliza; ver EU AI Act.
• prEN 18228 — la norma de gestión de riesgos (Art. 9); la equidad/sesgo es una dimensión del riesgo en el paradigma product-safety. Ver prEN 18228.
• MDR (SaMD) — en sistemas médicos, el sesgo por subgrupo/escáner también cubre GSPR 17.1. Ver MDR.
• ISO 23894 — el proceso de gestión de riesgos subyacente al motor. Ver ISO 23894.