Sistemas de Alto Riesgo AI Act: Qué Son y Obligaciones

El Anexo III del AI Act lista los sectores: biometría, infraestructuras críticas, educación, empleo, servicios esenciales y prestaciones públicas, cumplimiento de la ley, migración, administración de justicia e infraestructura electoral. Si tu sistema opera en uno de estos sectores y toma decisiones o evalúa personas, es probable que sea de alto riesgo. Ante la duda, la clasificación la determina el proveedor — si no la tiene clara, busca asesoría especializada.

Las obligaciones completas para desplegadores de sistemas de alto riesgo del Anexo III se pospusieron al 2 de diciembre de 2027, gracias al Digital Omnibus. Pero la clasificación del sistema como de alto riesgo es previa: debes saber ya si tu IA está en esta categoría para preparar la documentación y los procesos de supervisión humana antes de esa fecha.

El desplegador puede asumir las obligaciones del proveedor si actúa bajo su propio nombre en el mercado de la UE, si modifica sustancialmente el sistema o si el proveedor está fuera de la UE sin representante. En estos casos, las obligaciones de documentación técnica, evaluación de conformidad y marcado CE recaen sobre el desplegador. Es un riesgo serio que debe revisarse contractualmente.

Los sistemas de IA usados en procesos de RRHH (selección, evaluación, asignación, rescisión) son de alto riesgo según el punto 4 del Anexo III. Como desplegador, debes garantizar supervisión humana efectiva, mantener registros de las decisiones tomadas con el sistema y comprobar que el proveedor tiene la documentación de conformidad. No puedes usar IA para decidir contrataciones sin que un humano pueda revisar y anular la decisión.

Sí. Los sistemas de IA que evalúan riesgos de vida y salud o determinan precios individualizados de seguros entran en el punto 5b del Anexo III como alto riesgo. Las aseguradoras que usen modelos de IA para pricing individual o selección de riesgo tienen obligaciones de supervisión humana y documentación técnica del proveedor.