Sistemas de Alto Riesgo AI Act: Qué Son y Obligaciones
Consultoría y Cumplimiento EU AI Act
Sistemas de alto riesgo AI Act: clasificación y obligaciones
Los sistemas de alto riesgo del AI Act son los que el Reglamento (UE) 2024/1689 identifica en su Anexo III como potencialmente perjudiciales para la salud, la seguridad o los derechos fundamentales de las personas. Estos sistemas exigen obligaciones mucho más estrictas que el resto: evaluación de conformidad, documentación técnica, registro de actividades y supervisión humana reforzada.
¿Tu empresa usa IA para selección de personal, evaluación de crédito, diagnóstico médico o acceso a prestaciones públicas? Es probable que operes con sistemas de alto riesgo. Las obligaciones para desplegadores de estos sistemas se pospusieron al 2 de diciembre de 2027 gracias al Digital Omnibus, pero la clasificación previa es obligatoria ya.
Sistemas de alto riesgo AI Act: los 8 ámbitos del Anexo III
El Anexo III del AI Act lista los sistemas de alto riesgo por sector, cualquier empresa en estos sectores debe revisar si su IA cae bajo esta categoría
RRHH y gestión laboral (punto 4)
IA para selección de personal (cribado de CVs, entrevistas automatizadas), asignación de tareas, evaluación del desempeño, rescisión de contratos o sistemas de seguimiento. Uno de los usos más extendidos y más vigilados por la AESIA.
Scoring crediticio y seguros (punto 5b)
Sistemas de evaluación de solvencia, scoring de riesgo para créditos, primas de seguros basadas en IA o decisiones sobre acceso a servicios financieros. Los sistemas que determinan el acceso a crédito son de alto riesgo sin excepción.
Educación y formación (punto 3)
IA que determina el acceso a la educación, evalúa el rendimiento de estudiantes, asigna plazas o influye en el acceso a oportunidades formativas. Las plataformas de e-learning con evaluación automatizada deben revisar su clasificación.
Prestaciones y servicios públicos (punto 5a)
Sistemas de IA usados por administraciones públicas para determinar el acceso a prestaciones sociales, subsidios, prestaciones de desempleo o servicios esenciales. Aplica también a proveedores privados de sistemas usados por la administración.
Obligaciones para desplegadores de sistemas de alto riesgo
Qué exige el AI Act si tu empresa usa un sistema clasificado como de alto riesgo
Verificar la documentación del proveedor
El desplegador debe comprobar que el proveedor del sistema tiene la documentación técnica (Anexo IV), la declaración de conformidad UE y el marcado CE. Si el proveedor no la tiene, el desplegador asume responsabilidades adicionales.
Supervisión humana obligatoria (Art. 26.1)
El desplegador está obligado a garantizar supervisión humana efectiva sobre el sistema. Esto significa que una persona con competencia y autoridad puede intervenir, pausar o anular cualquier decisión del sistema durante su funcionamiento.
Registro de actividades (Art. 26.6)
Obligación de mantener registros de las actividades del sistema durante al menos 6 meses, incluyendo logs de uso, decisiones tomadas, incidencias y datos de entrada/salida cuando el sistema los genera automáticamente. Son la prueba ante la AESIA.
Preguntas Frecuentes
¿Cómo sé si el sistema de IA que uso es de alto riesgo?
El Anexo III del AI Act lista los sectores: biometría, infraestructuras críticas, educación, empleo, servicios esenciales y prestaciones públicas, cumplimiento de la ley, migración, administración de justicia e infraestructura electoral. Si tu sistema opera en uno de estos sectores y toma decisiones o evalúa personas, es probable que sea de alto riesgo. Ante la duda, la clasificación la determina el proveedor, si no la tiene clara, busca asesoría especializada.
¿Cuándo aplican las obligaciones de alto riesgo para desplegadores?
Las obligaciones completas para desplegadores de sistemas de alto riesgo del Anexo III se pospusieron al 2 de diciembre de 2027, gracias al Digital Omnibus. Pero la clasificación del sistema como de alto riesgo es previa: debes saber ya si tu IA está en esta categoría para preparar la documentación y los procesos de supervisión humana antes de esa fecha.
¿Qué pasa si el proveedor de mi sistema de alto riesgo no tiene la documentación exigida?
El desplegador puede asumir las obligaciones del proveedor si actúa bajo su propio nombre en el mercado de la UE, si modifica sustancialmente el sistema o si el proveedor está fuera de la UE sin representante. En estos casos, las obligaciones de documentación técnica, evaluación de conformidad y marcado CE recaen sobre el desplegador. Es un riesgo serio que debe revisarse contractualmente.
¿Cómo afecta el AI Act a los sistemas de selección de personal con IA?
Los sistemas de IA usados en procesos de RRHH (selección, evaluación, asignación, rescisión) son de alto riesgo según el punto 4 del Anexo III. Como desplegador, debes garantizar supervisión humana efectiva, mantener registros de las decisiones tomadas con el sistema y comprobar que el proveedor tiene la documentación de conformidad. No puedes usar IA para decidir contrataciones sin que un humano pueda revisar y anular la decisión.
¿Los sistemas de scoring de riesgo en seguros son de alto riesgo?
Sí. Los sistemas de IA que evalúan riesgos de vida y salud o determinan precios individualizados de seguros entran en el punto 5b del Anexo III como alto riesgo. Las aseguradoras que usen modelos de IA para pricing individual o selección de riesgo tienen obligaciones de supervisión humana y documentación técnica del proveedor.
¿Tu empresa opera con sistemas de alto riesgo? Te ayudamos a clasificarlos
Clasificación de riesgo, documentación técnica, supervisión humana y seguimiento, todo incluido en SIGNA360
Cookies
Aquí puede revisar sus preferencias de privacidad. Esta web utiliza cookies propias y de terceros para mejorar su accesibilidad, realizar análisis estadísticos y de navegación de usuarios a fin de mejorar su experiencia. Leer más
