Ley de Inteligencia Artificial

Si desarrollas o encargas un sistema de inteligencia artificial y lo comercializas o lo pones en servicio bajo tu propio nombre, eres tú quien lo ha creado —o, al menos, quien figura como responsable en la caja—. Si has entrenado el modelo, has diseñado el sistema o le has puesto tu marca, eres el proveedor.

Tus obligaciones

• Clasifique el nivel de riesgo de su sistema de IA: inaceptable, alto, limitado o mínimo (art. 6, anexo III)
• En el caso de la IA de alto riesgo: implantar un sistema de gestión de la calidad que abarque todo el ciclo de vida (art. 17)
• Realizar una evaluación de la conformidad antes de comercializar el sistema (art. 43)
• Inscribir los sistemas de IA de alto riesgo en la base de datos de la UE (art. 49)
• Proporcionar información transparente a los usuarios, incluyendo las capacidades, las limitaciones y la finalidad prevista (art. 13)
• Aplicar la gestión de riesgos a lo largo de todo el ciclo de vida del sistema de inteligencia artificial (art. 9)
• Garantizar la gobernanza de los datos de entrenamiento: pertinencia, representatividad y ausencia de sesgos (art. 10)
• Garantizar la supervisión humana del funcionamiento del sistema de inteligencia artificial (art. 14)
• Llevar la documentación técnica y los registros (artículos 11 y 12)
• Notificar los incidentes graves a las autoridades (art. 62)

Artículos destacados

Utilizas un sistema de IA bajo tu responsabilidad, con fines profesionales y no como consumidor final. Si has comprado o adquirido una licencia de una herramienta de IA y la has implementado en el flujo de trabajo de tu organización, eres un implementador. No has creado el modelo, pero has decidido utilizarlo, y eso conlleva ciertas responsabilidades.

Tus obligaciones

• Utilice el sistema de IA siguiendo las instrucciones del proveedor (art. 26.1); el manual existe por una razón
• Garantizar la supervisión humana por parte de personal competente (art. 26.2)
• Supervisar el funcionamiento del sistema de IA y comunicar cualquier fallo al proveedor (art. 26.5)
• Realizar una evaluación del impacto sobre los derechos fundamentales (FRIA) para la IA de alto riesgo en determinados sectores (art. 27)
• Informar a las personas de que son objeto de decisiones tomadas por la IA (art. 26.7), especialmente en lo que respecta al reconocimiento de emociones o a la clasificación biométrica
• Conserve los registros generados por el sistema de IA de alto riesgo durante al menos seis meses (art. 26.6)
• Colaborar con las autoridades nacionales cuando así se solicite (art. 26.8)

Artículos destacados

Usted introduce en el mercado de la UE sistemas de inteligencia artificial procedentes de fuera de la UE. Usted es la puerta de entrada: si un proveedor no perteneciente a la UE desea vender inteligencia artificial en Europa, a menudo es usted quien lo hace posible. Esto conlleva la responsabilidad de verificar que lo que importa cumple efectivamente con los requisitos de la UE.

Tus obligaciones

• Compruebe que el proveedor haya llevado a cabo la evaluación de la conformidad (art. 23.1)
• Asegúrese de que el sistema de IA lleve el marcado CE y vaya acompañado de la documentación necesaria (art. 23.1)
• Compruebe que el proveedor haya designado a un representante autorizado en la UE (art. 23.2)
• No comercialice un sistema si tiene motivos para creer que no cumple con los requisitos (art. 23.3)
• Asegúrese de que las condiciones de almacenamiento y transporte no pongan en peligro el cumplimiento de la normativa (art. 23.4)
• Conserve una copia de la declaración de conformidad de la UE durante 10 años (art. 23.5)

Artículos destacados

Pones a disposición del mercado sistemas de IA sin ser el proveedor ni el importador. Piensa, por ejemplo, en un distribuidor, un mercado digital o un socio de integración. Formas parte de la cadena de suministro, y la Ley de IA pretende que todos los integrantes de la cadena cumplan con su parte.

Tus obligaciones

• Compruebe que el sistema de IA lleve el marcado CE y cuente con la documentación necesaria (art. 24.1)
• No ponga a disposición un sistema si tiene motivos para creer que no cumple con los requisitos (art. 24.2)
• Asegúrese de que las condiciones de almacenamiento y transporte no pongan en peligro el cumplimiento de la normativa (art. 24.3)
• Informe al proveedor o al importador si considera que el sistema presenta un riesgo (art. 24.4)
• Colaborar con las autoridades competentes y facilitar información cuando así se solicite (art. 24.5)

Artículos destacados

Herramientas disponibles

• Registro de sistemas de IA: cataloga todos los sistemas de IA de tu organización con metadatos y niveles de riesgo
• Clasificación de riesgos (4 niveles): evaluación estructurada acorde con las categorías del anexo III
• Plantilla FRIA: Evaluación del impacto sobre los derechos fundamentales (12 preguntas)
• Hoja de ruta de cumplimiento por nivel de riesgo: guía paso a paso adaptada al resultado de su clasificación

Funciones asistidas por IA

• Clasificación de riesgos basada en la inteligencia artificial: comparación automatizada con el anexo III mediante el método RAG, con puntuaciones de confianza y factores contribuyentes
• Asistente de consulta (ai_act_classification): clasificación guiada en cinco pasos con análisis de IA en cada uno de ellos
• Búsqueda semántica en los artículos y considerandos de la Ley de Inteligencia Artificial