Responsible AI Platform

Anexo XIII AI Act

Criterios para la clasificación de los modelos de IA de uso general con riesgo sistémico a que se refiere el artículo 51

Officiële tekst

Criterios para la clasificación de los modelos de IA de uso general con riesgo sistémico a que se refiere el artículo 51 Con el fin de determinar si un modelo de IA de uso general tiene unas capacidades o unos efectos equivalentes a los contemplados en el artículo 51, apartado 1, letra a), la Comisión tendrá en cuenta los siguientes criterios:

a) el número de parámetros del modelo;

b) la calidad o el tamaño del conjunto de datos, por ejemplo medidos a través de criptofichas;

c) la cantidad de cálculo utilizada para entrenar el modelo, medida en operaciones de coma flotante o indicada con una combinación de otras variables, como el coste estimado del entrenamiento, el tiempo estimado necesario o el consumo de energía estimado para el mismo;

d) las modalidades de entrada y salida del modelo, como la conversión de texto a texto (grandes modelos de lenguaje), la conversión de texto a imagen, la multimodalidad y los umbrales punteros para determinar las capacidades de gran impacto de cada modalidad, y el tipo concreto de entradas y salidas (por ejemplo, secuencias biológicas);

e) los parámetros de referencia y las evaluaciones de las capacidades del modelo, también teniendo en cuenta el número de tareas sin entrenamiento adicional, la adaptabilidad para aprender tareas nuevas distintas, su nivel de autonomía y capacidad de ampliación y las herramientas a las que tiene acceso;

f) si sus repercusiones para el mercado interior son importantes debido a su alcance, lo que se dará por supuesto cuando se haya puesto a disposición de al menos 10 000 usuarios profesionales registrados establecidos en la Unión;

g) el número de usuarios finales registrados.

ELI: http://data.europa.eu/eli/reg/2024/1689/oj ISSN 1977-0685 (electronic edition)

// // // // // // // // // // // // $(document).ready(function(){generateTOC(true,'', 'Arriba','false');scrollToCurrentUrlAnchor();});

Bron: EUR-Lex, Verordening (EU) 2024/1689 — tekst ongewijzigd overgenomen.

📬 AI Act Weekly

Ontvang elke week de belangrijkste AI Act ontwikkelingen in je inbox.

Aanmelden

Veelgestelde vragen

Wat regelt Bijlage XIII van de AI Act?

Bijlage XIII beschrijft de criteria die de Europese Commissie gebruikt om te bepalen of een GPAI-model een systeemrisico vormt, conform artikel 51. Deze criteria bepalen of extra verplichtingen van toepassing zijn.

Welke criteria bepalen of een GPAI-model systeemrisico heeft?

Zeven criteria: (a) aantal parameters, (b) kwaliteit/grootte dataset, (c) hoeveelheid rekenkracht voor training, (d) input/output-modaliteiten en state-of-the-art drempels, (e) benchmarks en evaluaties, (f) impact op de interne markt (10.000+ zakelijke gebruikers), en (g) aantal geregistreerde eindgebruikers.

Is er een drempel voor het aantal parameters?

Bijlage XIII noemt het aantal parameters als criterium (punt a), maar stelt geen vaste drempel. Artikel 51, lid 1, punt a) noemt wel een drempel van 10^25 FLOP aan rekenkracht voor training als vermoeden van systeemrisico.

Wanneer wordt een model verondersteld systeemrisico te hebben?

Artikel 51, lid 2, bepaalt dat een model wordt verondersteld systeemrisico te hebben als de cumulatieve rekenkracht voor training meer dan 10^25 FLOP bedraagt. De Commissie kan deze drempel aanpassen via gedelegeerde handelingen.

Telt het aantal gebruikers mee voor systeemrisico?

Ja, punt f bepaalt dat hoge impact op de interne markt wordt vermoed als het model beschikbaar is gesteld aan ten minste 10.000 geregistreerde zakelijke gebruikers in de EU. Punt g verwijst ook naar het aantal eindgebruikers.

Zijn multimodale modellen sneller systeemrisico?

Bijlage XIII, punt d, noemt specifiek de input/output-modaliteiten (tekst-naar-tekst, tekst-naar-beeld, multimodaal) als criterium, met state-of-the-art drempels per modaliteit. Multimodale mogelijkheden kunnen dus bijdragen aan de classificatie.

Wie bepaalt of een model systeemrisico heeft?

De Europese Commissie bepaalt dit op basis van de criteria in Bijlage XIII en artikel 51. De aanbieder kan ook zelf melden dat zijn model systeemrisico heeft. De drempel van 10^25 FLOP creëert een wettelijk vermoeden.

Wat zijn de gevolgen van classificatie als systeemrisico?

Aanbieders van GPAI-modellen met systeemrisico moeten extra verplichtingen naleven: modelevaluatie, adversarial testing, incidentrapportage aan het AI-bureau, en adequate cybersecuritybescherming (artikel 55).