Annex XIII AI Act

class="oj-doc-ti" id="d1e38-144-1">ANEXO XIII

Officiële tekst

id="anx_XIII"> ANEXO XIII Critérios para a designação de modelos de IA de finalidade geral com risco sistémico a que se refere o artigo 51.o

A fim de determinar que um modelo de IA de finalidade geral tem capacidades ou um impacto equivalentes aos previstos no artigo 51.o, n.o 1, alínea a), a Comissão deve ter em conta os seguintes critérios:

a) O número de parâmetros do modelo;

b) A qualidade ou dimensão do conjunto de dados, por exemplo, medida através de tokens;

c) A quantidade de cálculo utilizada para o treino do modelo, medida em operações de vírgula flutuante ou indicada por uma combinação de outras variáveis, como o custo estimado do treino, o tempo estimado necessário para o treino ou o consumo estimado de energia para o treino;

d) As modalidades de entrada e de saída do modelo, tais como texto para texto (grandes modelos linguísticos), texto para imagem, multimodalidade e limiares de ponta para determinar as capacidades de elevado impacto para cada modalidade, bem como o tipo específico de entradas e saídas (por exemplo, sequências biológicas);

e) Os parâmetros de referência e avaliações das capacidades do modelo, nomeadamente tendo em conta o número de tarefas sem treino adicional, a adaptabilidade à aprendizagem de tarefas novas e distintas, o seu nível de autonomia e escalabilidade e as ferramentas a que tem acesso;

f) Se tem um elevado impacto no mercado interno devido ao seu alcance, o que se presume quando tiver sido disponibilizado a, pelo menos, 10 000 utilizadores empresariais registados estabelecidos na União;

g) O número de utilizadores finais registados.

ELI: http://data.europa.eu/eli/reg/2024/1689/oj ISSN 1977-0774 (electronic edition)

////////////////////////$(document).ready(function(){generateTOC(true,'', 'Topo','false');scrollToCurrentUrlAnchor();});

Bron: EUR-Lex, Verordening (EU) 2024/1689 — tekst ongewijzigd overgenomen.

📬 AI Act Weekly

Ontvang elke week de belangrijkste AI Act ontwikkelingen in je inbox.

Aanmelden

Veelgestelde vragen

Wat regelt Bijlage XIII van de AI Act?

Bijlage XIII beschrijft de criteria die de Europese Commissie gebruikt om te bepalen of een GPAI-model een systeemrisico vormt, conform artikel 51. Deze criteria bepalen of extra verplichtingen van toepassing zijn.

Welke criteria bepalen of een GPAI-model systeemrisico heeft?

Zeven criteria: (a) aantal parameters, (b) kwaliteit/grootte dataset, (c) hoeveelheid rekenkracht voor training, (d) input/output-modaliteiten en state-of-the-art drempels, (e) benchmarks en evaluaties, (f) impact op de interne markt (10.000+ zakelijke gebruikers), en (g) aantal geregistreerde eindgebruikers.

Is er een drempel voor het aantal parameters?

Bijlage XIII noemt het aantal parameters als criterium (punt a), maar stelt geen vaste drempel. Artikel 51, lid 1, punt a) noemt wel een drempel van 10^25 FLOP aan rekenkracht voor training als vermoeden van systeemrisico.

Wanneer wordt een model verondersteld systeemrisico te hebben?

Artikel 51, lid 2, bepaalt dat een model wordt verondersteld systeemrisico te hebben als de cumulatieve rekenkracht voor training meer dan 10^25 FLOP bedraagt. De Commissie kan deze drempel aanpassen via gedelegeerde handelingen.

Telt het aantal gebruikers mee voor systeemrisico?

Ja, punt f bepaalt dat hoge impact op de interne markt wordt vermoed als het model beschikbaar is gesteld aan ten minste 10.000 geregistreerde zakelijke gebruikers in de EU. Punt g verwijst ook naar het aantal eindgebruikers.

Zijn multimodale modellen sneller systeemrisico?

Bijlage XIII, punt d, noemt specifiek de input/output-modaliteiten (tekst-naar-tekst, tekst-naar-beeld, multimodaal) als criterium, met state-of-the-art drempels per modaliteit. Multimodale mogelijkheden kunnen dus bijdragen aan de classificatie.

Wie bepaalt of een model systeemrisico heeft?

De Europese Commissie bepaalt dit op basis van de criteria in Bijlage XIII en artikel 51. De aanbieder kan ook zelf melden dat zijn model systeemrisico heeft. De drempel van 10^25 FLOP creëert een wettelijk vermoeden.

Wat zijn de gevolgen van classificatie als systeemrisico?

Aanbieders van GPAI-modellen met systeemrisico moeten extra verplichtingen naleven: modelevaluatie, adversarial testing, incidentrapportage aan het AI-bureau, en adequate cybersecuritybescherming (artikel 55).