Artikel 16: Verplichtingen van aanbieders van AI-systemen met een hoog risico

Artikel 16 verplicht aanbieders onder meer om hun AI-systemen conform de eisen te maken, een kwaliteitsmanagementsysteem in te voeren, technische documentatie bij te houden, en de CE-markering aan te brengen.

Ja, aanbieders moeten zich en hun hoog-risico AI-systeem registreren in de EU-databank conform artikel 49, voordat het systeem in de handel wordt gebracht.

Artikel 16 van de AI Act maakt geen algemene uitzondering voor het MKB. Wel voorziet de AI Act in ondersteunende maatregelen en eventueel verlichte verplichtingen voor kleine en middelgrote ondernemingen, afhankelijk van hun rol in de AI-waardeketen.

Artikel 16 van de AI Act werkt aanvullend op de AVG. Waar de AVG persoonsgegevens beschermt, richt de AI Act zich op de veiligheid en betrouwbaarheid van AI-systemen. Organisaties moeten aan beide regelgevingen voldoen wanneer hun AI-systeem persoonsgegevens verwerkt.

De AI Act kent een gefaseerde invoering. Verboden AI-praktijken gelden vanaf februari 2025, verplichtingen voor hoog-risico AI-systemen vanaf augustus 2026, en overige bepalingen worden geleidelijk van kracht. De specifieke deadline voor artikel 16 hangt af van de categorie van de verplichting.

Ja, artikel 16 van de AI Act kan ook relevant zijn wanneer u AI-systemen inkoopt. Als gebruiksverantwoordelijke (deployer) heeft u eigen verplichtingen onder de AI Act, ongeacht of u het systeem zelf heeft ontwikkeld of ingekocht bij een aanbieder.

Bij artikel 16 van de AI Act is de provider (aanbieder) degene die het AI-systeem ontwikkelt of op de markt brengt, terwijl de deployer (gebruiksverantwoordelijke) degene is die het systeem onder eigen verantwoordelijkheid inzet. Beide rollen hebben verschillende verplichtingen.

Artikel 16 van de AI Act vereist dat relevante documentatie wordt bijgehouden als onderdeel van het compliance-proces. Dit kan technische documentatie, gebruiksaanwijzingen, logs of conformiteitsverklaringen omvatten, afhankelijk van de classificatie van het AI-systeem.

Vóór marktintroductie moet de aanbieder: een risicomanagementsysteem opzetten (art. 9), data governance waarborgen (art. 10), technische documentatie opstellen (Bijlage IV), een conformiteitsbeoordeling doorlopen (art. 43), de CE-markering aanbrengen en het systeem registreren in de EU-databank (art. 49).

Als u een AI-systeem wezenlijk wijzigt of onder uw eigen naam op de markt brengt, wordt u beschouwd als aanbieder (provider) onder de AI Act. U draagt dan alle verplichtingen van artikel 16, inclusief conformiteitsbeoordeling en technische documentatie.

Ja, artikel 17 (waarnaar artikel 16 verwijst) vereist dat aanbieders van hoog-risico AI een kwaliteitsmanagementsysteem (QMS) opzetten. Dit omvat strategieën, procedures, regels en instructies voor het systematisch waarborgen van compliance gedurende de gehele levenscyclus.