De AI-verordening is een baanbrekende wet die de regels vastlegt voor het verantwoord ontwikkelen en gebruiken van kunstmatige intelligentie (AI) door bedrijven, overheden en andere organisaties. Het is de eerste uitgebreide wet over AI ter wereld en heeft als doel om de risico’s rondom AI-systemen te inventariseren en actie te ondernemen om deze risico’s te beperken.
Een van de eerste stappen die ontwikkelaars en gebruikers van AI moeten nemen, is het inventariseren van welke AI-systemen zij aanbieden of gebruiken en in welke risicogroep deze vallen. Er zijn drie categorieën: verboden AI, AI met een hoog risico en AI met een beperkt risico. Voor elk van deze categorieën gelden specifieke eisen en verplichtingen.
Verboden AI-systemen moeten per februari 2025 uit de handel worden genomen en organisaties die ze gebruiken moeten stoppen. Het niet naleven van deze regels kan leiden tot flinke boetes vanaf augustus 2025. AI-systemen met een hoog risico moeten voldoen aan strenge eisen op het gebied van risicobeheer, transparantie en menselijk toezicht. Een keurmerk is verplicht voor deze systemen. AI-systemen met een beperkt risico moeten transparantieverplichtingen naleven en gebruikers moeten worden geïnformeerd over het gebruik ervan.
Vanaf februari 2025 geldt ook de eis dat organisaties die AI-systemen inzetten, voldoende kennis in huis moeten hebben over AI. Dit betekent dat medewerkers moeten begrijpen hoe AI-systemen werken en welke risico’s ze met zich meebrengen. De Autoriteit Persoonsgegevens (AP) zal de komende tijd nadenken over manieren om het AI-kennisniveau bij organisaties te verbeteren.
Ook voor het kabinet is er werk aan de winkel, aangezien duidelijk moet worden welke toezichthouders in Nederland verantwoordelijk worden voor het toezicht op de AI-verordening. Het is essentieel dat alle betrokken partijen zich bewust zijn van de verplichtingen en eisen die de AI-verordening met zich meebrengt om te zorgen voor een verantwoorde ontwikkeling en gebruik van AI-systemen.
Wil je meer weten over de stappen die ontwikkelaars en gebruikers moeten nemen om aan de AI-verordening te voldoen? Lees het stappenplan. Benieuwd naar de huidige en toekomstige risico’s rond AI en algoritmes? Lees de nieuwste editie van de Rapportage AI- & Algoritmerisico’s Nederland (RAN). Het is van groot belang om op de hoogte te blijven van de ontwikkelingen en verplichtingen omtrent AI om te zorgen voor een veilige en verantwoorde toepassing van deze technologie.