Tekst: Asha Narain
Beeld: ANP Foto/Patrick Post
De complexiteit van kunstmatige intelligentie (AI) neemt toe. En dus ook de uitdagingen op het gebied van wet- en regelgeving. De Europese AI Act biedt een kader voor veilig en ethisch gebruik. Angeline van Dijk, inspecteur-generaal van de Rijksinspectie Digitale Infrastructuur (RDI), legt uit hoe ambtenaren een sleutelrol spelen in het toezicht op de naleving van deze AI-regelgeving.
‘Toezicht op de AI Act ligt in Nederland voornamelijk bij de sectorale toezichthouders,’ zegt Angeline van Dijk. ‘Zo kijkt de Inspectie Gezondheidszorg en Jeugd naar AI in medische apparatuur, en houden De Nederlandsche Bank en de Autoriteit Financiële Markten toezicht op AI in de financiële sector.’ Daarnaast vervullen de RDI en de algoritmetoezichthouder (DCA) van de Autoriteit Persoonsgegevens coördinerende en regierollen. ‘Het toezicht wordt uitgevoerd door (rijks)ambtenaren, die verantwoordelijk zijn voor de inrichting, programmering, samenwerking en handhaving van de regels,’ legt Van Dijk uit.
Hoogrisico AI-systemen en ethiek
De AI Act maakt onderscheid tussen verschillende soorten AI-toepassingen, waarbij bepaalde systemen als ‘hoogrisico’ worden aangemerkt. Hoogrisico AI-systemen zijn toepassingen die een directe impact kunnen hebben op de veiligheid of fundamentele rechten van individuen, zoals in de gezondheidszorg, rechtshandhaving of infrastructuur. Van Dijk licht toe: ‘De AI Act heeft als doel ervoor te zorgen dat deze systemen veilig zijn en de rechten van mensen respecteren. Organisaties die AI ontwikkelen, wordt duidelijk gemaakt aan welke strenge standaarden zij moeten voldoen.’ Deze standaarden worden door de Europese Commissie verder uitgewerkt in technische voorschriften en richtlijnen, aldus Van Dijk: ‘De toezichthouders zullen hierop toezien.’
Volgens Van Dijk is educatie onmisbaar voor ambtenaren die werken met AI. ‘Niemand hoeft alles te weten van de AI Act,’ stelt ze gerust. ‘Maar het is belangrijk dat je de relevante aspecten van AI-gebruik kent. Als je met AI werkt, moet je goed inzicht hebben in de eisen, onzekerheden en de impact.’ Ze benadrukt dat ambtenaren zich moeten richten op die AI-systemen die specifiek relevant zijn voor hun werk. Ze verwacht dat opleidingen en trainingen op maat gemaakt zullen worden, afhankelijk van de sector en toepassing. ‘Er zal een basisniveau van kennis nodig zijn voor functies zoals compliance officers, AI-experts en AVG-specialisten.’
*Dit is het eerste deel van een artikel uit PD 53: Openbaarheid
Lees hier verder
Meer weten over AI bij de overheid? Bent u benieuwd hoe kunstmatige intelligentie de publieke sector verandert en welke risico’s en kansen dit met zich meebrengt? Meld u dan aan voor de masterclass Artificial Intelligence van de Publiek Denken Academie en het Nederlands Instituut voor Publiek Leiderschap (NIVPL) op 20 mei in Papendal. Tijdens deze masterclass leert u van experts hoe AI effectief kan worden ingezet binnen overheidsorganisaties en hoe u de juiste balans vindt tussen innovatie en risicobeheersing. Meer informatie over het programma en aanmelden kan hier.
