De rijksoverheid maakt steeds meer gebruik van kunstmatige intelligentie (AI) om interne processen efficiënter te maken. Toch is voor meer dan de helft van deze systemen niet duidelijk of de voordelen wel opwegen tegen de risico’s. Dit blijkt uit een recent focusonderzoek van de Algemene Rekenkamer onder 70 overheidsorganisaties.
Het onderzoek laat zien dat de meeste AI-toepassingen binnen het rijk nog experimenteel zijn. Van de 433 aangemelde AI-systemen zijn er 167 lopende experimenten. Slechts 5% van de systemen is geregistreerd in het openbaar algoritmeregister. De politie en het UWV zijn de grootste gebruikers met respectievelijk 23 en 10 AI-systemen. Veruit de meeste toepassingen zijn gericht op interne processen, zoals het doorzoeken van documenten of het omzetten van gesproken tekst naar tekst. Deze toepassingen hebben geen directe impact op burgers of bedrijven, maar kunnen wel kostenbesparingen en efficiëntievoordelen opleveren voor de overheid.
Onvoldoende inzicht in prestaties
Opvallend is dat bij 35% van de in gebruik zijnde AI-systemen niet bekend is of deze naar behoren functioneren. Dit komt onder meer doordat er vooraf geen duidelijke doelstellingen zijn gesteld. Ook blijkt dat organisaties vaak positief oordelen over systemen die zij niet langer gebruiken: 58% van de beëindigde systemen presteerde volgens verwachting of zelfs beter, maar werd stopgezet door een gebrek aan capaciteit om ze verder te ontwikkelen.
Kansen en risico’s van AI
Hoewel AI de overheid kan helpen efficiënter te werken, brengt het ook risico’s met zich mee. Een nieuwe Europese AI-verordening moet deze risico’s beter in kaart brengen. Zo worden AI-systemen voortaan beoordeeld op risico, waarbij systemen met onaanvaardbare risico’s verboden worden. Hoogrisicosystemen moeten aan strenge voorwaarden voldoen. De overheid classificeert de meeste AI-systemen echter als ‘minimaal risico’. Dit betekent echter niet dat ze risicovrij zijn. Mogelijke problemen kunnen variëren van privacyschendingen tot onveilige informatiebeveiliging en negatieve impact op burgers door bijvoorbeeld discriminerende algoritmen.
Noodzaak voor toezicht en controle
Ewout Irrgang, collegelid van de Algemene Rekenkamer, benadrukt het belang van toezicht. ‘AI biedt veel kansen om de overheid efficiënter te maken, met name op het gebied van bedrijfsvoering. Maar er zijn ook risico’s, zeker wanneer de overheid zelf de risico-inschatting moet maken. Dit leidt mogelijk tot onderschatting van risico’s, omdat dit minder verplichtingen met zich meebrengt. Toezicht en controle zijn daarom noodzakelijk om de Kamer en het kabinet zekerheid te geven dat AI-systemen met hogere risico’s goed geborgd zijn.’
Het rapport van de Rekenkamer onderstreept dat, hoewel AI potentie heeft, er nog belangrijke stappen nodig zijn om de risico’s effectief te beheersen en transparantie te waarborgen. Hiermee kan worden voorkomen dat AI-toepassingen onbedoelde negatieve gevolgen hebben voor burgers en bedrijven.
Meer weten over AI bij de overheid? Bent u benieuwd hoe kunstmatige intelligentie de publieke sector verandert en welke risico’s en kansen dit met zich meebrengt? Meld u dan aan voor de masterclass Artificial Intelligence van de Publiek Denken Academie en het Nederlands Instituut voor Publieke Leiders (NIVPL) op 15 november in Papendal. Tijdens deze masterclass leert u van experts hoe AI effectief kan worden ingezet binnen overheidsorganisaties en hoe u de juiste balans vindt tussen innovatie en risicobeheersing. Meer informatie over het programma en aanmelden kan hier.
