Binnen de publieke sector maken gemeenten het meest gebruik van AI-systemen. Toch geeft driekwart van de raadsleden aan dat de raad onvoldoende in staat is om het gebruik van AI en algoritmes in de gemeente te controleren.
Dit blijkt uit de rapportage AI- & Algoritmerisico’s Nederland van Autoriteit Persoonsgegevens (AP) die halfjaarlijks de risico’s rond AI-systemen analyseert en adviseert over vervolgstappen. Voor het onderzoek heeft AP afgelopen voorjaar met medewerking van de Nederlandse Vereniging voor Raadsleden een enquête gehouden onder raadsleden.
Overzicht van AI systemen
Iets meer dan twintig procent van de gemeenten heeft een overzicht van AI en algoritmen die in de gemeente gebruikt worden. Een zelfde percentage deelt dit ook actief of op verzoek met andere partijen, zoals de gemeenteraad. In ongeveer 10 procent van de gevallen hebben ze vanuit de gemeenteraad of rekenkamer, resultaten van onderzoek naar of adviezen over AI-systemen ontvangen. De AP adviseert gemeentelijke organisaties om informatie over AI-systemen standaard op te nemen in hun reguliere informatievoorziening, zodat betrokken algoritmes expliciet worden benoemd in de stukken die naar de gemeenteraad gaan.
AI op raadsagenda
Driekwart van de raadsleden die de enquête van AP hebben ingevuld, geven aan dat algoritmes en AI in hun gemeenteraad niet aan de orde komt. Deze raadsleden vinden ook dat de raad onvoldoende in staat is om dit gebruik van AI te controleren. De controle ontbreekt vooral door gebrek aan prioritering, beperkte kennis over AI en beperkte transparantie.
Kennis van AI-technologie
Kennis van kunstmatige intelligentie is een uitdaging voor raadsleden, waardoor het moeilijk te bedenken is welke vragen ze moeten stellen voor het controleren van het college. Door de beperkte tijd en budgetten is er voor raadsleden ook maar beperkte ruimte tot specialisatie onder raadsleden over dit thema. Autoriteit Persoonsgegevens ziet een oplossing in een landelijk AI-expertisecentrum die lokale actoren kan ondersteunen.
AI-chatbox voor raadsleden
In gemeente Montferland wordt kunstmatige intelligentie door de griffie gebruikt bij het beantwoorden van technische vragen over de voorjaarsnota en begroting. Door deze pilot kunnen raadsleden in gesprek gaan met een chatbot die toegang heeft tot de voorjaarsnota en achterliggende documenten. De chatbot beantwoordt vragen die raadsleden hebben. Doordat het mogelijk is om direct vervolgvragen te stellen, wordt veel tijd bespaart. ‘Vroeger maakten we een tabel met vragen en antwoorden, wat vaak leidde tot meerdere vragenrondes. De AI-chatbot beantwoordt deze vragen direct, dat bespaart veel tijd en frustratie bij de raadsleden.’, aldus Elma van Lier, informatiespecialist van de gemeente Montferland.