nieuws i-Samenleving

Kansen en risico’s van AI in de publieke sector

Prof. dr. Somaya Ben Allouch (Universiteit van Amsterdam, Hogeschool van Amsterdam), is expert op het gebied van human-computer interaction. In haar onderzoek focust ze op de interactie tussen mens en systeem en de ontwikkeling, het gebruik en de evaluatie van digitale technologieën. Ben Allouch gaat in op de kansen die AI biedt voor de publieke sector, maar benoemt ook de mogelijke risico’s. ‘AI moet geen doel op zichzelf zijn,’ benadrukt ze. ‘Het gaat erom hoe we deze technologie inzetten om publieke diensten beter en toegankelijker te maken voor iedereen die dat nodig kan hebben.’

De publieke sector staat aan de vooravond van een ingrijpende digitale transformatie. Kunstmatige intelligentie (AI) biedt ongekende mogelijkheden voor efficiëntere dienstverlening en meer inclusieve toegang tot overheidsdiensten. Toch brengt deze technologische vooruitgang ook belangrijke ethische vragen met zich mee. Hoe zorg je ervoor dat AI daadwerkelijk de samenleving dient, zonder dat burgers buiten de boot vallen? En welke rol spelen beleidsmakers hierin?
Wanneer we Ben Allouch vragen hoe zij de toekomst van AI in de publieke sector ziet, antwoordt ze resoluut: ‘AI zal een steeds grotere rol gaan spelen, maar de impact zal verschillen per overheidssector en gebied. Het tempo van invoering zal afhangen van de specifieke diensten die succesvol blijken te zijn in het publieke domein.’

Strategische planning en beleidsvorming

Ben Allouch voorziet dat AI in de komende jaren vooral ingezet zal worden om administratieve processen te automatiseren en efficiënter te maken. ‘Data-analyse en dienstverlening richting burgers kunnen grotendeels door AI worden overgenomen. Dit kan bijvoorbeeld helpen bij het sneller en accurater verwerken van aanvragen of het beantwoorden van vragen van burgers.’ Een ander belangrijk aspect dat Ben Allouch aanstipt, is de ondersteuning die AI kan bieden bij besluitvormingsprocessen. ‘AI kan beleidsmakers helpen door grote hoeveelheden data te analyseren en patronen te ontdekken, die eerder moeilijk te doorgronden waren. Dit kan vooral nuttig zijn bij strategische planning en beleidsvorming.’

Daarnaast ziet ze potentie voor AI om de inclusiviteit van publieke dienstverlening te vergroten. ‘Chatbots en andere AI-tools kunnen burgers ondersteunen bij het verkrijgen van informatie en toegang tot diensten, maar dan moeten deze systemen wel ontwikkeld worden met oog voor diversiteit en gelijkheid. Dit betekent dat AI-diensten vanaf het begin samen met burgers ontwikkeld moeten worden, zodat zij aansluiten bij de echte behoeften en ervaringen van de eindgebruikers.’

Risico’s van AI in de publieke sector

Toch waarschuwt Ben Allouch ook voor de gevaren van een ondoordachte invoering van AI. ‘Een groot risico is dat we AI ontwikkelen zonder voldoende rekening te houden met de leefwereld van burgers. Dit kan leiden tot technologieën die, in plaats van te helpen, juist nieuwe ongelijkheden creëren. Denk bijvoorbeeld aan algoritmes die bepaalde groepen burgers systematisch benadelen omdat de gebruikte data niet representatief zijn. Het is essentieel om vanaf de eerste dag te anticiperen op deze risico’s en ervoor te zorgen dat de gebruikte datasets vrij zijn van vooroordelen. De lessen uit recente uitvoeringsschandalen, waarin gebrekkige AI-systemen een rol speelden, mogen niet worden vergeten.’

Ben Allouch benadrukt dat publieke organisaties continu moeten monitoren hoe AI-toepassingen worden ingezet en welke gevolgen ze hebben voor burgers. ‘We moeten AI zien als een dynamisch proces: de doelen waarvoor de technologie wordt ingezet, moeten continu worden geëvalueerd. Dat geldt ook voor de ethische implicaties van AI-beslissingen.’

 Voorbereiden op AI-uitdagingen

De hamvraag is hoe overheidsinstanties zich kunnen voorbereiden op de ethische uitdagingen van AI. Ben Allouch is duidelijk: ‘De overheid moet proactief zijn in het opstellen van wet- en regelgeving voor AI. Er moet multidisciplinair worden samengewerkt, waarbij experts uit verschillende velden – techniek, ethiek, recht en sociale wetenschappen – betrokken worden bij de ontwikkeling van AI-toepassingen.’

Zij benadrukt ook het belang van opleiding en training. ‘Ambtenaren moeten voldoende kennis hebben van AI en de ethische implicaties ervan. Dit betekent niet dat elke ambtenaar een AI-expert hoeft te worden, maar zij moeten wel de basisprincipes begrijpen. Alleen dan kunnen ze goed geïnformeerde beslissingen nemen en verantwoorde keuzes maken in het gebruik van AI binnen hun organisatie.’

Ben Allouch wijst erop dat er nu nog te vaak bij besluitvorming over AI binnen de overheid wordt gezegd: “Ja, dat valt onder die en die afdeling en daar vertrouw ik op.”  ‘Waarom leggen we de lat veel lager wanneer het gaat om belangrijke posities binnen de overheid waar technologie een grote rol speelt, en men wegkomt met veel minder kennis van de materie? Juist wanneer deze technologie een grote invloed kan hebben op burgers en de samenleving, zou je willen dat hier beter rekening mee gehouden wordt.’

Volgens Ben Allouch kan AI niet los worden gezien van de maatschappelijke context. ‘De technologie moet altijd ten dienste staan van de mens en de samenleving. Dit betekent dat overheidsorganisaties AI op een verantwoorde manier moeten inzetten, waarbij de rechten en privacy van burgers worden beschermd.’

Aanmelden voor de masterclass AI: kans of bedreiging voor beleid en dienstverlening.

Masterclass AI: kans of bedreiging voor beleid en dienstverlening? 

Tijdens de masterclass op 20 mei aanstaande zal Ben Allouch haar visie op AI en digitale inclusie verder uitwerken. ‘Ik wil deelnemers inzicht geven in de mogelijkheden en beperkingen van AI. Het is belangrijk dat beleidsmakers niet alleen op de hoogte zijn van de nieuwste technologische ontwikkelingen, maar ook de ethische afwegingen begrijpen die daarbij komen kijken.’

Naast Ben Allouch zal ook gastspreker mr. Angeline van Dijk, inspecteur-generaal van de Rijksinspectie Digitale Infrastructuur, haar inzichten delen tijdens de masterclass. Samen met de deelnemers zal er worden nagedacht over concrete strategieën om AI verantwoord te integreren in publieke organisaties.

Bent u klaar om te ontdekken hoe AI uw organisatie kan transformeren? Schrijf u nu in voor de masterclass met Somaya Ben Allouch en Angeline van Dijk op 20 mei. U leert hoe u AI verantwoord kunt inzetten en welke stappen u kunt nemen om uw organisatie voor te bereiden op de toekomst van digitalisering.


Somaya Ben AllouchOver Somaya Ben Allouch

Somaya Ben Allouch is een pionier in de ontwikkeling, toepassing en evaluatie van digitale technologieën, met een bijzondere focus op robotica en kunstmatige intelligentie. Na haar promotie aan de Universiteit Twente in 2008 op het gebied van human-centered ubiquitous computing, werkte zij enkele jaren aan Stanford University. Momenteel combineert zij haar hoogleraarschap Human-System Interaction for Health & Wellbeing aan de Universiteit van Amsterdam met het leiden van het lectoraat Digital Life aan de Hogeschool van Amsterdam. Haar werk is gepubliceerd in internationale toptijdschriften en ze is lid van de redactieraad van het Journal of Ambient Intelligence and Smart Environments. Daarnaast is zij sinds 2023 fellow van de Netherlands Academy of Engineering. Ben Allouch staat bekend om haar toegankelijke en inspirerende benadering van digitalisering en AI, die zij graag deelt met studenten en professionals.

Angeline van DijkOver Angeline van Dijk

Angeline van Dijk is inspecteur-generaal van de Rijksinspectie Digitale Infrastructuur (RDI), voorheen bekend als Agentschap Telecom. In haar rol is zij verantwoordelijk voor het toezicht op de digitale infrastructuur van Nederland, met speciale aandacht voor telecommunicatie, cyberveiligheid en de implementatie van nieuwe technologieën zoals kunstmatige intelligentie (AI).

Met een sterke achtergrond in zowel de publieke als de private sector, pleit Van Dijk voor een pragmatische en sectorale aanpak van AI-toezicht. Zij benadrukt het belang van risicogebaseerd toezicht en gelooft dat kennis over AI binnen alle sectoren moet worden vergroot. Volgens haar is het essentieel dat bestaande toezichthouders, met hun specifieke sectorale expertise, de verantwoordelijkheid nemen voor het toezicht op AI binnen hun domein.

Tijdens de masterclass zal Angeline van Dijk haar inzichten delen over de implementatie van de AI Act en bespreken hoe publieke organisaties zich kunnen voorbereiden op de kansen en uitdagingen die AI met zich meebrengt. Zij zal ingaan op het belang van samenwerking tussen verschillende toezichthouders en hoe een sectorale benadering kan bijdragen aan een effectief en innovatief gebruik van AI in de publieke sector.
Delen

Reageer

*

Het e-mailadres wordt niet gepubliceerd. Verplichte velden zijn gemarkeerd met *