Ik gebruik AI. Natuurlijk gebruik ik AI. Voor een snelle zoekvraag, om iets samen te vatten, soms om mijn gedachten te ordenen. En eerlijk is eerlijk: het is verdraaid handig. Je stelt een vraag en binnen een paar seconden ligt er een antwoord. Geen collega lastigvallen, geen stapel documenten doorspitten, geen uren zoeken. Het gemak is verleidelijk, juist omdat het zo vanzelfsprekend begint te voelen.
Maar tijdens de opname van De kunst van transparantie begon dat gemak ineens een beetje te schuren. We spraken over algoritmes bij de overheid. Over systemen die kunnen meewegen waar iemand terechtkomt, wie extra wordt gecontroleerd of welke beslissing over iemand wordt genomen. En over iets wat geruststellend klinkt: de human in the loop. Geen zorgen, er zit nog een mens tussen. Gelukkig maar. Althans, dat denken we dan.
Totdat je jezelf afvraagt wat die mens daar eigenlijk doet. Stel je voor: je bent ambtenaar. Voor je staat een lange lijst dossiers. De werkdruk is hoog. Het systeem heeft alles al doorgerekend en presenteert een advies. Groen. Rood. Wel. Niet. Kansrijk. Risicovol. En jij mag beslissen. Technisch gezien ben jij dus degene met het laatste woord. Maar hoeveel ruimte voel je werkelijk om te zeggen: nee, volgens mij heeft het systeem het mis?
Dat vind ik misschien wel een van de interessantste vragen rond AI. Niet of er nog ergens een mens in het proces zit, maar of die mens nog werkelijk betekenis heeft. Want een handtekening onder een door een systeem voorgestelde beslissing maakt die beslissing nog niet menselijk. Sterker nog: misschien gebeurt er iets heel anders. Misschien ontlenen wij juist gezag aan het systeem. Een computer heeft gerekend, data gecombineerd, patronen ontdekt die wij zelf niet kunnen zien. Wie ben jij dan, als individuele ambtenaar, om te zeggen dat het niet klopt?
Daar zit een vreemde omkering in. We bouwen technologie om mensen te ondersteunen. Vervolgens wordt die technologie zo ingewikkeld dat mensen haar nauwelijks nog kunnen doorgronden. En daarna zetten we er een mens naast om ons ervan te verzekeren dat de technologie onder menselijke controle staat. Dat klinkt bijna geruststellend, tot je jezelf de vraag stelt: wie controleert hier eigenlijk wie?
In het gesprek viel een zin die bij mij bleef hangen: technologie is geen gegeven, technologie is een keuze. Dat klinkt simpel, misschien zelfs té simpel in een tijd waarin AI vaak wordt gepresenteerd als iets wat ons nu eenmaal overkomt. Alsof het weer is. Er komt AI aan, neem een paraplu mee. Maar technologie komt niet zomaar ergens terecht. Iemand besluit haar te kopen. Iemand besluit haar te gebruiken. Iemand bepaalt welke data erin gaan. Iemand kiest voor efficiëntie, snelheid of gemak. En iemand besluit uiteindelijk dat de uitkomst betrouwbaar genoeg is om invloed te hebben op het leven van een ander.
Dat zijn geen technische keuzes. Dat zijn menselijke keuzes. En juist daarom is transparantie bij AI voor mij veel meer dan het openbaar maken van een algoritme of het vullen van een register. Transparantie betekent ook dat zichtbaar blijft waar verantwoordelijkheid ligt. Dat een burger die geraakt wordt door een besluit niet tegenover een digitaal schouderophalen komt te staan: ‘het systeem gaf dit aan’. Want als dat het antwoord is, waar kun je dan nog terecht met je twijfel, je bezwaar of gewoon de vraag waarom?
Vertrouwen ontstaat niet doordat een systeem foutloos lijkt. Vertrouwen ontstaat ook doordat iemand aanspreekbaar is. Iemand die kan uitleggen: dit hebben we afgewogen, dit vonden we belangrijk, hier twijfelden we over en daarom hebben we deze beslissing genomen. Misschien zit daar wel de werkelijke menselijke maat. Niet in het feit dat er ergens in het proces nog een mens aanwezig is, maar in de vraag of die mens nog kan twijfelen, tegenspreken, afwijken en vooral verantwoordelijkheid durft te nemen.
Dus wanneer mij voortaan wordt verteld dat we ons geen zorgen hoeven te maken omdat er altijd een human in the loop zit, wil ik eigenlijk nog maar één ding weten: heeft die mens ook de vrijheid om nee te zeggen? Want als het antwoord daarop nee is, hebben we misschien helemaal geen mens in de lus. Dan hebben we alleen een mens aan het einde ervan.
In de vijfde aflevering van de podcast De kunst van transparantie gaan we dieper in op de vraag Wat gebeurt er met openheid als beslissingen steeds vaker worden genomen door algoritmes in plaats van mensen? Luister de aflevering hier:
https://publiekdenken.nl/podcasts/de-kunst-van-transparantie/.
