De Autoriteit Persoonsgegevens ziet de AI-Impactbarometer verder verslechteren. De AP vraagt het nieuwe kabinet om snel AI-regels uit te voeren.
Volgens de AP hebben organisaties ook snel duidelijkheid nodig. De regels gelden al en worden steeds belangrijker. Toch kan de AP nu niet overal handhaven. De toezichthouder waarschuwt voor onveilige en discriminerende systemen.
De AP publiceert deze signalen in de rapportage AI & Algoritmes Nederland. Dit is de zesde editie van die rapportage.
AI-Impactbarometer laat meer rode signalen zien
De AP gebruikt negen graadmeters in de AI-Impactbarometer. Die graadmeters tonen risico’s en effecten van algoritmes en AI. In de vorige rapportage stonden twee graadmeters op rood. Nu staan vier graadmeters op rood.
De AP noemt vooral vier punten. Ten eerste blijft de inrichting van toezicht achter. Ten tweede komt standaardisering langzaam op gang. Ten derde registreert de overheid algoritmes onvoldoende. Ten vierde ontbreekt goed zicht op incidenten.
AP-voorzitter Aleid Wolfsen wijst op het toeslagenschandaal. Volgens hem ontbreken stevige regels en handhaving. Ook vraagt hij om bescherming van grondrechten bij snelle AI-inzet.
Organisaties ontwijken volgens AP verantwoordelijkheid
De AP ziet dat AI-risico’s snel toenemen. Nieuwe toepassingen vragen snelle voorbereiding, stelt de toezichthouder. De AP noemt onder meer ‘agentic AI’ als ontwikkeling.
De risico’s van AI nemen exponentieel toe. Nieuwe toepassingen, zoals ‘agentic AI’, vragen om snelle voorbereiding van organisaties en toezichthouders. Daarnaast proberen sommige organisaties onder de AI-verordening uit te komen door hun systemen als ‘gewone algoritmes’ te classificeren. Een voorbeeld is OxRec, dat door reclasseringsorganisaties wordt gebruikt om recidive te voorspellen. Dat was als algoritme geregistreerd, terwijl het een AI-systeem is, met alle risico’s van dien.
De AI-verordening stelt juist strengere eisen aan zulke systemen. Toch ziet de AP wekelijks nieuwe registraties als algoritme. Volgens de AP vergroot dit de risico’s voor mensen.
De AP wijst ook naar commerciële aanbieders. Volgens de toezichthouder schuiven sommige partijen verantwoordelijkheid af. De AP noemt vier gevaren die in 2025 en 2026 opvallen. Het gaat om deepfakes, AI-fraude, chatbotschade en achterblijvende beveiliging.
Ook wijst de AP op recente incidenten. De toezichthouder noemt AI-stemwijzers en problemen rond Grok. Daarbij konden volgens de AP realistische naaktbeelden worden gemaakt. De AP koppelt dit aan grondrechten en cyberveiligheid.
AP waarschuwt voor onderschatte risico’s bij werving en selectie
De AP ziet dat risico’s lang zijn onderschat. Daardoor kan discriminatie ontstaan, stelt de toezichthouder. Ook kan maatschappelijke veiligheid onder druk komen.
De rapportage noemt werving en selectie als aandachtspunt. Veel werkgevers gebruiken AI bij sollicitaties. Volgens de AP moet dit accuraat en uitlegbaar zijn. Ook moet het niet-discriminerend zijn.
De AP verwijst naar praktijktesten en verkenningen. Transparantie schiet daar vaak tekort, stelt de toezichthouder. Dat geldt vooral bij online en game-based assessments. Kandidaten weten vaak niet hoe de beoordeling werkt. Ook weten zij niet hoe bezwaar mogelijk is.
Volgens de Europese AI-verordening vallen deze systemen onder hoog risico. Daarom gelden vanaf augustus 2026 strengere eisen.
AP: nieuwe kabinet moet AI-verordening snel uitvoeren
De AP wijst op het doel van de AI-verordening. Europa wil betrouwbare AI bevorderen, met ruimte voor innovatie. Systemen moeten veilig zijn en grondrechten respecteren.
Volgens de AP dreigt besluiteloosheid die doelen te ondermijnen. Daarom vraagt de toezichthouder om snelle uitvoering. De AP noemt vier stappen voor Nederland. Het kabinet moet de uitvoeringswet vaststellen. Het moet toezichthouders aanwijzen. Ook moet het toezicht structureel financiering krijgen. Tot slot moet er duidelijkheid komen over toepassing van de regels.
Daarnaast wil de AP inzet in Europa. Nederland moet aandringen op snelle afronding van discussies. Het gaat dan om uitstel en vereenvoudiging van regels.
