Bij de inzet van algoritmen zijn gemeenten nog zoekende hoe rekening te houden met mensenrechten. Dat blijkt uit onderzoek van adviesbureau Hooghiemstra en Partners in opdracht van het College voor de Rechten van de Mens.
Gemeenten blijken bij inzet van algoritmen geen speciale voorzieningen te treffen voor rechtsbescherming. Ze vertrouwen op de al bestaande procedures waarmee burgers hun recht kunnen halen.
Bij gemeenten is er veel aandacht en zijn er procedures ingericht voor de bescherming van persoonsgegevens, maar voor het toetsen van de impact op mensenrechten is dat nog niet het geval. Gemeenteambtenaren zijn zich meer bewust dan voorheen van de risico’s die het gebruik van algoritmen met zich mee kan brengen, mede door het toeslagenschandaal.
Sommige gemeenten gebruiken instrumenten om mensenrechten mee te nemen bij de aanschaf van algoritmen. Andere gemeenten doen dat niet, maar stellen wel vragen als: willen, mogen en kunnen we dit? En kunnen we dit uitleggen aan onze inwoners? Gemeenten zouden het fijn vinden als er praktische handvatten komen om te gebruiken bij de aanschaf van algoritmen, blijkt uit het onderzoek.
Een manier om te bereiken dat mensenrechten worden beschermd bij de inzet van algoritmen door gemeenten is om samen te werken met andere gemeenten bij de inkoop van software. Zo kunnen ze samen een vuist maken en meer eisen stellen. Eén van de eisen zou moeten zijn dat de regels van het algoritme openbaar worden.
De onderzoekers sporen gemeenteambtenaren aan om de tafel te gaan zitten met softwareontwikkelaars en samen te kijken hoe ze mensenrechten zeker kunnen stellen als ze nieuwe algoritmen ontwerpen.