De gemeente Utrecht wil algoritmes verantwoord inzetten, maar medewerkers volgen de bestaande richtlijnen hiervoor nog onvoldoende. Dat meldt de Rekenkamer Utrecht. “Het is daardoor niet altijd duidelijk of effectieve maatregelen worden genomen om risico’s bij het gebruik van algoritmes te verminderen”, concludeert de rekenkamer op basis van onderzoek naar het gebruik van algoritmes bij de gemeente.

Een algoritme is een reeks automatische stappen die een computer volgt om een probleem op te lossen of een vraag te beantwoorden. Net als andere overheden gebruikt Utrecht tal van algoritmes, bijvoorbeeld om te bepalen of een inwoner recht heeft op een parkeervergunning.

Het gebruik van algoritmes brengt risico’s met zich mee. Zonder goede controle kunnen ze leiden tot discriminatie of privacyschendingen. Daarom onderzocht de Rekenkamer Utrecht of de gemeente verantwoord met algoritmes omgaat. Vijf algoritmes die de gemeente gebruikt, zijn daarbij nader bekeken.

Kwaliteit en transparantie van het algoritmeregister schieten tekort

Volgens de Rekenkamer Utrecht is de gemeente nog niet transparant genoeg in het algoritmeregister. Sommige algoritmes kunnen grote impact hebben op inwoners. Alle 45 impactvolle algoritmes zijn opgenomen in een openbaar register. “Dat is een vooruitstrevende stap, omdat nog lang niet alle gemeenten in Nederland zo’n register hebben”, aldus de rekenkamer.

De kwaliteit van de informatie in het register blijft echter achter. Zo is onduidelijk welke risico’s per algoritme bestaan. “En de gemeente maakt niet transparant op basis van welke overwegingen een algoritme als impactvol wordt gezien.” De rekenkamer adviseert daarom om duidelijk te maken welke criteria worden gebruikt en de informatie in het register te verbeteren.

Interne richtlijnen worden niet consequent toegepast

Ook de interne richtlijnen voor het gebruik van algoritmes worden volgens de rekenkamer niet consequent genoeg toegepast. De richtlijnen moeten door de verschillende afdelingen worden toegepast wanneer zij algoritmes gebruiken. “Maar de rekenkamer ziet dat afdelingen de richtlijnen niet consequent toepassen.”

Daarnaast wil de gemeente dat ieder algoritme wordt getoetst op ethische waarden voordat het in gebruik wordt genomen, maar de gemeente bewaakt niet goed of de verbeterpunten uit zo’n toets daadwerkelijk worden uitgevoerd.

Risico’s worden onvoldoende opgevolgd en gemonitord

Om risico’s van algoritmes te beheersen, moeten maatregelen worden genomen en gemonitord. Volgens de rekenkamer gebeurt dit niet consequent, omdat afdelingen veel vrijheid krijgen in hun aanpak.

Daarnaast verschillen afdelingen sterk in hun manier van risicobeheersing en krijgen medewerkers te weinig training. “Het gebrek aan samenhang, controle en eenduidigheid tussen de aanpak van de afdelingen maakt de risicobeheersing van algoritmes kwetsbaar”, aldus de rekenkamer.

Gebrek aan doelen en onvoldoende informatie voor de gemeenteraad

De gemeente Utrecht heeft geen concrete doelen opgesteld voor de inzet van algoritmes. Daardoor ontbreken ook indicatoren om te meten of deze doelen worden gehaald. Dit leidt tot beperkte verantwoording binnen de organisatie.

Ook de gemeenteraad krijgt slechts informatie op hoofdlijnen. “Raadsleden hebben de behoefte om meer actuele en meer specifieke informatie over algoritmes te ontvangen.”

Aanbevelingen van de Rekenkamer

De rekenkamer doet meerdere aanbevelingen. Zo moet de informatie in het algoritmeregister actueler en concreter worden. Ook moet beter worden gevolgd of verbeterpunten uit ethische toetsingen daadwerkelijk worden uitgevoerd.

Verder adviseert de rekenkamer om de risicobeheersing en de interne en externe verantwoording te versterken door duidelijke indicatoren vast te stellen en afspraken te maken met de gemeenteraad over de informatievoorziening.