De gemeente Utrecht wil algoritmes verantwoord inzetten, maar medewerkers volgen de bestaande richtlijnen hiervoor nog onvoldoende. Dat meldt de Rekenkamer Utrecht. “Het is daardoor niet altijd duidelijk of effectieve maatregelen worden genomen om risico’s bij het gebruik van algoritmes te verminderen”, concludeert de rekenkamer op basis van onderzoek naar het gebruik van algoritmes bij de gemeente.
Een algoritme is een reeks automatische stappen die een computer volgt om een probleem op te lossen of een vraag te beantwoorden. Net als andere overheden gebruikt Utrecht tal van algoritmes, bijvoorbeeld om te bepalen of een inwoner recht heeft op een parkeervergunning.
Het gebruik van algoritmes brengt risico’s met zich mee. Zonder goede controle kunnen ze leiden tot discriminatie of privacyschendingen. Daarom onderzocht de Rekenkamer Utrecht of de gemeente verantwoord met algoritmes omgaat. Vijf algoritmes die de gemeente gebruikt, zijn daarbij nader bekeken.
Kwaliteit en transparantie van het algoritmeregister schieten tekort
Volgens de Rekenkamer Utrecht is de gemeente nog niet transparant genoeg in het algoritmeregister. Sommige algoritmes kunnen grote impact hebben op inwoners. Alle 45 impactvolle algoritmes zijn opgenomen in een openbaar register. “Dat is een vooruitstrevende stap, omdat nog lang niet alle gemeenten in Nederland zo’n register hebben”, aldus de rekenkamer.
De kwaliteit van de informatie in het register blijft echter achter. Zo is onduidelijk welke risico’s per algoritme bestaan. “En de gemeente maakt niet transparant op basis van welke overwegingen een algoritme als impactvol wordt gezien.” De rekenkamer adviseert daarom om duidelijk te maken welke criteria worden gebruikt en de informatie in het register te verbeteren.
Interne richtlijnen worden niet consequent toegepast
Ook de interne richtlijnen voor het gebruik van algoritmes worden volgens de rekenkamer niet consequent genoeg toegepast. De richtlijnen moeten door de verschillende afdelingen worden toegepast wanneer zij algoritmes gebruiken. “Maar de rekenkamer ziet dat afdelingen de richtlijnen niet consequent toepassen.”
Daarnaast wil de gemeente dat ieder algoritme wordt getoetst op ethische waarden voordat het in gebruik wordt genomen, maar de gemeente bewaakt niet goed of de verbeterpunten uit zo’n toets daadwerkelijk worden uitgevoerd.
Risico’s worden onvoldoende opgevolgd en gemonitord
Om risico’s van algoritmes te beheersen, moeten maatregelen worden genomen en gemonitord. Volgens de rekenkamer gebeurt dit niet consequent, omdat afdelingen veel vrijheid krijgen in hun aanpak.
Daarnaast verschillen afdelingen sterk in hun manier van risicobeheersing en krijgen medewerkers te weinig training. “Het gebrek aan samenhang, controle en eenduidigheid tussen de aanpak van de afdelingen maakt de risicobeheersing van algoritmes kwetsbaar”, aldus de rekenkamer.
Gebrek aan doelen en onvoldoende informatie voor de gemeenteraad
De gemeente Utrecht heeft geen concrete doelen opgesteld voor de inzet van algoritmes. Daardoor ontbreken ook indicatoren om te meten of deze doelen worden gehaald. Dit leidt tot beperkte verantwoording binnen de organisatie.
Ook de gemeenteraad krijgt slechts informatie op hoofdlijnen. “Raadsleden hebben de behoefte om meer actuele en meer specifieke informatie over algoritmes te ontvangen.”
Aanbevelingen van de Rekenkamer
De rekenkamer doet meerdere aanbevelingen. Zo moet de informatie in het algoritmeregister actueler en concreter worden. Ook moet beter worden gevolgd of verbeterpunten uit ethische toetsingen daadwerkelijk worden uitgevoerd.
Verder adviseert de rekenkamer om de risicobeheersing en de interne en externe verantwoording te versterken door duidelijke indicatoren vast te stellen en afspraken te maken met de gemeenteraad over de informatievoorziening.
Gekoppelde berichten
Dit zijn de algoritmes die de gemeente Utrecht gebruikt
De gemeente Utrecht maakt gebruik van tientallen algoritmes om beter beslissingen te kunnen maken. Dit…
14 Reacties
ReagerenOthutsend, feitelijk is de conclusie van dit rapport dat onze gemeente een ‘doe maar wat’ organisatie is.
Iets wat overigens ook geheel in lijn is met het hoge ziekteverzuim, en een begrotingstekort wat al jaren in de pijplijn zat maar zogenaamd niemand zag aankomen.
Wanneer een bedrijf zo wordt gerund gaat het failliet, de overheid legt de rekening bij de burger neer.
De overheid mag graag de slogan ‘de vervuiler betaald’ gebruiken, ik stel consistentie in de toepassing van die slogan voor: deze puinhoop op kosten van de organisatie vervuilende gemeente oplossen. De technische benaming daarvoor is saneren.
We ontberen goed bestuur.
Koel Hoofd, goed gesproken en nu maar hopen dat de mensen bij de gemeente dit lezen en beter nog, ter harte nemen en er wat aan doen. Maar dat zal wel niet gezien de afgelopen jarennnn.
Dit artikel mag best wat zorgvuldiger geschreven worden. Het begrip ‘algoritme’ is echt heel algemeen. “Het gebruik van algoritmes brengt risico’s met zich mee.” Je had hier net zo goed kunnen zetten ‘de inzet van computers brengt risico’s met zich mee’. Het dekt totaal niet de lading die het artikel poogt te bereiken (wat waarschijnlijk meer in de trant is van ‘voorspellende modellen met onjuiste of onvolledige data’ brengen risico’s met zich mee).
Eens met Tomas, nu staat er dat het gevaarlijk is om dingen bij elkaar op te tellen. Of een gemiddelde uitrekenen. Allemaal algoritmes. Geen paniek nodig
Gelukkig weten die van de rekenkamer het altijd beter. Terwijl ze zelf helemaal niets kunnen behalve een vinkje zetten bij een proces(of een rood kruisje).
Utrecht is voorloper(en moet dat ook zijn als grote gemeente) in het gebruik van oplossingen om het goedkoper en beter te maken voor hun burgers. De aanbevelingen die de rekenkamer nu weer doet zijn natuurlijk gewoon zaken die horen bij het opstarten en altijd pas achteraf volledig op merites beoordeelt kunnen worden, het zou pas slecht zijn als de rekenkamer hier geen verbeterpunten zou hebben gevonden.
@Thomas, inderdaad zoals je zegt. De overheid is bovendien geen bedrijf die gedreven wordt door winst optimalisatie.
De diverse veroordelende reacties weten erg weinig over hoe publiek bestuur werkt.
De beste stuurlui staan aan wal zonder enige ervaring, en zien hun eigen te kort koningen daarin niet.
@ Piet
De Rekenkamer kan niks? Ben je serieus? 🤦♀️
@Bernhard ,de overheid is idd geen bedrijf dat winst moet maken, maar wel een organisatie die, omdat ze betaald wordt met publiek geld, daar zeer zorgvuldig mee om moet gaan. Daarnaast moet ze als iedere organisatie ook kwaliteit leveren en integer zijn.
De rekenkamer beoordeelt de gemeente en is hier nog maar weer eens kritisch over hoe de gemeente werkt. En dat is niet voor het eerst.
Als je de gemeente Utrecht volgt op hun output dan is het echt schokkend daar, een goede klantgerichtheid cursus is hard nodig, ook hoe de buitenwereld tegen de ambtenaren (en deels ook politiek) en geldsmijterij aankijkt, dat ze daar meer bewust van worden.
@Nina, jazeker ik ben serieus. Het enige dat ze doen is controleren of afgesproken beleid wordt gehandhaafd daar hebben ze tijdens hun studie (vaak accountancy) geleerd hoe ze een vinkje moeten zetten. Dat kunnen ze dus. Maar of het beleid goed is snappen ze niet, of het opgestelde protocol voldoet snappen ze niet waarom het protocol is opgesteld snappen ze niet.
Laat deze mensen niet in het bedrijfsleven of organisatie los want echt het overgrote deel raakt totaal de weg kwijt.
@Piet: “Laat deze mensen niet in het bedrijfsleven of organisatie los want echt het overgrote deel raakt totaal de weg kwijt” : dit geldt voor alle ambtenaren, ze houden het tempo niet vol, zijn totaal ineffectief en komen tot niets, anders dan uren vergaderen. Als de gemeente UUU een bedrijf was was ze binnen een jaar failliet.
@Piet
In deze huidige Rekenkamer zitten anders meer deskundigen dan in ‘t college en de raad samen.
Je klinkt echt als een beledigde alfa die niet kan rekenen, niet als iemand die weet waar die het over heeft.
@Tomas @Ans
Paar puntjes
1) Hebben jullie zelf het artikel eigenlijk wel goed gelezen?
2) Weten jullie zelf eigenlijk wel hoe algoritmes werken?
2) Hebben jullie de toeslagenaffaire misschien gemist of er gewoon geen actieve herinneringen meer aan?
@Bernhard
De overheid is wel een bedrijf maar dan zonder winstdoelstelling.
De overheid doet namelijk namelijk ‘maatschappelijk verantwoord ondernemen’ door de burger maximaal uit te melken om verliesgevende (internationale) politieke hobbies te betalen. Waarom denk je anders dat de grenzen open moeten blijven en Utrecht streeft naar meer dan 500.000 inwoners op 95km2?
Meer meer meer geldkoetjes om uit te melken onder het motto ‘herverdeling van welvaart’ volgens methode ‘wij een beetje meer dan zij’.
Daarnaast heeft een eerdere Rekenkamer ook al eens een vernietigend rapport uitgebracht over de gemeentelijke disfunctionele organisatie waardoor mensen de ziektewet in raakten en projecten faalden.
Is niks mee gebeurd, ligt al vele jaren in een policor laadje stof te verzamelen want ‘dat is beleid’.
En wellicht ook paal & perk stellen aan gebruik van ChatGPT. Net als scholieren en studenten, gebruiken ook beleidsambtenaren massaal ChatGPT. Via een prive account want formeel mag dat niet. Voor een opzetje of opstellen en corrigeren van beleidsdocumenten, samenvatten, corrigeren, beoordelen van teksten, voorbereiden voor vergaderingen, maken van PowerPoints etc.. etc. etc..
@ Piet
Bedankt voor de extra uitleg van jouw standpunt. Ik ben wel blij met de controlerende Rekenkamer. Op hun website staat te lezen:
“De Algemene Rekenkamer controleert of de rijksoverheid publiek geld zinnig, zuinig en zorgvuldig uitgeeft.”
Ons geld groeit nl. niet aan bomen en je kunt het maar één keer uitgeven.