Waarom het zo moeilijk is om inzicht te geven in algoritmen die jouw leven beïnvloeden

Waarom word je bijvoorbeeld aangehouden door de politie, of waarom krijg maar je een bepaald bedrag aan studiefinanciering? Het is begrijpelijk dat je wilt weten hoe deze algoritmen tot deze uitkomsten komen. Inzicht in hoe algoritmen werken en hoe publieke organisaties ermee omgaan, is daarbij heel belangrijk.
Een algoritme is een reeks geordende instructies of regels die worden gevolgd om een bepaald probleem op te lossen of een taak uit te voeren. Het is als het ware een stappenplan dat door een computer of een ander systeem wordt gevolgd om een gewenst resultaat te bereiken.

Algoritmeregister: wat is dat?

In december 2022 lanceerde de overheid het landelijke Algoritmeregister. Verschillende gemeenten en overheidsorganisaties, zoals het UWV, maakten eveneens een eigen algoritmeregister. Belangrijk, want hierdoor begrijpen we beter welke algoritmen betrokken zijn bij belangrijke beslissingen en waarom. Met behulp van het register is het makkelijker om te zien waar, wanneer en waarom overheden gebruik maken van slimme computersystemen.

Een voorbeeld is een algoritme dat de gemeente Amsterdam inzet bij parkeercontroles. In het algoritmeregister lees je hoe dit werkt: deze scanauto’s hebben camera’s en gebruiken een computerprogramma (algoritme) om kentekens van geparkeerde auto’s te herkennen. Het algoritme stuurt de kentekens naar een centrale database, dat controleert of de auto daar wel mag parkeren en of er betaald is voor het parkeren. Als er geen geldige reden is om daar te staan, krijg je een parkeerboete. Het register legt verder uit welke data verzameld en gebruikt wordt, en wat de rol van menselijke parkeercontroleurs in dit proces is.

Wat zijn de voordelen van zo’n register?

Het geven van informatie over algoritmen die publieke organisaties gebruiken heeft verschillende voordelen. Algoritmeregisters verstrekken informatie over welke algoritmen worden gebruikt en hoe ze functioneren. Dit stelt jou in staat om inzicht te krijgen in de besluitvormingsprocessen en de logica achter deze algoritmen.

Daarnaast dwingt een algoritmeregister publieke organisaties om hun algoritmen kritisch te evalueren en te verbeteren. Ze liggen namelijk onder een vergrootglas als ze openbaar gemaakt worden. Dit komt jou ten goede. Het vergroot namelijk de kwaliteit en betrouwbaarheid van de algoritmen die beslissingen beïnvloeden die weer impact op jou hebben, zoals bijvoorbeeld de hoogte van je studiefinanciering.

Een ander voordeel van zo’n register is dat het de mogelijkheid biedt aan toezichthouders, ngo’s en journalisten om de activiteiten van publieke organisaties te controleren en te beoordelen. Dit zorgt ervoor dat de algoritmen op een verantwoorde en ethische manier worden ingezet, wat jou beschermt tegen mogelijke risico’s en discriminatie.

Schijntransparantie?

Ondanks al deze voordelen zie ik in mijn onderzoek dat er ook risico’s kleven aan zo’n register. Algoritmeregisters kunnen je niet altijd het volledige plaatje laten zien. Soms kiezen organisaties ervoor om alleen bepaalde algoritmen openbaar te maken, waardoor je geen compleet beeld krijgt van hoe algoritmen jou beïnvloeden. Hierdoor blijft het onduidelijk en snap je niet goed hoe algoritmen jouw leven beïnvloeden.