Rekenkamer Rotterdam: gebruik algoritmes leidde mogelijk tot vooringenomenheid




Het gebruik van algoritmes om zo besluitvorming te versnellen kan leiden tot bevooroordeelde uitkomsten, zoals bij de bestrijding van uitkeringsfraude door de gemeente Rotterdam. Dat oordeelt de Rekenkamer Rotterdam donderdag in een rapport over het algoritme-gebruik. Volgens de Rekenkamer zijn er door de gemeente onder meer bij het tegengaan van de fraude met uitkeringen te weinig maatregelen genomen om vooringenomen uitkomsten te voorkomen.
Bij de bestrijding van de subisidiefraude maakte de gemeente Rotterdam gebruik van een algoritme dat mogelijke onrechtmatig verkregen uitkeringen in kaart bracht. Het algoritme was daardoor een belangrijke factor of iemand voor een heronderzoek in aanmerking kwam. Volgens de Rekenkamer was de verantwoordelijkheid voor het algoritme niet goed georganiseerd en werd te weinig aandacht besteed aan de eerlijkheid en transparantie. Burgers konden daardoor bijvoorbeeld niet inzien wat de rol is van het algoritme, als zij uit werden gekozen voor een heronderzoek. Ook is er bij het gebruikte algoritme niet na te gaan welke keuzes op ethisch gebied zijn gemaakt.

Lees ook: De Formule: hoe algoritmes ons dagelijks leven sturen

Een algoritme is een reeks van regels en instructies die door de computer wordt gevolgd om zo tot een besluit te komen. De gemeente Rotterdam zet de algoritmes in om sneller en effectiever beleid toe te kunnen passen. De Rekenkamer heeft het college van burgemeester en wethouders zes aanbevelingen gedaan waarmee die aandacht is gewaarborgd in de toekomst. Volgens het instituut heeft het stadsbestuur de aanbevelingen overgenomen.
Overheidsinstanties maken vaker gebruik van algoritmes om fraude op te sporen. De rechtbank in Den Haag oordeelde in februari vorig jaar nog dat de overheid moest stoppen met het gebruik van Systeem Risico Indicatie (SyRI). Dat systeem was in strijd met het Europese Verdrag voor de Rechten van de Mens (EVRM) en de privacywetgeving. Het algoritme gebruikt om risicoprofielen vorm te geven en personen met een verhoogd risico op fraude te achterhalen. De rechters oordeelden dat voor burgers onder meer niet was te achterhalen hoe „oncontroleerbaar” SyRI was.

Written by 

Geef een reactie

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *