Overheid gaat meer doen om problemen algoritmen te voorkomen
Om te voorkomen dat burgers in de problemen komen als gevolg van verkeerd gebruik van algoritmen, gaat de overheid snel maatregelen nemen. Dat schrijft staatssecretaris Van Huffelen (Digitalisering) in een aantal brieven aan de Tweede Kamer. Het aanstellen van een algoritmetoezichthouder, transparantie over het gebruik van algoritmen en implementatie van effectieve Europese regelgeving zijn daarbij speerpunten.
Burgers moeten zelf regie kunnen houden op hun digitale leven en de digitale wereld ook kunnen vertrouwen. Daarom is het belangrijk dat algoritmes die op de markt komen de rechten van mensen respecteren. Dat geldt voor algoritmes van bedrijven, maar ook voor toepassingen door de overheid. De overheid heeft wat dat betreft een voorbeeldfunctie.
Van Huffelen: “De nadruk moet bij inzet van algoritmen niet alleen liggen op het bestraffen van mensen. Er zijn nu ook veel algoritmen die goede dingen doen. Juist nu mensen in financieel zwaar weer terecht komen wil ik dat de overheid algoritmen vooral inzet om mensen te helpen, bijvoorbeeld bij het gebruik van regelingen zoals bij UWV en SVB. Dat er een algoritme komt dat mensen wijst op regelingen die ze mislopen waar ze wel recht op hebben. Ik laat nu uitzoeken hoe zoiets zou kunnen werken. Ik heb ook geld uitgetrokken om met oplossingen te komen om met data en algoritmen armoede en problematische schulden te bestrijden. Algoritmen moeten alleen gebruikt worden wanneer het echt nodig is om de overheid goed te laten werken.”
Kansen verzilveren
De overheid heeft de plicht om grondrechten te beschermen en publieke waarden te borgen– in het bijzonder veiligheid, democratie, transparantie, zelfbeschikking, non-discriminatie, participatie, privacy en inclusiviteit. Dat is ook nodig om de kansen van de digitale transitie verantwoord te kunnen verzilveren. Net als een innovatief en gelijk economisch speelveld met eerlijke concurrentie, consumentenbescherming en brede maatschappelijke samenwerking. Als het gaat om algoritmen gaan wetgeving en toezicht ervoor zorgen dat algoritmen en hun toepassingen eerlijk en transparant zijn, zodat burgers en bedrijven op een goede behandeling kunnen vertrouwen.
Mensenrechten
Op verzoek van Van Huffelen deed het Rathenau Instituut onderzoek naar bescherming van mensenrechten bij de inzet van algoritmen. Het onderzoek brengt in kaart welke maatregelen uitvoeringsorganisaties nemen om bij de ontwikkeling en het gebruik van profilerende systemen mensenrechten te borgen en hoe zij deze borging kunnen versterken. De staatssecretaris onderschrijft de aanbevelingen uit het onderzoeksrapport en concludeert dat de overheid zich moet baseren op heldere juridische eisen en ethische beginselen, die overal eenduidig worden toegepast. Er zijn nu bijvoorbeeld verschillende richtlijnen uitgebracht en methoden ontwikkeld om algoritmen op risico te toetsen, maar hier is meer stroomlijning en prioritering nodig. Dat moet resulteren in een implementatiekader voor de inzet van algoritmen. Daarnaast is van groot belang om het gesprek over inzet van algoritmen binnen de overheid en tussen overheden op gang te brengen en kennis te delen voor een goede implementatie.
Van Huffelen: “Algoritmen moeten vooraf worden getoetst en gedurende het gebruik steeds weer worden onderzocht op datakwaliteit, proportionaliteit en mogelijke bias. Het is met name van belang om ons in elk geval te richten op algoritmen met een hoog risico op het schenden van fundamentele rechten. Op deze algoritmen moet helder toezicht worden ingericht, vooraf, tijdens en na het gebruik. En de werking en inzet moeten transparant zijn, waarbij het duidelijk is waar burgers en bedrijven hun recht kunnen halen wanneer ze menen dat het algoritme onrechtmatig wordt ingezet.”
Europese wetgeving
Om te komen tot een verantwoorde inzet van algoritmen spelen Europees beleid en wetgeving (in wording) een belangrijke rol. Het kabinet zet zich in Europees verband sterk in voor betere bescherming van burgers (waaronder kinderen) en dat alleen algoritmische toepassingen op de markt komen die fundamentele rechten respecteren. Nederland zet zich daarom in dat de AI-verordening (Artificial Intelligence) een risicoanalyse ten aanzien van fundamentele rechten expliciet verplicht, dat transparant moet worden waar overheden gebruik van AI maken en dat er rechtsingangen zijn voor burgers wiens recht geschonden is. Waar nodig stellen we nationaal aanvullende eisen. Zo gaan we voor de Nederlandse overheid een stap verder en zetten we een algoritmeregister op en werken we met overheden aan eerder genoemde implementatiekader ‘inzet van algoritmen’. De uitwerking van het algoritmeregister en het implementatiekader vinden komend jaar plaats in nauwe samenwerking met overheden en experts. Naar verwachting publiceert de staatssecretaris in november van dit jaar de werkagenda Digitalisering, met daarin een uitwerking van de ambities van het kabinet rond dit thema.