Als organisaties voor hun bedrijfsvoering kunstmatige intelligentie en algoritmes gebruiken, moeten ze uitleggen waarom ze dat doen. Daarvoor pleit de Autoriteit Persoonsgegevens.
Het gaat daarbij om bedrijven en overheden die “serieus persoonsgegevens verwerken” en die AI-systemen of algoritmes gebruiken die grote impact kunnen hebben op de levens van burgers.
De Autoriteit Persoonsgegevens (AP) zegt dat de komst van AI-chatbots en een gebrekkig inzicht in bestaande algoritmes de grootste risico’s vormen. Denk daarbij aan risico’s op discriminatie, kansenongelijkheid, misleiding en gebrek aan transparantie en uitleg over algoritmes.
Bijna alle organisaties in Nederland werken inmiddels met algoritmes. “Veel klanten betekent veel data van klanten in je bestanden”, zegt AP-voorzitter Aleid Wolfsen. het toeslagenschandaal is het bekendste voorbeeld van een algoritme dat burgers benadeelde. Maar onlangs gingen ook DUO en het UWV ook met algoritmes de fout in.
Wolfsen denkt dat AI en algoritmes nuttig kunnen zijn, maar dat we de risico’s niet moeten negeren. “Het bewustzijn hierover neemt toe, maar veel overheden en bedrijven zijn nog zoekende naar de juiste manier om dit te doen”, zegt hij. “Daarom is duidelijke regelgeving nu cruciaal. We roepen het demissionaire kabinet op om hierin voortgang te blijven maken.”
AP roept op tot verplicht invullen van register
In Nederland bestaat een algoritmeregister waarin overheidsorganisaties gebruikte algoritmes met een hoog risico op misbruik kunnen invullen. Dat is nu nog niet verplicht, maar de AP hoopt dat die verplichting er over een jaar wel is. De NOS meldde eerder nog dat het register nog nauwelijks wordt ingevuld.
De AP houdt sinds begin dit jaar niet alleen toezicht op privacyovertredingen, maar ook op algoritmes. Dit is de eerste keer dat de AP daarover een rapportage heeft uitgebracht. De toezichthouder is van plan om dat elk half jaar te doen.
