Frances Haugen werd in 2021 in één klap bekend als klokkenluider, nadat ze duizenden interne documenten over haar werkgever Facebook openbaar had gemaakt. Daaruit bleek hoe het beleid van Facebook tekortschoot, onder meer rondom desinformatie en beïnvloeding. Kunstmatige intelligentie kan nog meer problemen opleveren, zegt ze in gesprek met NU.nl op het Mozilla Festival in Amsterdam.
“Over vijf jaar heeft elk kind waarschijnlijk een eigen dokter”, zegt Haugen. Maar volgens haar worden dat virtuele kinderartsen, aangedreven door kunstmatige intelligentie. “In de meeste gevallen kunnen zij wel vaststellen waar kinderen last van hebben en de volgende stap bedenken.”
Dit soort innovaties komen eraan en zijn niet meer te stoppen, denkt Haugen. In maart riepen prominenten uit de techindustrie nog op tot een pauze in de ontwikkeling van generatieve AI. De tijdelijke stop zou gebruikt worden om veiligheidsmaatregelen in te voeren voor de omgang met steeds complexere taalmodellen.
Haugen betwijfelt of dat de oplossing is. “Dan vertrekken er mensen bij OpenAI (de maker van ChatGPT, red.) en Google en gaan ze aan AI werken bij start-ups die niet zich niet aan de pauze houden”, zegt ze.
Belangrijk dat Europa zich over AI-wetten buigt
Maar er zijn andere manieren om de ontwikkeling van AI in goede banen te leiden. Zo werkt de Europese Unie aan regelgeving. Nieuwe wetten moeten ervoor zorgen dat algoritmes transparant zijn, zodat we weten hoe ze werken. Ook moet AI aan bepaalde veiligheidseisen voldoen.
Brussel neemt met deze regelgeving het voortouw in de wereld. “Dat Europa zich hier proactief mee bemoeit, is van cruciaal belang”, zegt Haugen. “Want wie weet wanneer de Verenigde Staten actie ondernemen.”
Haugen hoopt dat bedrijven niet op de regels gaan wachten. “Grote bedrijven moeten naar voren komen en zeggen dat ze alleen nog diensten kopen bij betrouwbare aanbieders”, zegt ze. “Dat kan morgen al, terwijl het lang duurt om nieuwe wetten in te voeren. Maar bedrijven moeten beloond worden voor dit soort goed gedrag, anders gebeurt het niet.”
‘Er is een culturele verandering nodig’
Bij Facebook maakte Haugen onder meer deel uit van het team dat probeerde inmenging bij verkiezingen en het delen van desinformatie te bestrijden. Ook ontdekte ze dat tieners een negatief zelfbeeld overhielden aan het gebruik van Instagram. De app zou enorm hebben bijgedragen aan de toename van angst en depressie onder jonge mensen. Moederbedrijf Meta wist dat, zegt Haugen, maar greep niet in.
“Deze systemen zijn niet gemaakt om de waardigheid van mensen te respecteren’, legt Haugen uit. “Je bent geen slecht persoon en het ligt niet per se aan een gebrek aan wilskracht dat je niet kunt stoppen met scrollen. Socialemediabedrijven hebben teams van honderden personen in dienst die alleen maar werken aan manieren om je aandacht zo lang mogelijk vast te houden. Zo zijn die apps in de kern ontworpen.”
Haugen denkt dat mensen kunnen leren om op een andere manier met dit soort platforms om te gaan. “Je kunt jezelf afvragen: wil ik niet dat dit soort apps mij meer respecteren? Mensen houden ervan zelf controle te houden over dingen die belangrijk voor hen zijn. Maar er is een culturele verandering nodig om dat voor elkaar te krijgen.”
In Metaverse dreigt gevaar van AI
De klokkenluider is bezorgd dat de Metaverse nog veel meer problemen kan opleveren. “We rollen nu met onze ogen als het over de Metaverse gaat”, zegt ze. “Maar er schuilt een behoorlijk gevaar als er straks AI-taalmodellen aan worden toegevoegd. En dat gaat gebeuren.”
De Metaverse van Meta is een virtuele wereld waarin je alles kunt doen wat je wilt. Van gamen en werken tot afspreken met vrienden. “Nu lachen we nog om de oncomfortabele headsets die je nodig hebt”, zegt Haugen. “De batterijen gaan snel leeg, ze zijn zwaar, de animatie van de virtuele wereld ziet er niet uit. Maar dat wordt in de toekomst allemaal verholpen.”
Sociale isolatie ligt op de loer
Haugen is bang dat de Metaverse sociale isolatie in de hand werkt als mensen zich vaak terugtrekken in de virtuele wereld. Ook vreest ze dat we kinderen die zich op school misdragen digitaal zullen verdoven met deze technologie.
“Kinderen met gedragsproblemen krijgen mogelijk geen persoonlijke begeleiding meer”, zegt ze. “Die kinderen worden in de hoek gezet met een headset op en moeten werken met virtuele personen op het scherm.”
De Facebook-klokkenluider vindt dat we dat soort ontwikkelingen voor moeten zijn. “We moeten over basale dingen nadenken en daar regels voor opstellen. Zoals het recht om onder de mensen te zijn.”
