Veel kritiek op Europese plannen tegen kinderporno: ‘Niet proportioneel’

NOS Nieuws

  • Joost Schellevis

    redacteur Tech

  • Nando Kasteleijn

    redacteur Tech

  • Joost Schellevis

    redacteur Tech

  • Nando Kasteleijn

    redacteur Tech

Nieuwe voorstellen van de Europese Commissie om de strijd tegen kinderporno flink op te voeren, stuiten op felle kritiek. Een meerderheid van de Tweede Kamer keerde zich eerder al tegen de plannen. Desondanks is het demissionaire kabinet van plan om die deels te steunen.

De plannen betekenen dat chatdiensten als WhatsApp een bevel kunnen krijgen om verspreiding van kinderporno en mogelijk ook grooming, oftewel het seksueel benaderen van minderjarigen, te monitoren.

De Europese privacytoezichthouders hebben daarover serieuze zorgen, evenals de Nationaal Rapporteur Mensenhandel. Ook de juridische afdeling van de Europese Raad van Ministers zou bedenkingen hebben.

Versleuteld

Op dit moment is het zicht op wat in een deel van de chatdiensten gebeurt beperkt, omdat de berichten end-to-end zijn versleuteld. Dat betekent dat bijvoorbeeld WhatsApp, maar ook politie en justitie, geen toegang hebben tot de inhoud van berichten.

Toch wil de Europese Commissie chat-apps kunnen verplichten om te scannen op misbruikmateriaal. Deskundigen zijn het erover eens dat dat alleen kan door chat-apps op telefoons van gebruikers op dat soort materiaal te laten monitoren. Er zou dan een soort “virusscanner” binnen een chat-app moeten draaien, die alarm slaat als er bepaald materiaal wordt aangetroffen. In dat geval gaat het materiaal naar een nieuw Europees anti-kinderpornocentrum voor verder onderzoek.

Die methode, ook wel client side scanning genoemd, is omstreden: eerder noemden computerwetenschappers, onder wie een aantal zeer gerenommeerde cryptografie-experts, dat idee “buitengewoon gevaarlijk”.

Volgens de Europese Commissie is wetgeving echter hard nodig, omdat kinderporno op grote schaal wordt uitgewisseld. Op dit moment is de aanpak van kinderporno gestoeld op vrijwilligheid en dat werkt niet goed genoeg, stelt de Commissie.

Kritische motie

Demissionair minister Yesilgöz van Justitie en Veiligheid schreef voor het zomerreces aan de Tweede Kamer een kritische motie naast zich neer te leggen en in Europa te pleiten voor gedeeltelijke invoering van de wetgeving. In Europees verband onderhandelen lidstaten momenteel over de inhoud van de wet.

Nederland steunt in die onderhandelingen de minst vergaande versie van monitoring; het blokkeren en rapporteren van kinderporno met behulp van een zwarte lijst, schreef Yesilgöz.

Nederland vindt plannen te ver gaan om met kunstmatige intelligentie grooming op te sporen. Ook lobbyt Nederland tegen gebruik van kunstmatige intelligentie om automatisch beelden van kinderporno te vinden, nog voordat ze op een zwarte lijst staan.

Volgens de minister is het belangrijk dat EU-landen “een volgende slag” kunnen slaan tegen kindermisbruik. Tegelijk schrijft ze dat Nederland erop wil letten dat de grondrechten niet “onevenredig zwaar worden ingeperkt”.

Dat vindt ook Kamerlid Queeny Rajkowski van de VVD, een van de vier partijen die in de Kamer wel positief waren over de wet. Volgens haar moet er een einde komen aan de “enorme stroom” aan kinderporno. “Ik ben ervan overtuigd dat we het technisch voor elkaar kunnen krijgen om kinderporno eruit te filteren”, zegt ze, waarbij de privacy van anderen “die totaal geen kwaad in de zin hebben” niet moet worden aangetast.

Fouten

Frederik Zuiderveen Borgesius, een van de vier deskundigen die de Tweede Kamer vanavond over de plannen zullen bijpraten, is echter zeer kritisch, net als de overige experts.

Het opsporen van misbruikmateriaal en grooming-teksten en kunstmatige intelligentie gaat gegarandeerd fout, stelt Zuiderveen Borgesius, want kunstmatige intelligentie maakt nu eenmaal fouten. “Stel dat het in één op de duizend gevallen fout gaat, wat al een hele goede score zou zijn”, zegt hij. “Dan worden de autoriteiten overstelpt met onschuldige foto’s, bijvoorbeeld als je een zwembadfoto naar oma appt.”

Ook het blokkeren van bekende kinderpornofoto’s is volgens hem problematisch. “Andere landen, ook dictaturen, zullen denken: dit willen wij ook wel.” Technisch is er namelijk geen belemmering om de eenmaal ingebouwde “kinderpornoscanner” ook voor andere zaken te gebruiken.

Eindstreep

In welke vorm de wet de eindstreep haalt, is onbekend. Bronnen rond de onderhandelingen zeggen tegen de NOS dat er voor verschillende varianten wordt gelobbyd, waarbij Nederland een van de meer terughoudende landen is.

Volgens Rejo Zenger, die namens burgerrechtenorganisatie Bits of Freedom de onderhandelingen nauwgezet volgt, is het de vraag of de onderhandelingen zijn afgerond voordat er nieuwe Europese verkiezingen in juni worden gehouden.

Als de wet er dan is, zijn er nog juridische bedreigingen, zegt jurist Zuiderveen Borgesius. “De chats van honderden miljoenen mensen worden straks gescand om een relatief klein aantal misdadigers op te sporen, hoe erg ook.”

Daarmee doet de wetgeving volgens hem denken aan EU-wetgeving om terrorisme te bestrijden door van alle internet- en telecomgebruikers locatie- en gespreksgegevens bij te houden. “Het Europees Hof veegde die wet van tafel, omdat hij buitenproportioneel was.”

Bron