Datamining in het bestuursrecht

U doet al jaren mee aan de loterij. Nog nooit won u meer dan de inleg. Juist daarom zegt u de loterij niet op want:

de kans is groot dat ik nu na zo lang mee te doen een groot bedrag ga winnen.’

Het zijn dit soort gedachten die maakten dat de huidige minister van BZK Ronald Plasterk zich eens liet ontvallen:

‘Alfa’s laten zich alles wijsmaken.’

Laat ik dit in verband brengen met een opmerking van dr. E. du Perron van de UvA (hoogleraar privaatrecht, bekend van zijn prachtcolleges op Universiteit van Nederland.nl) die ik me herinner als volgt;

‘voor mij geldt, net als voor alle andere juristen, dat als ik iets anders had gekund, ik dat wel was gaan doen’.

Ik zou dan met een soort logische redenering kunnen concluderen dat juristen, zijnde uberalfa’s, zich alles laten wijsmaken. Dit slaat natuurlijk nergens op. Of toch wel? Uit de rechtszaak Lucia de B. bleek dat het interpreteren en duiden van ‘statistische’ bewijsmiddelen geen sinecure is. Voor deskundigen. Laat staan voor de groep mensen waarvan kan worden aangenomen dat zij in hogere mate dan gebruikelijk aan een vorm van discalculu lijden. Iudex non calculat, toch?

Het verdelen van aandacht
Dit was jarenlang geen enkel probleem. Althans, voor juristen. Inmiddels is de wereld aan het veranderen. Cijfers en data spelen in de digitale wereld de hoofdrol. En zelfs in het bestuursrecht. Denk aan de verdeling van aandacht door het bestuursorgaan voor zijn belanghebbenden.

Wat bedoel ik hiermee? Van de overheid wordt verwacht dat aanvragen van burgers gecontroleerd worden voordat er een besluit wordt genomen. En dat overtredingen gehandhaafd worden. Tegelijkertijd zien we dat door de bezuinigingen en het onverminderd groot aantal taken, de mogelijkheid ontbreekt om elke aanvraag of elke overtreding door een ambtenaar te laten onderzoeken. Daarom zal een keuze gemaakt moeten worden; welke aanvragen, overtredingen, of zelfs welke belanghebbenden, krijgen net een beetje meer aandacht dan anderen?

Die prioritering gebeurt nu vaak op basis van ervaringsgegevens; er zijn dan profielen, al dan niet expliciet, die maken of u wel of niet wordt gecontroleerd. Dit is vaak erg duidelijk bij het bezoeken van een voetbalwedstrijd en de beslissing van de beveiliging wie wel en wie niet gefouilleerd wordt.

Profielen op basis van ervaring of thema
Ook in de digitale wereld worden dergelijke profielen gemaakt. Deze vormen dan de basis voor het bestuursorgaan om te gaan prioriteren. Het kan dan gaan om interne beleidsmatige aspecten; dit jaar willen we extra aandacht besteden aan mensen onder de 23 jaar die werkloos raken om de jeugdwerkloosheid terug te dringen (themagericht onderzoek)

Maar het kan ook gaan om aspecten die met menselijk gedrag te maken lijken te hebben; omdat we weten dat inwoners uit wijk X vaker frauderen, gaan we elke nieuwe aanvraag uit die wijk onderzoeken (onderzoek op basis van risico-profielen).

Is dit geen discriminatie? Dat ligt er aan. Zo vond rechtbank Haarlem het onrechtmatig dat een gemeente zich voor controle bijstandsuitkering richtte op mensen van Somalische achtergrond ook al had de staatssecretaris dit als themagericht onderzoek benoemd. Het onderzoek was in strijd met het verbod van discriminatie. http://deeplink.rechtspraak.nl/uitspraak?id=ECLI:NL:RBHAA:2007:BA5410

In een zaak van de gemeente Ede oordeelde de rechtbank anders. De Rb oordeelde hier dat het onderzoek op objectieve gronden berustte. Men had o.a. gekeken naar mensen die gedurende de bijstandsperiode wel eens een verblijfadres in het buitenland hadden opgegeven. En omdat er aantoonbaar was dat er ook onderzoek werd verricht buiten Turkije, bleek er daarmee niet van discriminatie. http://deeplink.rechtspraak.nl/uitspraak?id=ECLI:NL:RBGEL:2014:2704

Maar het kan geavanceerder: een selectie maken door middel van datamining.

Datamining
Datamining is, en ik citeer hier mijn oud-kamergenoot dr. Eric Schreuders, het zoeken naar kennis en verbanden in databases, ook wel het ‘schatgraven in databases’.
Je kunt het ook zien als het zoeken naar verborgen patronen. Zoals een data-scientist mij uitlegde; als je in een bos staat zie je alleen de bomen en een wandelpad en raak je misschien verdwaald maar als je er boven vliegt zie je de paden, het verloop en de uitweg.

Voor juristen is nodig te weten dat je twee zaken nodig hebt om te kunnen dataminen; een datawarehouse en een algoritme. Het datawarehouse moet gegevens van goede kwaliteit bevatten voordat het een goede grondstof is. Dit is heel secuur werk. Ook het algortime is heel belangrijk. Dit duidt namelijk op iets belangrijks: het gaat hierbij om het rekenen. De data moeten daarvoor omgezet worden in getallen. Datamining vergt dus een parametrisering.

Nadat de data geselecteerd zijn uit de databases worden hier algoritmes op afgevuurd. En dit is nou wat datamining volledig anders maakt dan voorgaande profielen en conventioneel onderzoek; er is geen hypothese. Het algoritme gaat zoeken naar statistische verbanden. En statistische verbanden zijn niet hetzelfde als causale verbanden! Er kan bijvoorbeeld uitkomen dat mensen met een rode jas en drie honden vaker dan de rest van de inwoners verzoeken om kwijtschelding doen terwijl ze daar geen recht op hebben. Dan is hier een correlatie maar geen causaal verband. Toeval bestaat! Zie voor het verschil deze geweldige website: http://www.tylervigen.com/

Het wordt juridisch gezien vervolgens interessant als het bestuursorgaan besluit te handelen op basis van deze informatie. Hier ken ik geen voorbeelden van maar ik houd mijn hart daarvoor wel vast juist vanwege de volstrekt andere wijze van denken door beta’s en alfa’s.

Het allerbelangrijkste voor juristen is om te beseffen dat wiskundig logische principes als voordeel hebben dat zij niet discrimineren en objectief tot stand komen. Het grote nadeel is dat er gedacht wordt; waar rook is, is vuur. Dit zou moeten worden vervangen tot; toeval bestaat!

De uitsmijter; artikel 42 Wbp
Een grote onbekende is artikel 42 Wbp. Hierin staat dat niemand kan worden onderworpen aan een besluit waaraan voor hem rechtsgevolgen zijn verbonden of dat hem in aanmerkelijke mate treft, indien dat besluit alleen wordt genomen op grond van een geautomatiseerde verwerking van persoonsgegevens bestemd om een beeld te krijgen van bepaalde aspecten van zijn persoonlijkheid.

Hier zijn twee opmerkingen te maken:
-Stel dat er is geen sprake van een Awb besluit (dan valt het onder een besluit waaraan rechtsgevolgen zijn verbonden) maar het profiel leidt tot een andere voorbereidingshandeling door het bestuursorgaan. Wanneer raakt mij dat in aanmerkelijke mate? Ik stel me zo voor dat het dan aan de intensiteit van de controle ligt. Merk ik er niets van en is het een digitale check? Of moet ik op basis van een profiel een huisbezoek tolereren? Dat verschilt nogal in het in aanmerkelijke mate raken.
– Het verbod geldt niet als de betrokkene in de gelegenheid wordt gesteld zijn zienswijze te geven.

Dit recht op menselijke tussenkomst is dus erg belangrijk. In mijn ogen is het echter een zinloos verbod als de mens die hier de tussenkomst kan bieden iemand is die de dataminingstechnieken en de profieltechnieken niet begrijpt. Als datamining gebruikt wordt in de voorbereiding van besluiten die later beoordeeld worden door de bestuursrechter vind ik dat het zaak is dat vanaf het moment dat de belanghebbende aan de bel trekt, de beide disciplines samen optrekken om de juiste balans te bereiken en rechtsbescherming te kunnen bieden. In de bestuurlijke fase, maar ook in de rechterlijke fase.

Maar ja, wie ben ik? Op basis van het profiel van Plasterk: een Alfa die zich van alles laat wijsmaken.

Lees ook:
http://initiatief1overheid.nl/wp-content/uploads/2014/05/Lezing-Arre-Zuurmond1.pdf

Gebruikte bronnen:
• Rapport van de data protection officer van Ontario, Canada: Data mining: staking a claim on your privacy, Ann Cavoukian, 1998
• ‘Datamining, de toetsing van beslisregels & privacy’, E. Schreuders, Universiteit Tilburg 2001.
• ‘The Power of Knowledge, Ethical, Legal, and Technological Aspects of Data Mining and Group Profiling in Epidemiology’, B.H.M. Custers, Universiteit Tilburg, 2004

Advertenties

10 gedachtes over “Datamining in het bestuursrecht

  1. Dag Marlies,

    Als er één verraderlijkheid aan de wiskunde en de logica zit, is dat zij objectieve waarheid brengen. Ultieme objectiviteit kan maar op één plek: in de leegte. Alle wiskunde, alle logica, alle algoritmes, worden ingericht en toegepast met aannames en bedoelingen-vooraf en die zijn subjectief. Zij kunnen daarom ook niet anders dan discriminerend worden toegepast. Ik vind dat eerlijk gezegd een zegen.

    Ik ben het dan ook wel met je eens dat wiskunde en logica (zelfs de geautomatiseerde varianten daarvan) geen principiële verbanning verdienen, maar andersom vind ik ook dat de ontwerpers en gebruikers van deze technieken de principiële verplichting hebben hun subjectieve aannames en bedoelingen op tafel te leggen. Als dat niet gebeurt, krijgen we te maken met een objectiviteitsmagie die misschien aantrekkelijk lijkt, maar tot ongelukken gaat leiden.

    Het onderscheid tussen alfa en beta is hier ongelukkig en bovendien onnodig. Het is zaak dat:
    – alfa’s zich niet laten afschrikken of imponeren door beta’s, maar doorvragen naar hun aannames en bedoelingen;
    – beta’s niet pretenderen objectiviteit te brengen, maar aan alfa’s vragen hoe ze hun technieken goed kunnen toepassen.

    Misschien verdwijnt zo ooit dat vermaledijde verschil tussen alfa en beta en gaat het gewoon over het begrijpen van informatie. Want dat is een eta- (of balfa-)aangelegenheid. 😉

    Hartelijke groet!

    Paul Oude Luttighuis

    1. Dank voor je reactie! Ik kies heel bewust voor het onderscheid omdat ik het winst zou vinden als mensen weten wat ze niet weten. Daarom zet ik het graag op scherp. Objectiviteitsmagie is een mooie term zeg. Juist daarom pleit ik ervoor dat de ontwerpers van de technieken ook bij de gevolgen daarvan betrokken worden. Alleen zij weten welke veronderstellingen ten grondslag lagen aan de analyse. In mijn ervaring weten zij heel goed welke beperkingen die analyse heeft.

      1. De dialectische methode; mooi! Als dat ook tot synthese leidt (tussen alfa en beta, en laten we gamma er maar meteen bijhalen 😉 is dat enorme winst.

        Blog zo door!

  2. Hallo Marlies,
    Interessante blog. Er komt van alles en nog wat in mij op, krijg er allerlei associaties bij, maar wat dat betreft wellicht later meer.

    Wat mij niet geheel helder is, is wat je precies bedoelt met: “Als datamining gebruikt wordt in de voorbereiding van besluiten die later beoordeeld worden door de bestuursrechter vind ik dat het zaak is dat vanaf het moment dat de belanghebbende aan de bel trekt, de beide disciplines samen optrekken om de juiste balans te bereiken en rechtsbescherming te kunnen bieden.” Ik wacht eerst maar een eventuele verheldering af, alvorens het in mij opkomende idee te suggereren.

    Ik kan verder de heer Luttighuis alleen maar onderschrijven: blog zo door!

    Met vriendelijke groet,
    (hr.) Ingvi van Rooijen
    (Jurist bestuurs- en omgevingsrecht)

  3. Dank! Wat ik bedoel te zeggen is dit: iemand die veel weet over datamining en profielen weet ook welke veronderstellingen ten grondslag liggen aan het resultaat en weet dat het gaat om kansberekeningen. Maar als deze gebruiksaanwijzing niet meegeleverd wordt, is de kans groot dat het profiel een eigen leven gaat leiden en zo een eigen waarheid creëert. Je ziet dit nu ook wel terug bij procesvertegenwoordigers die in een rechtszaal niet meer kunnen uitleggen waarom iemand geen recht heeft. Het enige dat ze dan doen is toevoegen dat ‘volgens het computersysteem heeft meneer geen recht’. En dan schiet de rechtsbescherming zwaar tekort. Dit wordt nog erger als de jurist het wiskundige niet snapt. Denk aan de weersvoorspelling: dat is een hulpmiddel, geen blauwdruk voor de werkelijkheid. Sterker, de werkelijkheid stoort zich vaak niet eens aan de voorspelling! Zo zou het hier volgens mij ook opgevat moeten worden.

  4. Inderdaad!

    Ik zou dan ook willen bepleiten dat niet vanaf het moment dat de belanghebbende aan de bel trekt, beide disciplines samen moeten optrekken, maar dat vanaf het moment dat datamining leidt tot verdere bestuurs- of ambtelijke handelingen aan de bel wordt getrokken bij de betrokkene c.q. belanghebbende. Alleen dan kan hij/zij tijdig beoordelen of hij rechtshulp c.q. rechtsbescherming nodig acht.

    Ik raakte bekend met je blog via LinkedIn:

    “En zolang Spotify adviseert naar Michael BOLTON te luisteren als je George Michael opzet, zijn de algoritmes ook nog niet zo intelligent als je misschien zou denken!” Is dat niet juist het zorgwekkende eraan? Leidt datamining in het bestuursrecht niet tot een verdere vermindering van intelligent werken door de uitvoerende macht? Simpel gezegd: men zoekt een boef en vindt een dissident, waarna vervolgens de dissident verondersteld wordt een boef te zijn, tenzij hij kan uitleggen (zienswijze met aanverwante vermindering van privacy) waarom hij dat niet is. Dat in toenemende mate computers, software en de daarin opgeslagen informatie, die niet toegankelijk is voor de belanghebbende, bepalend is voor de verhouding tussen overheid en burger vind ik niet geruststellend. Het ontmenselijkt en vermechaniseert.

    Met vriendelijke groet,
    Ingvi

  5. Ik vind het ook zeker geen geruststellend idee dat we naar een overheid toegaan die onze belangrijke waarborg ‘onschuldig tenzij’ volledig omdraait; we vinden dit van u, bewijst u maar dat het anders is. Mijn punt is alleen dat dit niet per se het geval hoeft te zijn bij datamining. Het is geen synoniem voor ‘fout’. Dat kan het wel heel makkelijk worden, dat ben ik met je eens. Maar dat is het ook bij ambtenaren. De profielen die in de hoofden van de ambtenaren leven zijn vaak van hetzelfde niveau als ‘bij mij staat het stoplicht dus altijd op rood’. Statisch gezien onzin, maar volgens ons beperkte mensenbrein soms wel de waarheid!

  6. Nee, datamining lijkt mij ook niet per definitie fout, noch het werken met risicoprofielen. Wel lijkt mij zeer van belang met de toenemende digitalisering, de openbaarheid van bestuur niet te beknotten. Daar wordt ook al het één en ander over geroepen, o.a. door Plasterk. Allerminst dient raadpleegbaar te zijn of je door middel van een algoritme uit een datamine tevoorschijn bent gekomen als ‘whatever it may be’. Het feit op zich en de consequenties daarvan, behoort men toch wel te kunnen weten. Anders wordt het zo schimmig.

    Maar goed, ik ben ook een alfa en zal me ook van alles en nog wat wijs hebben laten maken. En de profielen in de hoofden van ambtenaren: cursus rood/oranje/groen?

Geef een reactie

Vul je gegevens in of klik op een icoon om in te loggen.

WordPress.com logo

Je reageert onder je WordPress.com account. Log uit / Bijwerken )

Twitter-afbeelding

Je reageert onder je Twitter account. Log uit / Bijwerken )

Facebook foto

Je reageert onder je Facebook account. Log uit / Bijwerken )

Google+ photo

Je reageert onder je Google+ account. Log uit / Bijwerken )

Verbinden met %s