Algorithms in public administration

We are witnessing a rapidly growing leading role for algorithms, both in civil law based relations like customers in relation to Netflix as in public administration relations where we have citizens on one side and the (mostly) executive branch of the government on the other. When the algorithms are using personal data to do their automated calculation (in the Netherlands we even profile our dykes), and result in a decision which produces legal effects concerning him or her or similarly significantly affects him or her, the frame work is provided in the new article  22 of the GDPR  ‘Automated individual decision-making, including profiling’.

3
22 GDPR 
In this figure I’ve tried to show how the three elements of 22 GDPR are related. Only the left part doubles are part of 22 GDPR, including a part of the profiles.

It’s very interesting we now see a clarification we missed in directive 95/46/EC; the notion that profiling and automated decision-making may look similar but are in fact two different activities. They have different characteristics and will bring different risks to data subjects/citizens. Profiling can result in automated decision-making but automated decision-making doesn’t need to be based on profiles.

This blogpost is about these differences. Based on case-studies I performed in my thesis on Effective Remedies Against Automated Decisions in Tax and Social Security I summed up some of these differences. Please feel free to submit your feedback.

Autonomous handling systems, known as automated decision-making

Automated decision-making is used in public administration for ages. Jon Bing recalled a German example of computer conscious lawmaking in 1958 (Bing 2005: 203). In the Netherlands the tax administration still partly ‘runs’ on programs build in the seventies. Researchers call these systems ‘autonomous handling systems’. They not only produce the legal decision; they execute them as well by for instance transferring money from the government to the citizen. Some of these systems appear to be ‘expertsystems’, but in the Netherlands we  have a very simple but effective way of giving automated administrative fines to drivers of cars that didn’t get their technical checks in time, just by matching two databases.

These automated decisions run on personal data and algorithms. The law, publicly debated, result of a democratic process and made transparent and accessible to everybody, has to be transformed in language the computer understands; the algortihms (Wiese Schartum 2016:16). There are many issues that occur when we study automated mass administrative decision systems, like; who has the authority to interpret the law? (Bovens & Zouridis 2002) Is the source code made public? What is the legal status of this quasi legislation (Wiese Schartum 2016:19) How can an individual object these decisions? What if the computer decisions have a very high error rate? (as appears to be the case right now in Australia with Centrelink , Online Compliance Intervention System)

Automated profiling

Profiling on the other hand, if it is done by a computer since we happen to profile manually all our lives, is not as old. This makes sense because in order to be able to automate profiling, very large databases are needed and data processors that can work at a very high speed. Unlike automated decision making, profiling in public administration is only at the beginning of the technological capacities. As well as in automated decision-making, profiling (in article 22 GDPR) runs on personal data and algorithms. The difference is that profiling is used to predict the behavior of citizens and to single out those who behave differently from the main group. Based on data referring to their behavior, health, economic situation etc, the algorithm tries to bring some kind of order in the mass. The results can be of administrative internal work flow use, like ‘which tax deductions might be a risk to accept and are to be reviewed by a human?’ ‘which kind of citizens are likely to apply for benefits?’, hardly visible for citizens.

artistic-2063_1920
Diversity of citizens represented by coloring pencils. Categorizing them, attributing data and math can make you decide with what pencil you’ll start. 
But in some cases, the results can be more invasive; like legal decisions or surveillance activities (like frisking) aimed at only those travelers the algorithm has chosen. In unstructured big data, a pattern is made visible by datamining technologies and this pattern is used to predict other similar cases. Think of Netflix; offering you logical choices out of a massive number of movies and documentaries. Some of the same issues arise as in automated decisions, some of them differ; like how can we prevent the algorithms from bias? Who has the authority to ignore the predictions? Is transparency of algorithms helpful or put it differently; how could I as a citizen ever understand the algorithm? What if the computer finds a relation based on inherent human characteristics like health or genetics or race?

Dutch proposal executing GDPR

The difference has made the Dutch legislator propose different measures when it comes down to algorithms in public administration. The proposal has been subject to a public internet consultation before it will follow the procedural route.

Automated decision making in public administration will be permitted (and the right of data subject not to be subject to a decision overruled) if necessary for compliance with a legal obligation, or necessary for the performance of a task carried out in the public interest, and measures have been taking (by the controller) to safeguard legitimate interests of the data subject. As well the data subjects have (still) the right to ask the logic of the program on which the decision is based is shared. Other safeguards for the data subjects, like the right to ask for a review, are provided by General Administrative Law Act. To my knowledge, previous safeguards in directive 95/46 have never been invoked in disputes concerning automated decisions in administrative case law.

On automated profiling the Dutch legislator seems to stick to the rules of 22 GDRP, meaning that the right of the data subject not to be subject to a decision based on automated profiling (which produces legal effects concerning him or her or similarly significantly affects him or her) doesn’t apply if the decision is authorized by Dutch Law. So far, we seem to have one profiling project in public administration with legal basis; Syri. More info in English in this publication.

Other profiling initiatives in public administration seem -until today- not to lead to legal decisions. They are used to see which citizens or applies have to be checked by humans. It’s unlikely this kind of profiling match the definition in 22 GDPR. If the proposal of execution law of GDPR in Netherlands is accepted, automated profiles that do lead to invasive consequences but not to legal decisions -as is the case in border controls or police monitoring- will need a legal basis in law.

It will be interesting to see if some anti-fraud measures based on automated profiles are similarly as legal effects significantly affecting the data subject. Like deviating a digital apply for a benefit in a face to face apply because the data subject fits the profile of fraudster. Offering green lanes or denying them. Is it significantly (similarly as legal effects) affecting a person to have to proof his existence and papers at a desk or isn’t it? Based on the polls I took while teaching, at least most civil servants don’t consider this significantly affecting.

Why is the difference important?

It is important to stay alert on these differences when we discuss 22 GDRP. Some of the problems will seem to be the same; incorrect decisions, unknown algorithms, people who don’t fit in the predesigned categories and seek for individual fairness (Einzellfalgerechtigkeit) but it would be a mistake to treat the activities the same. Profiling is calculation of probability, and fundamentally different from a calculation of my administrative data with variables explicitly mentioned in law.

Profiling uses not only more (big) data, the data are more decontextualized, the data contain data we give away unconsciously (like using or not using an app the government provides for, like changing your online apply a few times before sending it) and they will only consider the past to predict the future. In light of the GDPR where a lot of exemptions are made for research and analyzing personal data, it will depend on how governments use profiles. Accountability for these profiles is not only important in relation to data protection. It will raise all kind of fundamental rights questions.

To conclude this interesting matter I could talk about for days, I’ve come up with this short and simple chart:

  Automated decision making Automated Profiling
function Engine of auto bureaucracy Accessory of bureaucracy
 

input

 

Structured personal data

 

Unstructured personal data

 

output

 

Calculation Calculation of probability
algorithms Written by humans based on law  

Selflearning or written by humans based on mathematical correlations

 

data

 

Administrative data as variables in algortihms based on law

 

Big data on all kind of aspects, including behavior.

 

decision

 

 

Aimed at a specific citizen based on his/her administrative data (like age, income etc)

 

 

Based on data of people in similar circumstances, aimed to singling out.

 

Officially in the Netherlands since

 

1970s (social security, motor car tax)

 

2014 (SyRI, social security fraud detection)

 

Jargon

 

Business rules

 

Risk rules / self learning

(lit.)

Bovens & Zouridis 2002

Bovens & S. Zouridis, ‘ From Street-Level to System-Level Bureaucracies: How Information and Communication Technology is Transforming Administrative Discretion and Constitutional Control’. Public Administration Review, 2002, vol. 62-No. 2.

Bing 2005

Jon Bing, ‘Code, Acces and Control’ in ‘Human Rights in the Digital Age’ M. Klang & A. Murray (eds), Cavendish Publishing Ltd 2005.

Wiese Schartum 2016

Dag Wiese Schartum, ‘Law and algorithms in the public domain.’ Etikk i praksis. Nordic Journal of Applied Ethics. 2016, 10 (1). DOI: http://dx.doi.org/10.5324/eip.v10i1.1973

Advertenties

Je hebt wél iets te verbergen. Verslag van het Grote Privacy Experiment. Verschenen in Privacy & Informatie 2016/5

Op 15 september 2016 werd de verschijning van het boek ‘Je hebt wel iets te verbergen’ van onderzoeksjournalisten Maurits Martijn en Dimitri Tokmetzis gevierd met een uitverkocht zaal in de Utrechtse Schouwburg met de titel: Het Grote Privacy Experiment. Op dat moment waren er al 7000 exemplaren verkocht van het boek. Als een heuse verslaggever toog ik voor u naar Utrecht. Ook was ik van plan voor u een paar diepte-interviews te houden. Hier het resultaat.

Maurits Martijn en Dimitri Tokmetzis zijn de Frank Kuitenbrouwers van deze tijd; publicisten met kennis van zaken, scherpe blik en goede pen. Zij zijn als geen ander in staat de kloof te dichten tussen het abstracte en weinig toegankelijke privacyrecht, dito technologische vernieuwingen en het grote publiek; de mensen om wie het gaat. Zij schrijven voor De Correspondent. 

Nu ligt er, en ook dat doet aan Kuitenbrouwer denken, een boek. Nieuw is dat het boek samenging met een snel uitverkocht evenement in de Stadsschouwburg van Utrecht. Wie had dat kunnen denken?

Een avondvullend programma over privacy?

Een avondvullend programma over privacy? Mensen daarvoor een kaartje laten kopen? Dat was voor mij al de grootste verrassing. En als ik de leeftijd van de bezoekers inschat, kan ook die ándere mythe van tafel. De mythe dat jonge mensen niet om privacy geven.

Rob Wijnberg opende de avond en liet met schaamtevolle foto’s en filmpjes van hem en zijn collega’s zien dat mensen verschillende rollen aannemen en dat mensen door de jaren heen van zichzelf verschillen. Op je werk doe je anders dan thuis. Iemand van 35 jaar gedraagt zich anders dan iemand van 18. En de maatschappij verandert ook; een normaal gebruik in het ene tijdperk (met je kinderen zonder gordel, autozitje en airco in een Renault 4 naar Spanje rijden), lijkt anno nu pure kindermishandeling.

Vervolgens startte Het Experiment. Martijn en Tokmetzis klapten hun laptops open en bleken sommige bezoekers als proefkonijn te hebben gebruikt. U raadt het natuurlijk al, er waren mensen die zich met hun Facebook account hadden aangemeld. Zo konden hun gezinssamenstelling, beroep, hobbies en naam van geliefde gedeeld worden met de zaal. Dat is voor een privacyjurist dan weer minder verassend maar het maakt het concept ‘privacy’ wel voelbaar. En dat is waar we als privacyjuristen niet in zijn geslaagd; het belang van dit grondrecht te laten voelen. 

Tommy Wieringa

Gelukkig zijn andere mensen daar beter in. Zoals schrijvers. Stiekem hopen we natuurlijk allemaal op een nieuw ‘1984’. De domper was dan ook groot toen de kandidaat bij uitstek, Tommy Wieringa, achter het spreekgestoelte opbiechtte privacy een ‘rotonderwerp’ te vinden om over te schrijven. 

‘Die roman komt er niet.’

Want wat u misschien niet weet is dat de romanschrijver van Joe Speedboot en Cesarion zich ook heeft verdiept in het profilingsysteem SyRI, Suwinet en EPD. Over Suwinet en diens voorloper schreef ik zelf in dit tijdschrift. We mogen in Nederland in onze handen mogen knijpen met denkers en schrijvers die zich door ambtelijke en technocratisch beleidsstukken weten te worstelen om te wijzen op de gevolgen voor de samenleving. De conclusie van Wieringa was somber, de conditionering van de mens is een ongekend succes geworden, dat de mens een vrijheidslievend wezen is, is een vergissing. 

Maxim Februari

Het werd niet heel veel vrolijker toen Maxim Februari begon te spreken. Data, zo zei hij, zijn afgeleide fantomen, niet de mens zelf. Er bestaan geen waardevrije gegevenssets, geen waardevrije beslisregels. Bij rechtsregels kun je met elkaar in discussie gaan, maar de ruimte om het met elkaar oneens te zijn verdwijnt als deze deel gaan uitmaken van technologie. En dan ontstaat er absolute macht. De zaal was muisstil. Gaat dit nog goedkomen? Of zijn wij reddeloos verloren in de strijd om onze aandacht, data, afdwingen van gewenst gedrag? (Zie hier een Onovertroffen column)

Op zoek naar oplossingen

Die vraag zou beantwoord worden door een vergelijking te zoeken met het krachtenveld rond het klimaat; klimaatproblemen vertonen veel gelijkenis met privacyproblemen, zoals dat het langzaam erger wordt en ons allemaal aangaat. Het zal ú misschien wel plezieren, maar men verwachtte nogal veel van het recht; van de AVG, van rechtszaken en van de AP. Ik deel die verwachting niet. Bijvoorbeeld omdat het geen recht doet aan de mens achter de rechtszaak. Mensen die centraal staan in grensverleggende rechtszaken (en helaas is dat vaak toch nodig voor de ontvankelijkheid van het beroep) worden daar immers niet bepaald gelukkiger van; het is vervreemdend, kost energie en levert immens veel frustratie op. 

Ikzelf denk dat als mensen werk willen maken van het verbeteren van de privacy omstandigheden, zij zouden moeten investeren in een groter bewustzijn bij mensen zelf, het creëren van massa. Alleen massa kan leiden tot technologische alternatieven. 

Inkijkje in de aandachtspanne van bezoekers tijdens Het Grote Privacy Experiment

Dat bewustzijn van de mensen zelf, werd nog een niveautje hoger getild toen ethisch hacker Wouter Slotboom als DJ het podium op werd gereden. Er bleken 62 mensen ingelogd te hebben op zijn wifinetwerk. Dit wisten zij zelf niet. Maar wij wisten door de getoonde metadata waar deze mensen op de wereld zoal geweest waren. Gekker werd het toen hij liet zien wat deze mensen tijdens de bijeenkomst op internet hadden bekeken; nieuwe jurkjes, voetbaluitslagen, veel social media en filmpjes. Ik weet niet wat mij meer verbaasde, dat bezoekers dit tijdens een bijeenkomst doen, of dat dit allemaal zichtbaar werd. Ik was al niet optimistisch over de aandachtspanne van studenten in een collegezaal, nu zou ik willen pleiten voor netwerkvrije bunkers! 

Privacy als excuus iets niet te hoeven doen

Helaas ben ik volslagen ongeschikt gebleken als interviewer. We voerden mooie gesprekken maar ik kan deze niet accuraat genoeg weergeven. Praten, denken en herinneren is mij niet gegeven. Maar in gevallen van onmacht, onkunde of onwil, is daar altijd ‘privacy’ als excuus. Kortom: omwille van de privacy kan ik u niet vertellen wat Tommy Wieringa mij aanraadde of Maxim Februari mij bekende.

Hoe ik toch nog proefkonijn werd

De avond eindige met een ongevraagde alarmerende profilering door Wieringa op basis van onder meer mijn ambtenarenbestaan:

‘u klinkt mij als een nerd.’

Een nerd? Een nerd? Ai. Dat deed pijn. Ik voelde wat ‘privacy’ is. Ik deed zelfs nog een poging van dit label af te komen: ik bekende spontaan allerlei triviale persoonlijke zwakheden. Ik ervaarde daarmee de privacy paradox; om van het profiel af te komen, moet je nog meer over jezelf vertellen.

Maar misschien is dat voor privacyjuristen bij de overheid de oplossing; niet meer zoals eens werd beschreven ‘flikflakkend door de gangen om aandacht te vragen voor privacy’, maar voortaan collega’s en bestuurders ongevraagd voorzien van een ongemakkelijk label.

Bestuursrecht: there’s an app for that!?

De overheid verandert. Net als de samenleving. Ok, bestuursorganen nemen besluiten, handelen puur feitelijk (vuilnis ophalen, openen van bezoekbalies) en verrichten nog steeds privaatrechtelijke rechtshandelingen. Maar de manier waarop is anders.

Om burgers te bereiken, maar ook om gegevens van burgers te verkrijgen, worden talloze apps ontwikkeld door de overheid. Wat apps doen, welke informatie zij over de burger genereren en hoe we deze moeten plaatsen als nudgingactiviteiten, vinden we niet terug in de standaard handboeken bestuursrecht. Misschien ontkomt dit vakgebied aan de voorspellingen van Susskind ‘to what problem are you the solution?’, maar als jurist bij de overheid geloof ik daar niets van. Lees hier een Review over het boek ‘The end of Lawyers?’ Review

Veel van het juridisch werk bij de overheid speelt zich namelijk nu al af in een door technologie gedomineerde omgeving. Dat is heel erg gaaf werk; want technologie kan de afstand tussen burger en overheid aanzienlijk verlagen. Je leert ervan om op een andere manier naar het recht te kijken.

14697782407_d61ce64bf5_z

Als jurist kun je daardoor je juridische kennis inzetten om het voor een veel groter publiek beschikbaar te maken. Op die manier verschuift het traditionele denken van procederen in een rechtszaal (jurisprudentie) naar het voorkomen van procedures of het bijstaan van mensen. Want  juristen mogen dol zijn op rechtszaken, de burger zelf wordt er vaak niet gelukkiger van.

Ik kijk persoonlijk erg uit naar de Berichtenboxapp. Een app waarmee je direct beveiligd naar de inhoud kunt gaan van je berichtenbox. Gemaakt door deskundige ambtenaren. Ook dat is bestuursrecht! In veel van deze apps zit juridische kennis verwerkt.

Hier een overzicht van de leukste apps die ik voor eerstejaarsstudenten bestuursrecht heb verzameld. Want een ding is zeker, als zij de universiteit over een paar jaar verlaten, zal het juridische werk gedurende hun loopbaan er heel anders uit gaan zien.

doe de woning check (brandweer)

douane reizen app (wat mag ik invoeren?)

Overstroom ik? app (waterschappen)

Kopie ID app (bescherming tegen identiteitsdiefstal)

Fietsmodus app (off line op de fiets)

wettenpocket app (wetten met jurisprudentie)

buitenbeter app

 

Goed nieuws over uitspraken Bestuursrechters

Precies een jaar geleden gaf ik in De Correspondent tips voor iedereen die wel eens een uitspraak van de bestuursrechter leest. Inmiddels heeft de afdeling bestuursrechtspraak van de Raad van State besloten de uitspraken ook beter leesbaar te gaan schrijven. Over dit nieuwtje schreef ik een   Update voor De Correspondent:

https://decorrespondent.nl/4281/Goed-nieuws-uitspraken-van-rechters-worden-begrijpelijker/218697950196-f2c273a0

Ook mocht ik erover vertellen bij Frits Spits in de Taalstaat (begin van het eerste gedeelte). Een van de nieuwtjes is dat de uitspraak voortaan eerst ingaat op de Theo en Thea vraag: ‘waar gaat het eigenlijk over?’. imagenu  is het hopen op volgers: andere juridische professionals die ook zien dat het recht al moeilijk genoeg van zichzelf is en dat het taalgebruik niet een extra belemmering moet zijn.

Bestuursrecht in plaatjes

IMG_6333
De Awb bestaat uit tranches (in het Frans betekenen Tranches ‘takken’). Hiermee wordt bedoeld dat de Awb in verschillende stappen gebouwd is, het is aanbouwwetgeving. Oftewel een takkenwet. Niet te verwarren met ‘Takkewet’.
burgers
Het bestuursorgaan bestuurt burgers. Burgers zijn verschillend en hun belangen ook. Bij het uitvoeren van hun taken treedt als vanzelf een dilemma op dat we allemaal herkennen: een regel vinden we belangrijk (er mag niet te hard gereden worden want dat is gevaarlijk), we vinden het goed dat mensen daarvoor beboet worden (handhaving van het recht) maar die ene keer dat ik te hard reed en een boete kreeg was gewoon Belachelijk (ik ben de uitzondering op de regel).

 

orgaan
Een openbaar lichaam heeft geen publiekrechtelijk bevoegdheden. Daar zijn de organen voor. De ambten. Bestuursorganen.

 

lichaam.heel
Het bestuur in Nederland bestaat uit openbare lichamen. Dit zijn de Staat, de provincies, de gemeenten en waterschappen. Deze lichamen zijn openbaar omdat er een zekere ‘democratische legitimatie’ is. Een deel van de personen die worden bestuurd door openbare lichamen (personensubstraat) kunnen indirect invloed uitoefenen door hun stemrecht.

Op zoek naar de ambtenaar in F. Springer

.

springer3Lang voordat ik wist dat ik als ambtenaar door het werkende leven zou gaan, las ik het werk van F. Springer. Hij kwam in het kader van het Boekenweekgeschenk naar onze middelbare school en ik herinner me dat hij voldeed aan het beeld van een schrijver. Hij wekte niet zozeer sympathie op, maar bewondering. Gewend aan Mulisch op televisie paste Springer in het beeld van de Schrijver: gedistingeerd, wat afstandelijk, man natuurlijk. Later zou ik hoogleraren treffen die ook aan dit beeld voldoen. Ook veelal schrijvers natuurlijk en wat verstrooid.

Het is moeilijk voor te stellen dat juist Springer de meeste jaren van zijn werkend bestaan heeft doorgebracht in moeilijke omstandigheden waar  vooral een praktische instelling gewenst was. Papierschuiven, dat wilde de ambtenaar Carel Jan Schneider nou juist niet. Het was letterlijk een voeten-in-de-klei-type.

Jaren later pakte ik de boeken van F. Springer er weer bij. Inmiddels lees ik heel andere dingen dan vroeger. Vroeger vond ik de boeken van Springer vooral spannend. Nu begon ik de onrust te voelen bij sommige personages. De personen die de publiek zaak willen dienen maar zich afvragen of de weg die door de superieuren werd bewandeld nou wel de juiste was. De ongelooflijk grappige manier, vaak zit het venijn bij Springer in de bijzin, waarop formeel beleid wordt uitgelegd.

Nu wil ik op zoek gaan naar de ambtenaar in F. Springer. Wat schreef Carel Jan Schneider in interne documenten? Is daar iets terug te vinden van de toon van F. Springer, zijn betrokkenheid en zijn eigen mening?

Ook in deze tijd zou dit heel leerzaam kunnen zijn. Laatst adviseerde de Raad van Openbaar bestuur dat er voldoende ruimte moet zijn ‘voor ambtenaren om hun opvattingen over beleidsonderwerpen te uiten, ook als hun boodschap een lastige is’. En in De Correspondent werd de vraag gesteld of het in een volwassen democratie goed is als ambtenaren zich laten horen.

Vandaar mijn zoektocht naar de ambtenaar in F. Springer. Zo vond ik dit pareltje. Schneider vraagt om een andere invulling van de door Nederland gewenste pacificatie in de Baliemvallei in Nieuw Guinea. ‘Ik weet zeer goed dat, gezien de huidige personeelssituatie bij de Dienst van Binnenlandse Zaken, mijn bovenstaande voorstel ridicuul zal klinken, doch het lijkt de enige weg die tot vreedzame voltooiing van de pacificatie en verdere consolidatie leidt […]

Waarom een pareltje? Afgezien van het prachtige taalgebruik zien we hier competenties die ook nu terugkeren in de functieomschrijvingen van de ideale ambtenaar: gevoel voor bestuurlijke verhoudingen, bewustzijn van de belangen van de organisatie, maar ook de competentie ‘stevig’.

Vorige week heb ik een verzoek ingediend bij Buiza voor het inzien van documenten. Alleen een kniesoor zou kunnen opmerken dat dit alles valt onder Soggen (studie-ontwijkend-gedrag) omdat ik natuurlijk mijn proefschrift moet afronden.

Update

Inmiddels heb ik op de website KNAW Huygens ING documenten gevonden uit de tijd waarover De Stille Trom is geschreven. Carel Jan Schneider was gestationeerd in Nederlands Nieuw Guinea en heeft als controleur een rapport geschreven over de zaak Gonsalves. Rolph Gonsalves, later PG Zware criminaliteit, had met harde hand opgetreden en werd beschuldigd van het vermoorden van leden van de locale bevolking. Aan Schneider werd opgedragen hier een rapport over te schrijven. Helaas bevindt dit rapport zich niet tussen de stukken. (In dit stuk wordt er naar verwezen). Wel zijn er veel documenten over de zaak Gonsalves en zo kunnen we nagaan hoe het bestuur invloed uitoefende om het OM, beter gezegd de heer von Meyenfeldt, te bewegen de vervolging van Gonsalves te staken. Daarover, alsmede over de vraag waarom in de jaren ’90 plots de Gonsalvesaffaire op kon komen,  is meer te lezen op de site van de familie Von Meyenfeldt. Meer over de huidige situatie in dit artikel in De Correspondent

 

 

Geautomatiseerde overheidsbesluiten, profielen en artikel 42 Wbp.

Artikel 42 Wbp leidt een wonderlijk en slapend bestaan. Wonderlijk omdat deze bepaling in het privacyrecht voor de overheid voortdurend lijkt te worden opgerekt. Slapend omdat in het bestuursrecht deze bepaling niet wordt ingeroepen voor situaties waarin die juist wel van toepassing zou zijn en bescherming biedt aan burgers.

In deze blog zullen we analyseren wat artikel 42 Wbp beoogt. Van daaruit zullen we onderzoeken welke vormen van overheidshandelen begrensd worden door artikel 42 Wbp en op welke wijze deze ook in het bestuursrecht rechtsbescherming zou kunnen bieden in een wereld waarin profiling, big data en risicomeldingen hoge verwachtingen wekken.

Wat staat er eigenlijk in artikel 42 Wbp?

Niemand kan worden onderworpen aan een besluit waaraan voor hem rechtsgevolgen zijn verbonden of dat hem in aanmerkelijke mate treft, indien dat besluit alleen wordt genomen op grond van een geautomatiseerde verwerking van persoonsgegevens bestemd om een beeld te krijgen van bepaalde aspecten van zijn persoonlijkheid.

Er zijn twee uitzonderingen mogelijk op dit wettelijk verbod:

  • Als het gaat om het sluiten van een overeenkomst kan een besluit (geen besluit als in de Awb) genomen worden mits aan het verzoek van betrokkene is voldaan en zo niet, mits hij van te voren in de gelegenheid is gesteld zijn zienswijze naar voren te brengen.
  • Als het gaat om een besluit dat zijn grondslag vindt in een wet en daarin maatregelen zijn vastgelegd die strekken tot bescherming van het gerechtvaardigde belang van de betrokkene.

Laten we eerst kijken naar het verbod. De verbodsbepaling uit de Wbp is gebaseerd op artikel 15 van de Richtlijn 95/46 die in de hele EU geldt. In deze bepaling is voorgeschreven dat lidstaten ervoor moeten zorgen dat ‘aan ieder het recht wordt toegekend niet te worden onderworpen aan een besluit waaraan voor hem rechtsgevolgen zijn verbonden of dat hem in aanmerkelijke mate treft en dat louter wordt genomen op grond van geautomatiseerde gegevensverwerking bestemd om bepaalde aspecten van zijn persoonlijkheid te evalueren.’

In de originele tekst van de Richtlijn spreekt men bij artikel 15 over ‘automated individual decisions’. Zie hier de oorzaak van het wonderlijke bestaan. Gebruik de woorden ‘geautomatiseerde besluitvorming’ en de privacyjurist denkt ’42 Wbp’!

Wat zijn geautomatiseerde besluiten?

Er zijn in de uitvoering door bestuursorganen twee vormen van geautomatiseerde besluitvormen te onderscheiden:

  1. besluiten die door expertsystemen worden genomen op basis van een samenspel van verzamelde gegevens (variabelen) en beslisregels (de algoritmen). Deze systemen kun je vergelijken met een ambtenaar die een aangifte handmatig beoordeelt; het checkt de gegevens en gaat aan de slag met (plat gezegd) <als X dan Y > formules. De uitkomst is een beschikking van een bestuursorgaan waartegen de gebruikelijke rechtsmiddelen openstaan. Op tal van terreinen nemen computers de primaire besluiten. Je kunt denken aan de studiefinanciering, toeslagen, WOZ-beschikkingen en boetes voor te hard rijden.
  2. Het is technologisch ook mogelijk om besluiten te nemen of feitelijk te handelen op basis van profielschetsen. Je hebt bijvoorbeeld schulden gemaakt in het verleden en dat is voor een telefoonmaatschappij reden om aan te nemen dat het risico te groot is om je direct een abonnement te verlenen. Of je krijgt een bepaalde functie niet omdat je niet door een screening komt. Dit kun je in de analoge wereld vergelijken met een mens die risico’s moet inschatten; geef ik iemand wel of geen lening? Krijgt iemand wel of geen verklaring omtrent gedrag?

In mijn visie worden in het eerste geval wel geautomatiseerd persoonsgegevens verwerkt, maar kun je niet zeggen dat deze bestemd zijn om een beeld te krijgen van bepaalde aspecten van zijn persoonlijkheid. Want dat impliceert immers dat er gewerkt wordt met profielen, schetsen van iemands persoonlijkheid door het evalueren van gedrag.

Een voorbeeld. Stel dat de WOZ-waarde van uw huis bepaald moet worden. Dit gebeurt geautomatiseerd en aan de hand van een aantal, vrij droge, data; referentiehuizen, ligging, oppervlakte en economische gegevens. Dit is geautomatiseerde besluitvorming maar zonder profielen. Artikel 42 Wbp is niet van toepassing, wel de Awb.

Maar stel nu dat besloten wordt om een aantal WOZ-waarde beschikkingen anders wil behandelen omdat het bestuur af wil van de massale bezwaarzaken. Men kan dan in de systemen uitzoeken welke soort mensen (leeftijd, geslacht, gezinssamenstelling), in welke wijk en met welke gemiddelde WOZ-waarden het hoogste aantal bezwaarschriften heeft ingediend bij het bestuur en op basis daarvan die groep selecteren die men vast de wind uit de zeilen wil nemen. Er wordt dan statistiek bedreven op basis van gedragskenmerken en kenmerken die onveranderlijk zijn om een uitspraak te doen over de kans op het indienen van een bezwaarschrift. Dit is een gegevensverwerking die bestemd is om een beeld te krijgen van bepaalde aspecten van iemands persoonlijkheid. Artikel 42 Wbp ziet op deze vorm van profielen.

Het is niet altijd duidelijk; zo verschilden de wetgever enerzijds en het CBP en Raad van State anderzijds van mening over de gegevensverwerking die gebruikt werd om vast te stellen of iemand in aanmerking kwam voor een tegemoetkoming toegekend door het CAK. De wetgever vond het geen profielen, CBP en Raad van State (Advies W13.10.0172/I) wel. In de meest principiële rechtszaak die hierover is gevoerd werd echter niet aan de bestuursrechter gevraagd om hier een oordeel over te geven, hoewel het materiele geschil juist de onderliggende kwalificaties betrof.

Werken met profielen bij de overheid? Niet altijd een kwestie voor artikel 42 Wbp

Vervolgens het tweede misverstand; zodra het woord ‘profielen’ valt, denken we aan het verbod van 42 Wbp. Maar ook dat is te snel.

Het werken met geautomatiseerde profielen komt dus pas te vallen onder het verbod van 42 Wbp als dit in de verhouding overheid-burger leidt tot een besluit in de zin van de Awb of een handeling die iemand in aanmerkelijke mate treft. Is dat het geval, dan regelt artikel 42, vierde lid, van de Wbp ook dat de verantwoordelijke de betrokkene de logica meedeelt die ten grondslag ligt aan de geautomatiseerde verwerking van hem betreffende gegevens.

profilee

Wat als bestuursorgaan geautomatiseerd beschikkingen neemt gebaseerd op profielen?

Onomstreden is dat zodra er een besluit genomen wordt enkel op basis van een profiel we aanlopen tegen het verbod. En nu wordt het bestuursrechtelijk erg boeiend. Want volgens de MvT geldt voor burgers die geconfronteerd worden met dergelijke beschikkingen, de bescherming van artikelen 4:7 en volgende van de Awb.

Artikelen 4:7 Awb ev behelzen een nadere invulling van het zorgvuldigheidsbeginsel en houden in dat de belanghebbende zelf, voorafgaand aan het besluit, zijn visie mag geven. Op die manier dient de computer, of het profiel, dus als een intern advies en kan de belanghebbende een ander licht op de zaak geven. Het achterliggende idee van de artikel 15 van de Richtlijn is dat de menselijke waardigheid vereist dat dergelijke beslissingen niet door de computer genomen kunnen worden.

De verwijzing naar artikel 4:7 van de Awb zou dus neerkomen op een verbod op het geautomatiseerd nemen van beschikkingen gebaseerd op profielen. Het kan immers niet volledig geautomatiseerd zijn als iemand eerst zijn visie mag geven. Zie hier ook het idee dat er dan een menselijke tussenkomst is gegarandeerd. Goed nieuws dus, zou u denken.

Maar, nu komt het: in artikel 4:12 Awb is geregeld dat het vragen om een zienswijze achterwege kan blijven bij beschikkingen over financiële aanspraken (verreweg het leeuwendeel van de te nemen beschikkingen) mits de nadelige gevolgen daarvan ongedaan gemaakt kunnen worden.

Met andere woorden; er was eerst een wettelijk verbod, toen een bevoegdheid met als voorwaarde dat eerst om een zienswijze wordt gevraagd (feitelijk is het dan onmogelijk om geautomatiseerd te besluiten), om uiteindelijk alsnog tot een bevoegdheid tot komen (waarbij vertrouwd wordt op de bescherming van de bezwaarprocedure).

Het zou interessant zijn te onderzoeken of Nederland hiermee eigenlijk wel op een juiste manier artikel 15 van de Richtlijn heeft geïmplementeerd. Bijvoorbeeld bij rechtszaken over beschikkingen gebaseerd op CBBS, software die door UWV gebruikt wordt om de functie vast te stellen die iemand nog zou kunnen vervullen.  Volgens annotator prof. Overkleeft-Verburg zou voor CBBS het verbod van 42 Wbp gelden.

Bij het uitvoeren van Europees recht door een Nederlands bestuursorgaan op basis van profielen wordt het nog pregnanter omdat dan het recht op behoorlijk bestuur uit artikel 41 van het Handvest grondrechten geldt. Dit recht houdt namelijk in een recht van eenieder om te worden gehoord voordat jegens hem een voor hem nadelige individuele maatregel wordt genomen.  

Wat als het bestuursorgaan een betrokkene in aanmerkelijke mate raakt gebaseerd op profielen?

In het bestuursrecht is vervolgens interessant hoe het zit met het verbod om iemand te onderwerpen aan een besluit dat hem in aanmerkelijke mate treft. Ik vermoed dat we het dan hebben over feitelijk handelen of voorbereidingshandelingen van een besluit.

Niet elk feitelijk handelen dus, maar handelen dat iemand in aanmerkelijke mate treft. Denk aan SyrI; na het loslaten van risicomodellen op een berg aan persoonsgegevens over mensen met een uitkering, komt er een ‘risicomelding’. Hoewel negatief over de opzet en omvang van SyRI, noemt de Raad van State artikel 42 Wbp niet. (Zie het advies Raad van State afdeling advisering; W12.14.0102/III.) Toch zou SyRI wel eens onder artikel 42 Wbp kunnen vallen.

Het ligt, zo verwacht ik, dan ook aan de methode van onderzoek NA de melding of we kunnen spreken van het ‘iemand in aanmerkelijke mate’ treffen. Een administratieve check is iets anders dan een huisbezoek. In het geval van SyRI echter komt iemand bovendien na een melding in een register te staan, met alle risico’s van dien. Wordt iemand dan in aanmerkelijke mate geraakt?

Bij het meest vergaande feitelijk handelen na een risicomelding, denk ik aan het afleggen van huisbezoeken. Huisbezoeken is eufemistisch taalgebruik voor onaangekondigd onderzoek in iemands woning. Dit lijkt mij zeker het in aanmerkelijke mate raken van een betrokkene.

Huisbezoeken die op basis van risicoprofielen worden afgelegd kennen we. Uit de jurisprudentie van de CRvB over de controle van rechtmatigheid van studiefinanciering of bijstand.

Uit het artikel van Van den Berg en Van der Leek ‘Studiefinanciering: de uitwonendencontrole’ JBPlus 15/2 blijkt dat DUO risicoprofielen hanteert om te kunnen bepalen welke student met een uitwonende beurs vereerd wordt met een bezoek:

Een risicoprofiel is een set van kenmerken die een verhoogde kans geeft op (vaststelling van) regelovertreding. Hoewel de minister geen inzage geeft in de technische aspecten van de profielen, is wel duidelijk dat daarbij een rol spelen de afstand tussen het adres van de student en het adres van zijn ouders, de afstand van deze adressen tot de school, het aantal inschrijvingen op een adres in relatie tot familieverhoudingen.

Opvallend. Vooral omdat in de rechtszaken hierover artikel 42 Wbp geen rol speelt. Opvallend is ook dat bestuursorganen dus de logica niet mededelen aan betrokkenen, noch de bestuursrechter.

Maar, is de onbekendheid met artikel 42 Wbp erg?

Ik denk het wel, artikel 42 Wbp geeft waarborgen die passen bij de toegenomen kracht van (big) data verrijking. Ook het feit dat de logica niet voor de betrokkene geheim mag worden gehouden (artikel 42, vierde lid, van de Wbp) terwijl in de meeste uitspraken de rechter het betoog van het bestuur volgt dat dit juist wel geheim moet blijven, laat zien dat de huidige bescherming geen gelijke tred houdt met de technologische mogelijkheden.

Het gaat om het terugbrengen van de balans. Er zijn genoeg instrumenten: vanuit de EU Richtlijn (menselijke waardigheid), artikel 4:7 en 4:8 van de Awb (zorgvuldigheidsbeginsel) en artikel 41 van het Handvest (behoorlijk bestuur) welke allen steeds uitkomen op dezelfde waarborgen: na het wiskundige rekenresultaat over de kans op een risico, is het aan de belanghebbende zijn visie van het verhaal te geven.

Ruzie aan de keukentafel? Nieuwe vormen van geschilbeslechting voor sociaal domein en wijzigingen in de Awb.

Volgens de reclamemakers van Ikea zijn keukentafels ‘hotspots’ in huis, zelfs wanneer er niet gegeten wordt. Nu was de keuken van zichzelf al enige tijd het centrale middelpunt van uw leven. Wist u dit niet?

Dan moet u Jacq. Veldman maar eens lezen. Haar analyse van de hedendaagse woonbladen: De keuken is niet langer de plek waar je zo’n beetje suf voor je uit staat te wokken. Het is een ‘totaalbeleving’ van ‘thuiskomen’, ‘rust’ , ‘de maaltijd delen’ en ‘een heleboel warmte’.

En nu staat er in die ‘totaalbeleving’ dus een ‘hotspot’: de Keukentafel.

Niets is te gek voor aan de Keukentafel. Volgens Edith Schippers kun je met elkaar je zorgkosten bespreken aan de keukentafel; ‘nee schat, vorige keer na het bungeejumpen heb je al 6 sessies bij de fysio gekregen, nu is het tijd voor mijn tennisarm’.

Of je leest er een goed boek en gaat daarna een goed gesprek voeren. ‘Filosoferen aan de keukentafel’ .

Van oudsher was de functie van de keukentafel een plek om aan te eten.

avondmaal

Het is duidelijk: de keukentafel is niet zomaar een tafel. Het is een symbool geworden, doorontwikkeld zo u wilt, of zelfs terecht gekomen in een function-creep.

In het sociaal domein is het de tafel waaraan de overheid met mensen gesprekken voert. De overheid komt naar u toe! Voor een ‘Keukentafelgesprek’. Een gesprek om gezamenlijk naar oplossingen te zoeken voor het thuis kunnen wonen of mee kunnen doen in de samenleving.

Tijdens het keukentafelgesprek kijk je samen wat je persoonlijke situatie is, waar je ondersteuning bij nodig hebt, en wat oplossingen zouden kunnen zijn. Jij mag zeggen waar je behoefte aan hebt. Het is een gesprek van mens tot mens.’ (afkomstig van Huis voor de zorg)

Toegegeven, dit klinkt goed. Beter dan met veel pijn en moeite naar een loketje schuifelen met je rollator om daar een lijstje af te komen vinken. Om vervolgens weer naar een ander loket te worden gestuurd. Ik ken iemand die zich tijdelijk maar een paar meter met rollator kon verplaatsen en daarom een parkeervergunning wilde aanvragen. Die aanvraag mocht zij alleen in persoon indienen, door naar het gemeentehuis te komen. Maar dat kon zij nou net niet. Een gehandicaptenparkeerkaart kon zij ook niet aanvragen vanwege haar tijdelijke situatie. Iemand die dan bij jou thuis komt is echt een uitkomst.

Maar de keuken is ook een plek waar de emoties en de temperatuur erg hoog kunnen oplopen. En dat is niet alleen het geval als Gordon Ramsey binnen komt vallen.

Niet voor niets is het gezegde: If you can’t stand the heat, get out the kitchen.

Want wat nou als na het keukentafelgesprek blijkt dat de geboden hulp niet de oplossing is voor je problemen? Dan kan het zomaar zijn dat je vervolgens weer ouderwets van het ene loket naar het andere loket wordt gestuurd.

Op de boeiende VAR-vereniging voor bestuursrecht studiemiddag op 9 oktober jl., werd het voorbeeld genoemd van een mevrouw die een beschikking had gekregen waarop stond dat zij het arrangement kreeg ‘schoon huis’. Tijdens de eerste wekelijkse schoonmaak stopte de hulp na 22 minuten werken. Na een verbaasde vraag of het huis dan nu al schoon was, kwam de reactie dat de hulp per huishouden maximaal 22 minuten mag schoonmaken. Wat dan te doen? Klagen bij het schoonmaakbedrijf? Of bij de gemeente? Maar hoe? Een bezwaar indienen tegen de beschikking zal lastig zijn want is het arrangement ‘schoon huis’ altijd 22 minuten? En zou je eigenlijk ‘schoon huis plus’ nodig hebben? Bestaat dat eigenlijk? En bovenal; wat is eigenlijk ‘schoon’? foto.beslisboomschoonmaken

De juristen gingen helemaal los; is ramen lappen aan de buitenzijde luxe of noodzaak? En hoe vaak dan eigenlijk? En is een zandstorm dan misschien een afwijking waard? Kan een bestuursrechter (die zelf waarschijnlijk jaren prima functioneerde in een onfris studentenhuis) dat eigenlijk wel beoordelen of moeten we dan mensen hebben a la Rob Geus?

Het is duidelijk dat we in de Awb, met een hoofdrol voor een besluit, een afzonderlijke klacht-en bezwaarprocedure en formele rechtskracht, weinig instrumenten vinden om écht behulpzaam te zijn bij een geschil of verschil van inzicht tussen de burger en de gemeente (uitvoerder). En dat is toch wat het procesrecht als primaire taak zou moeten hebben. Sterker, als enige taak (#youhadonejob)!

Maar ook de praktijk is door de jaren heen een formalistische richting ingeslagen. Zoals Boudewijn de Waard in zijn afscheidsrede ‘Voortgaande heroverweging’ sprak: ‘Met procedurele regels zo zou moeten worden omgegaan, dat zij niet onnodig in de weg staan aan het realiseren van materieelrechtelijke aanspraken.’ Helaas, zo constateerde hij is dat niet het geval.

Voor het sociaal domein denkt men aan twee oplossingen. Voor insiders is het opvallend dat deze niet van de bedenkers van het sociaal domein komen, VWS en SZW maar van BZK en V&J.

Oplossingen die zoals nestor Michel Scheltema de VAR-leden voorhield, niet alle problemen zullen gaan oplossen. Maar, nietsdoen, zo waarschuwde hij, zal leiden tot marginalisering van het bestuursrecht. En als dat gebeurt is de rechtsbescherming voor de burger een bladzijde uit onze recente geschiedenis. Juist niets doen leidt tot een te grote afstand tussen de belevingswereld en de werkelijkheid van mensen en de systeemwerkelijkheid. De rechtsbescherming die dan overblijft is louter theoretisch.

De eerste oplossing is een oplossing voor de korte termijn; een Handleiding geschilbeslechting sociaal domein. Deze wordt geschreven in opdracht van BZK, (Prettig contact met de overheid) door onder andere Bert Marseille. Zoals hij zelf vertelde in een interview ‘De gemeente, de burger en de duivel’:

Verbazingwekkend genoeg zien we in de praktijk nogal eens dat gemeenten de rechtsbescherming van burgers ontoegankelijk maken. Ze schuiven het weg naar private uitvoerders’.

De tweede oplossing is een oplossing voor de langere termijn. Wijzigingen van de Awb, speciaal voor Jeugdwet, de Participatiewet en de Wet maatschappelijke ondersteuning 2015.

Daarbij denkt de ambtelijke werkgroep aan 3 voorstellen:

1.Het gehele geschil kan aan de bestuursrechter worden voorgelegd. Nu is dat alleen per beschikking en is er een verschil tussen de bezwaarprocedure tegen beschikkingen, eventueel gevolgd door een procedure bij de bestuursrechter en de klachtenprocedure bij de (gemeentelijke)Ombudsman. Dit maakt dat de feitelijke uitvoering van een beschikking soms losgezongen is van de beoordeling door de rechter. Door dit te veranderen wil men zorgen voor een integrale behandeling van het geschil en het zoeken naar een integrale oplossing.

Men verwacht dat dit onder het huidige regime lastig te bereiken valt door de versnipperde besluiten en pragmatisme in de uitvoering. Door deze verandering kan het bestuursorgaan in ieder geval zijn verantwoordelijkheid niet afschuiven en kan het geheel, (integraliteit is juist de kernbedoeling in sociaal domein), door de rechter bekeken worden.

Dit houdt ook verband met de eisen die nu aan het beroepschrift gesteld worden. Hierdoor kan het voorkomen dat iemand net niet gelukkig genoeg was in het preciseren van zijn grieven. Als hij, eenmaal op zitting, iets verwoordt wat hem dwars zit maar niet in het beroepschrift stond, vinden sommige bestuursrechters dat een ‘gevalletje tardief’, je bent te laat. Volgens De Waard mag in het bestuursrecht wel meer gekeken worden naar het hockey, in het bijzonder de taakopvatting van de videoscheidsrechter. Als hockeyspeler kun je je beklagen over een beslissing van de scheidsrechter. Het is handig als je hierbij aangeeft wat er volgens jou niet goed is beoordeeld, maar de videoscheids is hier niet aan gebonden. Deze kan een klacht die op een bepaalde grond is ingediend, om een andere reden honoreren.

2.Verlengen van de bezwaartermijn; van zes weken naar zes maanden. Nu moet de burger binnen zes weken na ontvangst van de beschikking bezwaar maken. Het idee is om dit te verlengen met zes maanden. Hiermee hoopt men ervoor te zorgen dat je niet je rechten verliest als je eerst op een laagdrempelige manier je ongenoegen uit. Het direct instellen van bezwaar is nu vaak de enige manier, met als nadeel dat dit ook escalerend werkt en daarmee juist contra-productief is.

3. Andere beoordeling door de bestuursrechter. Ex nunc of ex tunc? Sudoku’s voor juristen, onbegrijpelijk voor gewone mensen. Het betekent dat als een geschil op tafel bij de bestuursrechter ligt, hij het besluit moet beoordelen naar de stand van het recht en de feiten zoals die op het moment van het besluit (op bezwaar) bekend waren. (Tenzij je trouwens tussendoor bent overleden. Dan verlies je procesbelang.)

Het houdt in dat in het sociaal domein de bestuursrechters, als het aan de werkgroep ligt, voortaan met de ‘kennis van nu’ aan geschilbeslechting mogen doen. Dat heeft als groot voordeel dat het geschil echt beëindigd kan worden omdat de veranderde omstandigheden meegenomen mogen worden. Mogelijk doelt men ook op de werkwijze van de videoscheidsrechter bij hockey. En het betekenen misschien ook dat voortaan uitspraken sneller uitgevoerd gaan worden. Zie daarvoor het onderzoek van Annika van der Veer (Slagvaardige geschilbeslechting in het bestuursrecht).

Er zal nog veel water door de Rijn stromen voor we deze voorstellen in het Staatsblad zullen zien. Maar de boodschap die hieruit spreekt is misschien nog wel veel belangrijker. Die zouden alle bestuursrechtjuristen zich mogen aantrekken. Want het is wel erg droevig gesteld met het bestuursrecht als de goede plannen van nu alleen afkomstig zijn van mannen die met pensioen zijn gegaan.

Of komt het omdat zij langer aan een keukentafel kunnen zitten nadenken?


Uitgebreidere informatie over de plannen staan hier.

Een blog van mezelf over meer bezieling in bestuursrecht.

Artikel over het geheimschrift in uitspraken van bestuursrechters.