Tagarchief: Awb

Algoritmes en besluiten bij de overheid. Wat heeft het Franse bestuursrecht wat wij niet hebben?

Openbrief aan de Tweede Kamer, commissie BZK-digitalisering, ook verschenen als blog op openrecht.nl  

De overheid moet met z’n tijd mee. Gezien de forse taakstellingen waar de overheid voor staat is het niet verwonderlijk dat reikhalzend wordt gekeken naar veelbelovende nieuwe technologieën.

Hierdoor verandert de uitvoering van wettelijke taken en ook de rechtsbescherming voor burgers. Het is mede aan u of u die verandering op zijn beloop laat of dat u wilt ingrijpen of bijsturen. Soms lijkt het erop dat het niet zozeer een kwestie lijkt van niet willen reguleren, maar meer een kwestie van niet weten hoe. Er wordt dan zeer bedenkelijk gekeken, met hoofden geschud en gezegd dat we daar nog maar eens over moeten nadenken of een onderzoek moeten afwachten.

Maar zo ingewikkeld hoeft het allemaal niet te zijn. Ik wil u graag wijzen op Frankrijk. Frankrijk heeft zich al gebogen over algoritmische rechtstoepassing door de overheid en de bescherming van burgers. Hier kunnen we ons voordeel mee doen. Misschien zelfs ook voor het domein buiten de overheid.

 

france-1936142_640

Wat is er geregeld?
Ten eerste geldt dat als de overheid een besluit neemt op basis van een algoritmische behandeling (sur le fondement d’un traitement algorithmique), dit moet worden meegedeeld aan de belanghebbende. Zie artikel L 311-3-1 Code des relations entre le public et l’administration, toegevoegd door artikel 4 van de Loi pour une Republique numerique, Loi n° 2016-1321.

Hoe deze mededeling moet luiden is nader ingevuld. Zo moet aan belanghebbende ook het doel worden benoemd dat wordt nagestreefd met het besluit en is bepaald dat belanghebbende recht heeft op informatie in begrijpelijke vorm over

– de mate waarin en de wijze waarop de algoritmen hebben bijgedragen aan de besluitvorming,

– welke gegevens gebruikt zijn en wat de bronnen daarvan zijn,

– wat de parameters zijn, hoe deze zijn gewogen en hoe deze in de situatie van de belanghebbende zijn toegepast en

– tot welke uitvoeringshandelingen de algoritmische behandeling heeft geleid.

Zie artikel R 311-3-1-2, Code des relations entre le public et d’administration, bij Décret van de minister-president, Décret n° 2017-330.

Vervolgens heeft de wetgever zich gebogen over de consequenties van artikel 22 Algemene verordening gegevens bescherming (AVG) voor het Franse bestuursrecht. Het wetsvoorstel dat daarover in de maak was, werd bediscussieerd en leidde tot het voorleggen van de geschilpunten aan de Conseil Constitutionel. Deze deed op 12 juni 2018 uitspraak, ECLI:FR:CC:2018:2018.765.DC.

De Conseil Constitutionel overwoog dat het voorstel in overeenstemming is met de Grondwet omdat de wet niet toestaat dat er regelgevende bevoegdheden aan de bestuursorganen wordt gegeven. Er wordt alleen toegestaan dat het bestuur een volledig geautomatiseerd besluit mag nemen dat gebaseerd is op regels en criteria die van tevoren door het bestuur zijn gedefinieerd (overweging 69).

De Conseil Constitutionel verduidelijkt vervolgens dat de verplichting dat het bestuur moet kunnen uitleggen hoe het algoritme werkt, ook een garantie vormt tegen het gebruik van ‘zelflerende’ algoritmen. Algoritmen dus die zelf de regels veranderen. Dit omdat de overheid die besluiten neemt enkel op basis van een algoritmische behandeling, deze algoritmen moet controleren en valideren (overweging 71).

Ook legt de Conseil Constitutionel uit dat als het bestuur in bepaalde gevallen een beroep mag doen op het geheimhouden van de werking van de algoritmes, dit ook betekent dat het bestuursorgaan het besluit niet alleen (meer) mag baseren op de algoritmische behandeling (overweging 70).

In artikel 21 van de Loi n° 2018-493 du 20 juin 2018 relative à la protection des données personnelles is vervolgens een belangrijke dimensie toegevoegd. Het ontbreken van de mededelingen op het besluit heeft een harde consequentie: het besluit verliest zijn geldigheid (à peine de nullité).

Ten slotte heeft de Franse wetgever bepaald dat wanneer de belanghebbende een rechtsmiddel inroept tegen een besluit (denk aan het maken van bezwaar) de behandeling en besluitvorming door de overheid niet alleen door een algoritme mag worden gedaan.

En daarmee doet Frankrijk iets waar ook in Nederland veel behoefte aan is; aanpassen en reguleren van nemen van besluiten door technologie via het algemeen bestuursrecht.

Frankrijk laat zien dat je er nog niet bent met alleen de AVG. Dit is ook logisch. Bestuursorganen nemen (eenzijdige) besluiten. Belanghebbenden die geraakt worden door een besluit genieten rechtsbescherming. Eigenlijk is het niet meer dan logisch dat de belanghebbende die een besluit krijgt dat op basis van een algoritmische behandeling is genomen, wordt geïnformeerd over de wijze van totstandkoming. Dit is veel specifieker dan de verplichtingen uit de AVG (artikel 13 en 14 AVG).

Overigens hebben we wel in Nederland richtinggevende uitspraken van de bestuursrechters, maar daarmee is het nog geen gemeengoed. Zie de Afdeling bestuursrechtspraak van de Raad van State 17 mei 2017, ECLI:NL:RVS:2017:1259 en Hoge Raad 17 augustus 2018, ECLI:NL:HR:2018:1316.

De ontwikkelingen gaan snel en de overheid zit niet stil. Frankrijk laat zien dat reguleren van het gebruik door wetgeving een optie is.

Het grote voordeel is de actieve informatieplicht per besluit en de verplichting om concreet te worden. Dit is nodig omdat het hier een toepassing betreft die juist als kenmerk heeft dat het zo verborgen is en onzichtbaar.

Het mooie van de Franse oplossing is bovendien dat het erop lijkt dat als het besluit weliswaar door een ambtenaar is genomen maar alleen doordat een algoritme deze persoon als een risicovolle burger heeft aangemerkt, dit ook moet worden meegedeeld.

Juridisch is dit te zien als het voorbereiden van een besluit. Maar omdat je als burger niet weet waarom jij in aanmerking komt voor een controle, weet je niet of dit wel in overeenstemming is met de regels.

Met deze oplossing, namelijk dat dit moet worden aangegeven op het besluit, kan de burger en de rechter deze voorbereidingshandelingen ook toetsen op naleving met de beginselen van behoorlijk bestuur en het verbod van discriminatie.

En het wordt nog beter: het Franse Etalab werkt aan de concrete adviezen voor Franse bestuursorganen. Ook deze zijn voor de Nederlandse bestuursorganen erg goed over te nemen.

Nu weet u ook wat het Franse bestuursrecht heeft, en wij niet. Het is immers aan ons mensen om te bepalen hoe wij technologie willen inzetten.

Advertenties

Lezing voor de Dag van de FG: Denk bij het toepassen van de AVG aan de lotgevallen van Algemene wet bestuursrecht

Wat ongelooflijk fijn om hier op de eerste dag van de FG u allemaal toe te mogen spreken. Eervol ook! En fantastisch om te zien dat u met zovelen bent gekomen naar dit theater. Dank aan de organisatoren van de Ap voor dit initiatief en deze primeur.

Van binnen ben ik erg blij want vroeger wilde ik ‘Madonna’ worden. Dat is niet helemaal gelukt, dus moet ik het hebben van het praten over gegevensbescherming als second best. Second best, maar erg belangrijk en dat hoef ik hier niet te vertellen. En dat is ook wel eens relaxed. Meestal bevind ik me in gezelschappen waarin mensen denken; ‘oh, daar heb je haar weer….’ Privacy zou, dit is mij letterlijk gezegd, ‘oud’ denken zijn. ‘Mensen zetten toch zelf alles op Facebook?’

En meer super boeiende persoonlijke opvattingen passeren de revue. Dit geldt echt niet alleen voor de bescherming van persoonsgegevens. Het is een fenomeen van deze tijd dat juristen niet meer aan de knoppen zitten en dat het recht minder invloed heeft op de praktijk als vroeger.

Daar staat tegenover dat data en dataficering een steeds grotere invloed heeft. Er wordt minder gestuurd door het recht maar juist meer door data. Denk maar aan de regulering van het verkeer: we kennen de Wegenverkeerswet en de Algemene plaatselijke verordening als reguleringsinstrumenten. Maar een beetje stad werkt met ‘slimme stoplichten’ om het verkeer beter te laten doorstromen. Bij grote evenementen zitten bestuurders in een control room omgeven door schermen waarin zij live meekijken met de stromen bezoekers in de stad. Om zo te kunnen ingrijpen mocht het ergens misgaan.

Dit leidt tot de paradox dat juristen belangrijker zijn dan ooit. Als de leus is: ‘niet omdat het moet maar omdat het kan’ was dat voorheen nog niet zo’n probleem. Maar nu kán er veel meer. En dus moeten we hard rennen om erbij te blijven.

En toen kwam daar de AVG. Leuk! Voor iemand die als ik naar eigen zeggen ‘al 100 jaar in de bescherming van persoonsgegevens werkt’ was dat ‘natuurlijk’. Ik werkte in de vorige eeuw voor de voorouder van de huidige Ap; de Registratiekamer. Peter Hustinx was onze voorzitter. Wij hadden het over het Verdrag van Straatsburg (1981), de Edamse bijstandsmoeder (1987 (leuk uitlegfilmpje). We werkten met de Wet persoonsregistraties en daarna maakte ik de overgang mee naar de Wet bescherming persoonsgegevens.

Voor mij was de AVG een natuurlijke voortzetting van een bestaande praktijk; wat aanscherpingen hier en daar, codificatie van rechtspraak (Google/Spain) en zwaardere sancties. Een evolutie. Geen Revolutie. Maar ineens leek de AVG overal te zijn en de wereld te veranderen. Is dat zo?

De AVG is een wet die ons en andere mensen probeert te beschermen door onze persoonsgegevens te beschermen. Dat we er binnen de EU in geslaagd zijn overeenstemming te bereiken is een prestatie van formaat. De principes die nu de kern zijn van de AVG, komen voor een groot deel uit de traditie van de beginselen die Europa al veel langer kent maar vaak gebruikte voor de relatie overheid en burger. Het evenredigheidsbeginsel bijvoorbeeld (proportionaliteit), legaliteitsbeginsel (doelbinding) of fair play (fair). Een relatie die niet gelijkwaardig is vraagt om herstel van het evenwicht. Ontzettend goed nieuws dus: die AVG.

Tegelijkertijd baart de toepassing of interpretatie me grote zorgen: de AVG dreigt te verworden tot een bureaucratische papierwinkel en juist een belemmering te vormen voor mensen voor het leven van hun dagelijkse leven. Of zoals Van Zutphen onze Nationale ombudsman zegt: Van wie is die privacy eigenlijk?

En dit roept de parallel op met de Algemene wet bestuursrecht. Wat voor u de AVG is, is voor mij de Awb. Een wet (1994) die ook ook harmonisering als doel had. Een wet die uitspraken van rechters codificeerde. En dit allemaal om de positie van de burger te verbeteren omdat de relatie overheid en burger ongelijk is. Over de verplichte bezwaarfunctie zei minister Ien Dales destijds dat het essentieel is dat de overheid zijn fouten kan herstellen. Door dit via de interne bezwaarprocedure te doen zou men zich minder verdedigend opstellen. Externe instanties die meekijken leiden juist tot het dichtdoen van de luiken. En dat terwijl, zo zei zij, het een principieel recht is van elke volwassene om in eerste instantie in de gelegenheid te zijn, de eigen fouten te herstellen.

Maar toen prof. de Waard in 2011 de ervaringen van burgers, om wie het allemaal begonnen was, onderzocht, bleek dat er iets heel anders was gebeurd. Driekwart van de burgers die een bezwaarprocedure had doorlopen, had een (heel) negatief beeld. De oorzaken varieerden: het duurde te lang maar ook… bleek dat de bezwaarfunctie een soort rechtbankje spelen werd. De hoorzitting werd dan iets formeels bij een speciale commissie. En u raadt het al, ‘het beeld ontstond dat ambtenaren als terriërseen genomen besluit’ verdedigden.

In de jaren die daar opvolgden bleek vriend en vijand het eens over een ding; het was ietwat uit de hand gelopen in de toepassing van de Awb. Het werd een ‘ondergrens’. Een bepaling als: ‘dit moet je in ieder geval doen’ werd het maximaal haalbare: ‘het is dit en niet meer’. Bellen naar een burger? Maar dit staat toch niet in de Awb?

De godfather van de Awb prof. Scheltema kon dit alles slecht verdragen: het was ‘maar’ een wet, een systeem dat was bedacht. Door mensen. Geen systeem óm het systeem! Althans, zo herinner ik me dit van de viering van het 15-jarige bestaan van de Awb. Dat maakte diepe indruk op mij. Dat de schrijver van de wet dit zei. Waar was het ook allemaal ook weer om te doen geweest?

En wat zien we nu bij de AVG?

Scholen die een klassenfoto meegeven aan kinderen waarop alleen het gezicht is te zien van het kind. De rest van de kindjes hebben een zwartgemaakt gezicht.

Het hele doel van een klassenfoto is…het woord zegt het al: een foto van de klas! Klasgenootjes. Dat je over 10 jaar nog eens kunt kijken wie er bij je in de klas zat. En of die persoon veranderd is. Een dierbare herinnering misschien. Hopelijk nog veel later, een beeld van iemand die er niet meer is.

Ik las ook van een school die alleen nog foto’s maakt bij uitjes van de ruggen van kinderen. Of die de leerlingen vraagt de bowlingbal voor hun gezicht te houden bij foto’s van een bowlingwedstrijd.

Van geheel andere orde was mijn vakantie een paar weken geleden. Even geen AVG! Maar bij landing kreeg ik een brief van de reisorganisatie waar vet gedrukt stond dat ik geacht werd me op een bepaald tijdstip op een bepaalde dag te melden voor belangrijke informatie vanwege… veranderde privacywetgeving.

Wat? Was ik niet met vakantie? Vakantie betekent vrijheid! Vrijheid om mijn vakantie in te delen zoals ik het wil!

Nee hoor; keurig op de Hollandse etenstijd van 6 uur zat ik in een restaurant aan te horen hoe laat ik waar klaar moest staan voor de transfer. Omdat de reisleidster niet meer mocht weten welke klanten in welk hotel zaten moesten we elkaar mondeling spreken om informatie te krijgen.

Kortom. Mijn oproep aan u; leer van de tragiek van de Awb. Blijf bij de toepassing van de regels dicht bij de bedoeling daarvan. Het mooie van het recht is dat het dynamisch is. Rechtsontwikkeling stopt niet door publicatie van een wet. Sterker, dan begint het pas. En dat…is aan u!

 

 

Extra waarborgen voor burgers bij het vervangen van ambtenaren door computers.

Bij veel (vooral massale, routineuze financiële) overheidsbesluiten neemt de computer het besluit in plaats van de ambtenaar. Dit gebeurt al sinds de jaren ’70. De explosieve toename van het autobezit bijvoorbeeld plaatste de belastingdienst voor de taak om de uitvoering van de motorrijtuigenbelasting aan te passen aan deze nieuwe realiteit. Door automatisering kon de motorrijtuigenbelasting alsnog snel en goed uitgevoerd worden. Soms ook wordt wetgeving ontworpen met het doel dat de computer de wet kan uitvoeren. Het eerste voorbeeld van deze manier van wetgeven, in Duitsland ‘Automationsgerechtigkeit’ genoemd speelde in 1958 (Bing 2004, p.203). Zouridis liet in 2000 zien hoe ICT het juridische werk bij de overheid verandert en Marga Groothuis ging in 2004 in op mogelijke waarborgen bij geautomatiseerde besluiten vanuit het bestuursrecht en het privacyrecht.

clip-art-computer-clipart-1

figuur: WorldArtsMe

Nieuw zijn geautomatiseerde overheidsbesluit dus allerminst. Bovendien heeft iedere burger te maken met geautomatiseerde overheidsbesluiten: of hij nou AOW of kinderbijslag ontvangt, huurtoeslag of een WOZ moet betalen, een aanslag inkomstenbelasting krijgt opgelegd of een gemeentelijke kwijtschelding van belastingen ontvangt. Desondanks staat het fenomeen niet erg in de bestuursrechtelijke belangstelling. Dit is niet alleen een Nederlands fenomeen. Bing gaf hiervoor de verklaring dat juristen doorgaans niet zo geïnteresseerd zijn in dit soort beslissingen. Exotische, academisch interessante besluiten krijgen meer aandacht dan de huis-, tuin- en keukenbesluiten waarvan men ook nog het idee heeft dat deze goed zullen zijn en van gering belang. Zie bijvoorbeeld de wetsgeschiedenis behorend bij artikel 4:12 Awb.

Toch is het belangrijk om stil te staan bij geautomatiseerde overheidsbesluiten. De beslisregels (algoritmen) bijvoorbeeld waarmee een besluit wordt genomen, worden ook wel ‘verborgen pseudo-wetgeving’ genoemd. Elke bestuursrechtjurist denkt nu natuurlijk direct aan beleidsregels, vroeger ook pseudo-wetgeving genoemd. De tijd is daar ook naar, algoritmen en robotisering staan sterk in de belangstelling.

Om wat voor soort besluiten gaat het? 

Met geautomatiseerde overheidsbesluiten bedoel ik hier besluiten in de zin van artikel 1:3, eerste lid, van de Awb  die zonder directe menselijke tussenkomst tot stand komen. Het gaat om besluiten die tot stand komen doordat de computers door mensen daartoe zijn geïnstrueerd (beslisregels of business rules). Het gaat mij hierbij dus niet om resultaten van machine learning. In die gevallen immers zijn de algortimes niet meer door mensen gemaakt, maar leert de computer zichzelf iets aan. Ik ken geen bestuursorganen die machine learningstechnieken toepassen om besluiten te nemen.

Bovendien gaat hier het om besluiten die als tweede belangrijke element hebben dat zij tot doel hebben het besluitvormingsproces van het uitvoeren van een juridische vraag over te nemen. Dit kan gezien worden als een algortime als ALS X + C – D DAN Z. Het gaat hier dus niet over besluiten die op basis van profilering worden genomen, zogenaamde kansberekeningen op basis van gegevens over gedragskenmerken. Voor zover mij bekend maakt de Nederlandse overheid wel gebruik van profileren, maar niet als grondslag voor een besluit in de zin van artikel 1:3, eerste lid, van de Awb.

Extra bestuursrechtelijke waarborgen bij geautomatiseerde overheidsbesluiten

In deze blogpost ga ik in op de vraag of deze manier van uitvoering andere of extra bestuursrechtelijke waarborgen vraagt ter bescherming van burgers die een geautomatiseerd overheidsbesluit ontvangen. De bespreking hiervan gebeurt langs twee lijnen:

1. via de bestuursrechtelijke rechtsbescherming tegen een besluit of beschikking.

2. via de bescherming die de Algemene Verordening Gegevensbescherming biedt.

1. Bestuursrechtelijke rechtsbescherming tegen een besluit of beschikking.

De geschiedenis van het vaderlandse bestuursrecht is vrij overzichtelijk als het gaat om uitspraken waarin de bestuursrechter zich uitlaat over een computerprogramma waarmee een besluit wordt genomen. Grofweg hebben we CBBS van het UWV dat ter discussie werd gesteld bij de CRvB en AERIUS van de minister van EZ dat besproken is bij de Afdeling bestuursrecht van de Raad van State.

Het CBBS is een claimbeoordelings-en borgingsstysteem dat gebruikt wordt bij de beoordeling of iemand arbeidsongeschikt is te achten en zo ja, in welke mate. In 2004 had de CRvB drie bedenkingen bij de inzet van dit systeem door het bestuursorgaan. Deze hadden met elkaar gemeen dat minder goed dan voorheen inzichtelijk en verifieerbaar was hoe de schattingen en belastbaarheid werden vastgesteld. Na het bespreken van de bedenkingen, oordeelde de CRvB dat hierdoor geen sprake was van een toereikend niveau van transparantie, verifieerbaarheid en toetsbaarheid van besluiten die met dit computerprogramma zijn genomen. Totdat deze onvolkomenheden hersteld werden zouden de besluiten in aanmerking komen voor vernietiging wegens strijd met de artikelen 3:2 en/of 7:12 van de Awb. Daarom oordeelde  de CRvB dat er hogere eisen aan deze besluiten gesteld moesten worden met betrekking tot de verslaglegging en motivering van de in een concreet geval ten grondslag gelegde verzekeringsgeneeskundige en arbeidskundige uitgangspunten.

Na twee jaar deed de CRvB opnieuw uitspraak, dit keer over de wijzigingen die zijn aangebracht in CBBS naar aanleiding van de eerdere uitspraak. Volgens de CRvB had het UWV de onvolkomenheden naar tevredenheid hersteld.

We kunnen dus concluderen dat als een computerprogramma besluiten neemt, dit niet ten koste mag gaan van de verifieerbaarheid en controleerbaarheid van het besluit. Dat mag op zich geen verbazing wekken, ware het niet dat de bestuursrechter zich in deze uitspraken intensief over de werking en uitkomst van het systeem heeft gebogen en niet is gestopt bij verweer over de betrouwbaarheid of zorgvuldigheid van het systeem. Bovendien is het systeem daadwerkelijk aangepast door het bestuursorgaan. Daarmee is voor alle betrokken burgers een verbetering aangebracht en niet alleen voor de burgers die zich tot de rechter hebben gewend.

De tweede vorm van bestuursrechtelijke waarborgen is geboden in een recente uitspraak van de Afdeling bestuursrechtspraak van de Raad van State. Het gaat hier om AERIUS.

AURIUS is een systeem dat lokale overheden verplicht moeten gebruiken bij het nemen van een besluit over een vergunning die te maken heeft met de uitstoot van stikstof. Volgens de bestuursrechter ABRS heeft de (deels) geautomatiseerde besluitvorming het risico in zich dat de besluitvorming niet inzichtelijk en controleerbaar is vanwege een gebrek aan inzicht in gemaakte keuzes en de gebruikte gegevens en aannames. De verwachtingen van de wetenschap uit de jaren ’90, namelijk dat de transparantie juist zou toenemen door geautomatiseerde besluiten blijkt niet te zijn uitgekomen. In de overwegingen 14.3 en 14.4 staat dat er een ongelijkwaardige procespositie voor partijen ontstaat als zij niet kunnen controleren op basis waarvan een bepaald besluit is genomen:

Ter voorkoming van deze ongelijkwaardige procespositie rust in dit geval op genoemde ministers en de staatssecretaris de verplichting om de gemaakte keuzes en de gebruikte gegevens en aannames volledig, tijdig en uit eigen beweging openbaar te maken op een passende wijze zodat deze keuzes, gegevens en aannames voor derden toegankelijk zijn. Deze volledige, tijdige en adequate beschikbaarstelling moet het mogelijk maken de gemaakte keuzes en de gebruikte gegevens en aannames te beoordelen of te laten beoordelen en zo nodig gemotiveerd te betwisten, zodat reële rechtsbescherming tegen besluiten die op deze keuzes, gegevens en aannames zijn gebaseerd mogelijk is, waarbij de rechter aan de hand hiervan in staat is de rechtmatigheid van deze besluiten te toetsen.’ 

Vervolgens gaat de ABRS per inhoudelijk punt na of het systeem voldoet aan het eerder geformuleerde kader. En die toets ziet er gedetailleerd uit. Een onderbouwing die is gegeven voor de verwachte economische groei wordt als onvoldoende inzichtelijk beoordeeld, bepaalde aannames zijn niet inzichtelijk geworden en ook stellingen die onbewezen blijven worden als onvoldoende inzichtelijk beoordeeld.

Zowel het kader als de invulling die de bestuursrechter in deze rechtszaak heeft gegeven, maakt dat bestuursorganen tekst en uitleg moeten bieden over het concrete besluit en de wijze waarop de computer dit heeft gegenereerd. Het gaat daarbij niet alleen om het kunnen controleren van het besluit als resultaat met (hopelijk) een deugdelijke motivering. Het gaat juist om het kunnen controleren van het proces waarmee dit besluit tot stand is gekomen; hoe is de wet geïnterpreteerd, hoeveel gewicht is toegekend aan een variabele, welke keuzes er zijn gemaakt bij het verfijnen van de ‘talige’ wet in de enen en nullen van het rekenkundig softwaresysteem, en waarom aan bepaalde gegevens de doorslag is gegeven en aan welke niet?

De eisen, die dermate algemeen zijn geformuleerd dat zij ook voor andere besluiten opgaan, bieden extra waarborgen voor burgers, ook voor burgers die geen rechtsmiddelen hebben ingezet.  Belangrijk is ook dat het volgens de ABRS gaat om inzicht dat ter beschikking is van belanghebbenden voordat deze beslissen of hij rechtsmiddelen indient.

2. Bescherming die de Algemene Verordening Gegevensbescherming biedt.

En dan hebben we natuurlijk nog artikel 22 van de AVG. Deze bepaling ziet er op het oog zeer ingrijpend uit; in de relatie burger – overheid betekent dit dat een betrokkene niet mag worden onderworpen aan een besluit in de zin van artikel 1:3, eerste lid van de Awb tenzij dit is toegestaan bij Unierechtelijke of lidstaatrechtelijke bepaling. Zoals we hiervoor zagen wordt er binnen de Nederlandse overheid nogal veel gewerkt met geautomatiseerde besluiten. Dit is dan waarschijnlijk ook de reden dat in artikel 38 van het voorstel Uitvoeringswet AVG waarvan de consultatie is afgerond, wordt voorgesteld dat artikel 22 AVG niet geldt als geautomatiseerde besluitvorming als hier bedoeld noodzakelijk is om te voldoen aan een wettelijke plicht of noodzakelijk is ter uitvoering van een taak van algemeen belang.

Wel moet de verwerkingsverantwoordelijke dan passende maatregelen treffen tot bescherming van het gerechtvaardigd belang van de betrokken en moet het bestuursorgaan dat het besluit neemt de logica meedelen die ten grondslag ligt aan de geautomatiseerde verwerking van de hem betreffende gegevens.

Conclusie

De waarborgen voor burgers bij geautomatiseerde overheidsbesluiten komen dus uit twee kokers. Beide respecteren de nieuwe realiteit, namelijk dat besluiten door computers worden genomen.  Of dit nu vanuit de bescherming van persoonsgegevens wordt bekeken of vanuit het bestuursrecht, er horen waarborgen bij deze uitvoering die kunnen worden afgedwongen, hetzij via de bestuursrechter, hetzij via de toezichthouder AP.

Dit betekent hoe dan ook dat er werk aan de winkel is voor bestuursorganen. Instructies aan de computer die geschreven zijn door zeer gespecialiseerde programmeurs moeten worden vertaald in toegankelijke uitleg die het mogelijk maakt het programma te controleren. Voor burgers betekent dit in ieder geval extra bescherming.

lit.

Tom Barkhuysen en Niels Jak, Afdeling bestuursrechtspraak formuleert toetsingskader voor geautomatiseerde besluitvormingsprocessen, AERIUS, blog.

Jon Bing, ‘Code, Acces and Control’ in ‘Human Rights in the Digital Age’ M. Klang & A. Murray (eds), Cavendish Publishing Ltd 2005.

M.M. Groothuis, Beschikken en digitaliseren. Over normering van de elektronische overheid (diss. Leiden), (Meijers-reeks) Sdu 2004.

Dag Wiese Schartum, Law and algorithms in the public domain, in Etikk i praksis. Nordic Journal of Applied Ethics (2016), 10 (1),  15–26. http://dx.doi.org/10.5324/eip.v10i1.1973

S. Zouridis, Digitale disciplinering. Over ICT, organisatie, wetgeving en het automatiseren van beschikkingen (diss. Tilburg), Delft: Eburon 2000.

Bestuursrecht in plaatjes

IMG_6333
De Awb bestaat uit tranches (in het Frans betekenen Tranches ‘takken’). Hiermee wordt bedoeld dat de Awb in verschillende stappen gebouwd is, het is aanbouwwetgeving. Oftewel een takkenwet. Niet te verwarren met ‘Takkewet’.
burgers
Het bestuursorgaan bestuurt burgers. Burgers zijn verschillend en hun belangen ook. Bij het uitvoeren van hun taken treedt als vanzelf een dilemma op dat we allemaal herkennen: een regel vinden we belangrijk (er mag niet te hard gereden worden want dat is gevaarlijk), we vinden het goed dat mensen daarvoor beboet worden (handhaving van het recht) maar die ene keer dat ik te hard reed en een boete kreeg was gewoon Belachelijk (ik ben de uitzondering op de regel).

 

orgaan
Een openbaar lichaam heeft geen publiekrechtelijk bevoegdheden. Daar zijn de organen voor. De ambten. Bestuursorganen.

 

lichaam.heel
Het bestuur in Nederland bestaat uit openbare lichamen. Dit zijn de Staat, de provincies, de gemeenten en waterschappen. Deze lichamen zijn openbaar omdat er een zekere ‘democratische legitimatie’ is. Een deel van de personen die worden bestuurd door openbare lichamen (personensubstraat) kunnen indirect invloed uitoefenen door hun stemrecht.

‘De burgers kunnen natuurlijk altijd in bezwaar.’

Toen ik gevraagd werd een inleiding te houden over mijn onderzoek Effectieve rechtsbescherming bij geautomatiseerd beslissen door de overheid, was ik erg opgetogen. Als buiten-promovenda krijg ik niet vaak die kans. Iedere onderzoeker vertelt graag over zijn onderzoek. Hoewel het best lastig is om van de rust en kalmte in een diepe heldere zee weer terug te komen naar de oppervlakte om het geheel te overzien. Ik deed mijn best en nam dan ook goed voorbereid en blij plaats in de zaal.

Mijn opgetogen stemming verdween vrij snel. Ik werd helemaal niet uitgenodigd mijn inleiding te geven. Nog erger, aan het eind van de sessie keek de gespreksleider meewarig op z’n horloge en zei; ‘jammer voor je, maar we zijn dus niet toegekomen aan jouw verhaal. Maar je kunt ’t natuurlijk altijd nog bij het lopend buffet proberen’.

Wat nu? Er waren twee tactieken; beleefd knikken, de gespreksleider op de gang de oren wassen en daarna heel hard wegrennen. De andere: beleefd knikken, het woord nemen en alsnog mijn inleiding houden. Ik koos voor het laatste. Dat leek misschien stevig omdat ik door ging. Maar in werkelijkheid was ik hierdoor op zo’n grote achterstand gezet, dat het neerkwam op een mechanische uitwisseling in plaats van contact. Ik had het net zo goed kunnen laten.

Ik snapte het ook niet; er was immers wel een formele uitnodiging geweest een verhaal te houden. Maar de facto werd ik genegeerd waardoor ik voor mezelf moest opkomen. Maar ik wil helemaal niet in de positie geplaatst worden dat ik me moet verdedigen. Ik wil dat mensen het leuk vinden dat ik een inleiding geef. En dat als men het niet leuk vindt, het ook niet vraagt.

En dit doet me zo ontzettend denken aan de positie van burgers bij geautomatiseerd besluiten door de overheid. De overheid hanteert bij massale en geautomatiseerde besluiten nogal vaak de leus; maar de burgers kunnen natuurlijk altijd in bezwaar. En daar heeft men formeel gesproken ook wel gelijk in. Maar inmiddels is men deze zin ook gaan gebruiken bij de inzet van systemen waarvan op voorhand al bekend is dat zij systematisch fouten maken. De bezwaarprocedure is daarmee een excuus geworden voor het aanvaarden van foutmarges bij het nemen van primaire beslissingen. We horen het wel van de burger als het niet klopt.

De vraag die dan direct gesteld moet worden is of de bezwaarmaker ook feitelijk zo wordt behandeld? Wordt hij uitgenodigd zijn verhaal te doen om te ontdekken of hij mogelijk slachtoffer is geworden van de foutmarges? Of wordt hij in de verdedigende rol geplaatst door te bepalen dat het aan hem is om aan te tonen dat het besluit niet juist was? Het lustrumcongres http://www.prettigcontactmetdeoverheid.nl geeft goede hoop. Toch blijft ook dan de twijfel of op de werkvloer en onder druk van productienormen hetzelfde gedacht wordt over bezwaarschriften als de top van de overheid graag suggereert. Als u die twijfel niet heeft doet u er goed aan Michael Lipsky te lezen: Street-level bureaucracy: dilemmas of the individual in public services.

Ik heb het geluk dat ik kan besluiten om voortaan deze vreemde gespreksleider te mijden. Een ezel stoot zich etc. Voor een burger is dat minder makkelijk. Zeker als hij met z’n fietsenrekje achter de auto op de A2 wil rijden!

http://www.rtlnieuws.nl/nieuws/binnenland/falende-trajectcontrole&quot