Slim gebruikmaken van data en algoritmes móet, want het levert veel op, zoals betere dienstverlening aan burgers. Maar hoe ga je als ABD’er op een verantwoorde manier om met de valkuilen van datagebruik?
Marco Kleinherenbrink, directeur Gegevensdiensten en Chief Data Officer bij UWV, en Jeroen van den Hoven, hoogleraar ethiek bij TU Delft, zijn overtuigd van de kracht van data om de dienstverlening van de overheid te verbeteren. Jeroen, die voorzitter is van de UWVcommissie Data Ethiek (waarover straks meer), geeft een voorbeeld: ‘Via een nieuwe app gaat UWV binnenkort cliënten waarbij het niet goed lukt een baan te vinden, helpen werk te vinden. Die app is gebaseerd op data-analyses.’ Marco: ‘En zo zijn er meer voorbeelden. Door data-analyse weten we bijvoorbeeld dat er binnen de Wajong-doelgroep mensen zijn die meer dan gemiddeld contact met ons opnemen. Zij krijgen van ons een vaste contactpersoon zodat de lijnen korter zijn en we hen beter kunnen begeleiden.’ Jeroen benadrukt: ‘De overheid heeft ook een morele plicht om data en technologie te gebruiken om haar dienstverlening aan de burger te verbeteren. Je kunt het vergelijken met de gezondheidszorg. We zouden het allemaal erg vreemd vinden als artsen géén gebruik zouden maken van hulpmiddelen zoals scans om een goede diagnose te stellen.’
Ethiek
Tegelijkertijd weten we allemaal dat het gebruik van datatoepassingen – als je daarover niet goed nadenkt – ertoe kan leiden dat mensen onbedoeld of onbewust benadeeld of bevoordeeld kunnen worden. Jeroen: ‘Je wilt problemen oplossen en geen nieuwe problemen creëren.’ Aan de hand van de aanpak van UWV voor ethisch datagebruik leggen Marco en Jeroen in vijf stappen uit hoe je dit als topambtenaar kunt voorkomen.
1. Zorg voor een visie
Jeroen: ‘Ethisch verantwoord datagebruik gaat de gehele organisatie aan. Net als bij governance heb je daar een infrastructuur voor nodig.’ Bij UWV vormt het Kompas Data Ethiek daarvoor de basis. Het is een leidraad voor alle medewerkers voor de omgang met datatoepassingen. Marco licht toe: ‘Sinds twee jaar zet UWV zich, aan de hand van een duidelijke visie, in om een datagedreven organisatie te worden. We zijn ervan overtuigd dat gebruik van data leidt tot betere dienstverlening, betere wet- en regelgeving en meer kennis van ons eigen werkgebied. Eén van de randvoorwaarden om een datagedreven organisatie te kunnen zijn, is dat je ethisch verantwoord omgaat met data en datatoepassingen. In ons Kompas leggen we aan de hand van de waarden respect, openheid, eigen verantwoordelijkheid en professionaliteit uit wat verantwoord datagebruik in de praktijk betekent voor onze organisatie.’ Jeroen: ‘Met een visie op ethisch datagebruik geef je als topmanager rekenschap van het belang van het onderwerp en zorg je ervoor dat je je missie beter en efficiënter uitvoert. ABD’ers in het digitale domein moeten hiermee in het kader van nieuwe Europese wetgeving rond kunstmatige intelligentie (de AI Act) sowieso aan de slag.’
2. Mensen zijn verantwoordelijk
Uiteindelijk zijn mensen verantwoordelijk voor de data. Om ervoor te zorgen dat die mensen die verantwoordelijkheid ook voelen en nemen, is het belangrijk dat ze ‘datageletterd’ zijn. Zij moeten bijvoorbeeld beseffen dat algoritmes niet neutraal zijn, vooroordelen kunnen bevatten en niet altijd gebruikt worden zoals ze bedoeld zijn. En ze moeten weten hoe je daar verantwoord mee omgaat. Marco: ‘Bij UWV zijn drie groepen in hun dagelijkse werk direct bezig met data. De mensen die datatoepassingen en algoritmes ontwikkelen. De data scientists die de data-analyses, en aan de hand daarvan publicaties, maken. En de collega’s die in hun dagelijkse werk data verzamelen. Wij scholen deze groepen bij in onze Data Academie. Daarbij kun je denken aan bewustwordingstrainingen en scholingen over datatoepassingen en de techniek erachter. Een belangrijk uitgangspunt is dat we bij risicoschattingen bijvoorbeeld onderscheid kunnen maken op gedragskenmerken, maar nooit op persoonskenmerken.’
3. Zorg voor toezicht
UWV stelde begin dit jaar een Commissie Data Ethiek in met Jeroen als voorzitter. In de commissie zitten UWV-medewerkers met expertise op het gebied van privacy, dienstverlening, informatievoorziening en juridische zaken. Daarnaast neemt een tweede externe expert deel: Sandjai Bhulai, hoogleraar Business Analytics aan de VU Amsterdam. Jeroen juicht het initiatief voor de commissie toe: ‘Voor een echt kritisch gesprek over ethisch verantwoord datagebruik is veel verschillende expertise nodig. UWV heeft dankzij de commissie al deze expertise in huis.’ Jeroen legt uit wat de commissie doet. ‘We doen op alle voorgestelde datatoepassingen eerst een triage. Zo bepalen we welke datatoepassingen we wel of niet moeten bespreken en welke we vervolgens grondig moeten doorlichten. De doorlooptijd van een toepassing die doorgelicht wordt is 2 tot 3 maanden. Op basis van een ethisch impact assessment, input van en overleg met de eigenaren en eigen onderzoek geven wij een advies.’ Marco: ‘En dan is het vervolgens aan de betreffende directie om er, in overleg met mij, voor te zorgen dat de adviezen opgevolgd worden.’ Uiteraard loopt de commissie regelmatig tegen dilemma’s aan. Jeroen: ‘Om te bewijzen dat er geen bias (vooroordeel) in een datatoepassing zit, is de makkelijkste manier bijvoorbeeld om een vergelijkend onderzoek te doen waarbij je ook een toepassing test die bijvoorbeeld groepen uitsluit. Maar dat mag natuurlijk niet. Aan ons de taak daar andere manieren voor te bedenken.’ Marco benadrukt dat bij toezicht ook het meten van de datatoepassingen in de praktijk hoort. Jeroen: ‘Doet de toepassing wat deze moet doen? Dat moet je valideren.’ Marco: ‘Deze taak ligt niet alleen bij de commissie. We laten verschillende toepassingen ook controleren door accountants en auditors.’
4. Maak informatie vindbaar
Voor alle ministeries en uitvoeringsorganisaties geldt dat informatie goed vindbaar moet zijn om bijvoorbeeld verantwoording af te kunnen leggen aan de Tweede Kamer. Marco: ‘Ook wij investeren in onze informatievoorziening, waaronder het beter kwalificeren van informatie en in spontane openbaarmaking (zie punt 5). We werken momenteel aan een nieuw data warehouse dat dataopslag, beschikbaarstelling, analyse en rapportage faciliteert.’
5. Zorg voor actieve openheid
UWV biedt ook openheid over het gebruik van datatoepassingen aan burgers, werkgevers, ketenpartners en klanten. Zo start UWV in oktober met het publiceren van algoritmes in een online algoritmeregister op uwv.nl. Marco: ‘Zo kan iedereen lezen wat de door ons gebruikte algoritmes doen. Het register is voor iedereen toegankelijk.’ UWV investeert ook in het visualiseren van data. Jeroen: ‘Gemeente Amsterdam is hierin een voorbeeld. Zij zijn al ver in het toegankelijk maken van informatie voor burgers.’ Marco: ‘Uiteraard is ook ons Kompas openbaar: je kunt het eenvoudig downloaden op onze website.’ Marco benadrukt dat er wel grenzen aan openheid zijn. ‘Als wij te veel inzicht geven in een algoritme dat verwijtbare werkloosheid herkent, geven we eigenlijk een handleiding voor hoe je het systeem kunt misleiden. Dat is natuurlijk niet de bedoeling. Om toch transparant te zijn geven we in zo’n geval aan dat we zo’n algoritme hebben laten toetsen en laten we de conclusies van zo’n toetsing zien.’ Jeroen geeft tot slot graag het volgende mee: ‘De mogelijkheden van digitale techniek zijn enorm krachtig en kunnen veel veranderen in positieve en zoals we inmiddels weten helaas ook in negatieve zin. Iedereen binnen de ABD moet daar waakzaam op zijn en daarin zijn of haar verantwoordelijkheid nemen met het besef dat er nog veel onduidelijkheid is over de passende interpretatie van open normen en concepten. Daar hoort reflectie bij op een manier die verder gaat dan het wettelijk kader. Sorteer voor op wat komen gaat, neem je eigen morele verantwoordelijkheid en rust je organisatie daar structureel op toe.’
Het juiste doen, juist als het spannend is
Op 3 november start de leerlijn 'Het juiste doen, juist als het spannend' is rond ethiek en integriteit. Hoofddocent Johan Bouwmeester legt uit dat dat precies is waarmee je in de leerlijn aan de slag gaat. ‘Als deelnemer ga je aan de hand van verschillende lezingen over integriteit en ethiek in verdiepingssessies werken aan je eigen doelen rond thema’s zoals ethiek in de praktijk van openbaar bestuur, en macht en tegenmacht. Bij zo’n persoonlijk doel kun je denken aan: meer tegenwicht geven bij hoge politieke druk, of gebruikmaken van verschillende perspectieven in een cultuur waar dat weinig vanzelfsprekend is. Met elkaar bespreek je in terugkomsessies vervolgens de status van doelen en ambities, en deel je je aanpak en dilemma’s met je peers – ontzettend leerzaam en verrijkend! Na driekwart jaar deel je vervolgens op je eigen manier welke resultaten je aanpak heeft opgeleverd. Zo werken we met elkaar aan een betrouwbare overheid, waarbij vakbekwaamheid, betrouwbaarheid (doen wat je zegt en zeggen wat je doet) en eerlijk en transparant zijn, vooropstaan.’ Ook individueel levert de aanpak veel op. ‘Dit is zeker géén leergang om achterover te leunen. Maar als oud-topmanager bij een grote gemeente weet ik dat een investering zoals deze in de kwaliteit van je team uiteindelijk heel veel gedoe scheelt en dus veel tijd oplevert.’
