'Ethiek wordt een ontwerpopgave'

‘Techniekfilosoof’ Jeroen van den Hoven was een van de hoofdsprekers op het ABD-symposium

In Jeroens visie moeten we als topambtenaren in Nederland kleur bekennen: ongebreidelde technische innovatie is niet wenselijk. Kijk bijvoorbeeld maar naar het Chinese ‘sociale krediet score systeem’ waarbij je op onnavolgbare wijze van een algoritme een score krijgt toebedeeld voor ‘goed of slecht gedrag’, op basis van de big data over wat je hebt gedaan en gezegd. Een lage score heeft echt nare effecten.

‘Het constructief werken met  ethiek in technologie is een kans voor Nederland om verantwoord te innoveren. Dat leren we in Delft aan onze studenten’, zegt Jeroen. ‘Zij leren te programmeren voor de waarden die wij delen.’ Het opent ogen van studenten voor hele interessante innovaties - waar niemand aan denkt die niet in waarden is geïnteresseerd - en maakt veel positieve energie en creativiteit los. Jeroen: ‘Hoger in de waardeketen kun je niet komen. Daar moeten Nederland en Europa het van hebben.’

Wetgeving voor verantwoorde kunstmatige intelligentie

De opkomst van kunstmatige intelligentie werd al in de jaren dertig van de vorige eeuw voorspeld door Alan Turing. Zijn Turing Test is een gedachtenexperiment waarbij onderzocht wordt of een machine menselijke intelligentie kan tonen. Sindsdien kunnen we die experimenten ook echt doen, maar is de controle over slimme machines tegelijk ingewikkelder geworden.

Onze krachtigste computers  van vandaag  maken gebruik van neurale netwerk technologie en deep learning. Daarmee worden ze weliswaar zeer krachtig, maar helaas ook net zo ondoorzichtig als een menselijk brein, of misschien nog ondoorzichtiger.

Momenteel gaan in Brussel stemmen op om wetgeving voor verantwoorde kunstmatige intelligentie te maken. Die verplicht organisaties om mensen te laten weten of ze met een mens of met een computer communiceren. Systemen als Google Duplex kunnen al geheel zelfstandig en ‘menselijk’ communiceren. Deep fake video’s en speech synthesis worden griezelig goed en zijn nauwelijks meer van echt te onderscheiden.

Surveillance capitalism

‘Er zitten duidelijk donkere kanten aan kunstmatige intelligentie. Zo kan het worden ingezet bij manipulatie van democratische processen en kan het gemakkelijk leiden tot een nieuw verlangen naar totalitaire, centralistische en top down governance, vindt Jeroen.

Radicaal verschillende ideologieën en grootmachten zoals VS, Rusland en China gebruiken nu geavanceerde digitale technologie om hun visie op mens en samenleving te ondersteunen en te implementeren. ‘Allen verzamelen ze data om burgers te controleren, te nudgen en te manipuleren zonder de nadruk die wij in Europa  gewend zijn te leggen op het belang van fundamentele rechten en waarden (of met totaal voorbijgaan daaraan). Big Tech bedrijven doen hetzelfde maar dan for profit. Zuboff noemt dit “surveillance capitalism”, waarin grote bedrijven zoals Google en Facebook enorm veel geld verdienen met het verzamelen, analyseren en verkopen van persoonlijke data.

Helaas komen er ook steeds meer voorbeelden van “grijs gebied”. Wat te denken van een geautomatiseerd systeem dat beslist of een gedetineerde voorwaardelijk vrijgelaten wordt? In de Verenigde Staten bestaat het al. Een van de parameters is het aantal arrestaties in de familie van de gedetineerde. Voor dergelijke grijze gebieden, maar eigenlijk voor systeemontwerp in het algemeen, heb je ethische filosofie nodig.’

Ethiek als richtsnoer

Natuurlijk zijn er ook heel veel positieve mogelijkheden met big data en kunstmatige intelligentie: je kunt er bijvoorbeeld de uitbraak van een besmettelijke ziekte mee beheersen, diagnoses en behandelingen aanzienlijk verbeteren, energie besparen en efficiency verhogen.

Helaas komen er ook steeds meer voorbeelden van “grijs gebied”. Wat te denken van een geautomatiseerd systeem dat beslist of een gedetineerde voorwaardelijk vrijgelaten wordt? In de Verenigde Staten bestaat het al. Een van de parameters is het aantal arrestaties in de familie van de gedetineerde.

China experimenteert met ‘predictive sentencing’. ‘Voor dergelijke grijze gebieden, met zulke grote maatschappelijk implicaties, kun je niet zonder  morele waarden en ethiek als richtsnoer’, zegt Jeroen. ‘Dan innoveer je in een ethisch vacuüm.’

Gidsland

Verantwoord innoveren gaat om het richten van ons vernuft op de grote maatschappelijke uitdagingen en het streven om de voordelen van technologie benutten, zonder de nadelen te hoeven ondergaan. Daarvoor moeten we ethiek proactief onderdeel van innovatie en R&D processen maken. Ethiek wordt in de 21e eeuw  een ontwerpopgave, betoogt Jeroen.

‘Al deze voorbeelden leiden mij tot de overtuiging dat we vanuit de ethiek, normatief moeten kijken naar hoe we onze systemen willen ontwerpen. In welke digitale samenleving wij willen leven? De werelden van de programmeurs en die van de ethische reflectie moeten samenkomen. Nederland kan op dit terrein  een gidsland worden, en is het in zekere zin al. We hebben hierin een voorsprong en we hebben de benodigde kennis in huis.’

‘Value Sensitive design’, noemt Jeroen dat. Ofwel ‘design for x’, waarbij de x kan staan voor allerlei verschillende waarden, zoals diversiteit, privacy, inclusiviteit, veiligheid, duurzaamheid of transparantie. Het gaat erom dat we de waarden die we delen controleerbaar en transparant inbrengen in de wereld van de technologie, vindt Jeroen. 'Er moét een Nederlands, of Europees, model voor designing products, services en systemen for values komen. Als wij het niet doen, doet de VS het wel. Of China! Dan blijkt achteraf dat we het al die tijd bij het rechte eind hadden en er veel over hebben gepraat, maar zijn anderen met de eer gaan strijken en hebben er business van gemaakt.’