VVD-kamerlid Jan Middendorp komt met voorstellen voor méér toezicht op toepassingen van algoritmen in datadiensten. Hij lijkt daarmee een stellig antwoord te geven, maar helaas op de verkeerde vraag.
De angst voor onbedoelde impact van algoritmen op mens en maatschappij is niet denkbeeldig. De voorbeelden van discriminatie bij hypotheekaanvragen, sollicitatieprocedures en uitkeringen kennen we allemaal. Het huidige toezicht daarop geeft niet het gewenste vertrouwen in data-innovatie. Het is evenwel de vraag of méér toezicht daar iets aan gaat veranderen.
Grenzen aan toezicht
Want waar zien we dan op toe? Eigenlijk alleen op naleving van regels, bijvoorbeeld de huidige AVG/GDPR. Maar wie wettelijke grenzen stelt, creëert de neiging ze op te zoeken. Dat verander je niet met méér toezicht.
Daarbij, in de handhaving van AVG wordt meer gekeken naar de toestemming voor gebruik van data dan naar de precieze aard van dat gebruik. Een data-applicatie kan dus volledig compliant zijn en toch iets doen wat we niet als eerlijk en juist ervaren.
En wie zou dat toezicht vervolgens moeten doen? De huidige capaciteit voor handhaving schiet nog steeds tekort. Van de 1.500 klachten die de Autoriteit Persoonsgegevens tussen mei en november 2018 maandelijks te verwerken kreeg, bleef 40% liggen. Sindsdien lijkt het maandelijks aantal ‘tips’ verdubbeld. De organisatie niet.
Middendorp schuift hier accountancy firma’s naar voren. Maar wie de kranten leest vindt die sector misschien niet de eerste keus als hoeders van ethisch toetsing. En het zal ook geen snelle of goedkope keuze zijn, wat onnodige druk legt op de noodzakelijke snelheid en competitiviteit van innovatie.
En dan het belangrijkste: wie wil er nou toezicht? Toezicht kost geld, beperkt creativiteit en remt het innovatietempo. Het voelt ook slecht: toezicht wordt pas ingezet als individuele verantwoordelijkheid niet leidt tot gezamenlijke. Toezicht is voor maatschappelijke losers.
Dat dus niet. Maar wat dan wel?
Ethiek als motor van innovatie
Innoverende organisaties zouden zichzelf veel tijd en geld besparen door ethische reflectie een vaste plaats te geven in innovatieprocessen. Niet als rem, maar juist als motor van innovatie. Daarvoor zijn inmiddels tal van mogelijkheden beschikbaar. Zo introduceerde de ECP de AIIA, (Artificial Intelligence Impact Analysis), die is bedoeld om vooraf de maatschappelijke impact en risico’s van innovaties te toetsen. De DenkTank Innovatie & Vertrouwen (samenwerking van mensen bij Achmea, KPN, Rabobank en Schiphol) ontwikkelde de Trust Canvas, die de waarde van ethische reflectie en vertrouwen beschikbaar wil maken voor zakelijke besluitvorming. Voor wie het denkwerk liever uitbesteedt is er een onafhankelijke ethische commissie voor innovatie en technologie in oprichting. Het wachten lijkt op een app.
Naar een Europees model
Wat ons brengt bij een mogelijke ‘bigger picture’: de vraag die Middendorp had moeten stellen gaat niet over ‘mogen’ maar over ‘willen’: nu technologische innovatie een immense
scheppende kracht in ons bestaan is geworden, dienen wij ons vooral af te vragen welke waarde wij willen dat die kracht precies voor ons schept.
Als we kijken hoe de twee grootmachten in technologie die vraag beantwoorden, dan zien we dat Amerika vooral kiest voor commerciële waarde (geld) en China voor politieke (controle). In Europa lijken we heel eigenwijs juist het belang van het individuele burger voorop te zetten: blijkbaar willen wij als samenleving dat technologische innovatie allereerst menselijke waarde voor ons creëert.
Met die visie scoort Europa momenteel hoge ogen in de rest van de wereld. Tal van tech-bedrijven stelt staffunctionarissen ethiek aan. Tim Berners-Lee, gezien als bedenker van het internet, is een internationale organisatie gestart die internet ‘willen teruggeven aan de burger’. California ziet de beschermende gedachte achter AVG als leidend voor toekomstige wetgeving. En in landen waar de digitale golf nog aan moet komen is de Europese visie populair leesvoer voor overheden.
Dat maakt de vraag wat wij willen van technologische innovatie natuurlijk een prima strategische leidraad voor organisatie die de wereld willen veroveren. Maar vóór we de wereld intrekken: als je morgen in Europa wilt mee-innoveren, kun je beter stoppen met denken in termen van toezicht. Omarm in plaats daarvan ethiek als motor van innovatie. Dat geeft snellere, goedkopere en betere resultaten dan toezicht. En dat is mooi.
Want het immers gaat niet om beter toezicht. Maar om betere innovatie.
Louis Huyskes is board member van het Human and Tech institute.
