Grootschalige dataverwerking kan gemakkelijk leiden tot maatschappelijk onacceptabele gevolgen. De kniepeesreflex daarbij is méér wet- en regelgeving. Tommy Wieringa pleitte in deze krant voor meer moreel besef. Maar hoe dan? Het wordt tijd om ethiek serieus te nemen in deze discussie. Niet als academische oefening in de board room, maar als praktisch gereedschap op de werkvloer.
Big data en Artificial Intelligence (AI) leiden gemakkelijk tot gevolgen die we als democratische rechtstaat onacceptabel vinden. Dat geldt niet alleen voor het bedrijfsleven, maar ook voor de wet- en regelgever zelf. Zo laat de rechtszaak over SyRI (Systeem Risico Indicatie) zien hoe het in dataverwerking ook met de beste bedoelingen flink mis kan gaan.
SyRI zoekt onder andere naar uitkeringsfraude. Daartoe heeft SyRi toegang tot een enorme hoeveelheid persoonsgebonden data. Zoals de Raad van State het zei is er voor SyRi “nauwelijks een persoonsgegeven te bedenken dat niet voor verwerking in aanmerking komt”.
Nu vinden we bijstandsfraude in Nederland over het algemeen niet acceptabel. Prima, maar vinden we deze digitale klopjacht dan wél acceptabel? Momenteel ligt deze vraag bij de rechter. Maar daar hoort ze niet.
Grenzen aan de wet
Allereerst omdat toetsing aan de wet pas plaatsvindt als de datatoepassing al af is. Dat is te laat om ongewenste impact van data-toepassingen nog op te sporen. Recent stelde VVD-kamerlid Jan Middendorp daarom voor om ook het ontwikkelproces van Artificial Intelligence zelf aan regels te onderwerpen. Wat ons brengt bij bezwaar twee.
Wet- en regelgeving reflecteren niet wat we als samenleving wel willen maar vormen juist de grens met wat we echt niet willen. Dat laat alle ruimte voor grijs gedrag. Dataverwerkende organisaties zoeken die ruimte per definitie op; commerciële organisaties onder commerciële druk; overheidsinstanties onder druk van politieke agenda’s. Dat is voor (toezicht op) het ontwikkelproces van AI niet anders. Integendeel: wat we gaan zien is dat ontwikkelaars ook dáár massaal de rand van de regel zullen opzoeken.
Maar het belangrijkste punt is dat de vraag wat we allemaal acceptabel vinden geen juridische vraag is, maar een morele. Als er in het ontwikkelproces van SyRI ruimte was geweest voor een basale ethische reflectie op doel en middelen, dan was het nooit tot een rechtszaak gekomen.
Stop, listen, what’s that sound?
Dat ontwikkelproces biedt momenten genoeg om even stil te staan bij de impact van een AI-project. Wie bij elke keuze in het ontwikkelproces even checkt op ethische wenselijkheid en mogelijke ongewenste gevolgen daarvan voor de samenleving, eindigt met toepassingen waar we als mens en maatschappij wél wat mee opschieten. En dat is gemakkelijker te realiseren dan menigeen denkt. Een paar startpunten:
HTi vond tijdens werksessies dat in een commerciële organisatie het overgrote merendeel van medewerkers tegen ethische dilemma’s aanloopt en daar om verschillende reden eigenlijk niets mee doet. Driekwart heeft bijvoorbeeld geen idee wat het morele kompas van hun organisatie is. Wie dat wel weet, ervaart het als te vaag voor houvast. Veruit de meesten weten vervolgens niet of (en zo ja: waar) je je gerede twijfels veilig neer kunt leggen in de organisatie.
Start de Ethical Journey
Dat geeft een to do lijst. Even als Ethical Journey neergezet: 1 – Heeft onze organisatie een morele leidraad? 2 – Is ze inhoudelijk voldoende bekend? 3 – Maakt ze je mensen daadwerkelijk besluitvaardig? 4 – Is de benodigde reflectie ook ingebouwd in werkprocessen? 5 – Betrekken wij onze klanten, partners en andere stakeholders in de ethische zoektocht? 6 – Leveren we bewijslast aan voor welwillendheid, integriteit en competentie? 7 – Kunnen onze mensen hun morele twijfels veilig in de organisatie kwijt? 8 – Weten ze ook waar? 9 – Is het leren en acteren daarop in de organisatie geborgd?
De Moraal
De vraag wat er mag is ingehaald door de vraag wat we als samenleving willen van technologische innovatie. Achteraf leunen op de rechter levert situaties op die onacceptabel zijn voor mens en maatschappij. In plaats van nog meer wet- en regelgeving lijkt het nu eerst tijd voor een gezamenlijk framework voor ethische reflectie vóóraf.
Gezien de Ethical Journey hierboven is er met relatief eenvoudige ingrepen al een wereld te winnen. Niet alleen voor burger en consument maar ook voor de dataverwerkende bedrijven en organisaties. Te beginnen met die van de overheid zelf.
Louis Huyskes
