Als de Toeslagenaffaire, de SyRI-zaak en de zorgen om de corona app ons iets duidelijk hebben gemaakt, dan is het wel dat slimme dingen doen met data niet altijd verstandig is. Aandacht voor de wereld om je heen blijkt minstens even belangrijk als aandacht voor je algoritme. Schiet je hierin te kort, dan kun je op grote maatschappelijke weerstand stuiten. Ook al werkt de techniek nog zo goed, je moet altijd kunnen uitleggen hoe je ervoor gaat zorgen dat je toepassing niet tot onwenselijke uitkomsten gaat leiden. Kortom: wat je maakt moet niet alleen gaan vliegen, maar ook landen. Maar hoe pak je dat aan?
Smart from the start
Eigenlijk is er maar één manier om het goed te doen: kijk vanaf het begin van je dataproject nadrukkelijk niet alleen naar voren, maar ook zijwaarts en soms zelfs achteruit. Een strakke deadline is belangrijk, maar vergeet niet dat jouw mooie app straks echte mensen gaat raken. Wat is hun perspectief? Wat is voor hén belangrijk? Met welke gevolgen krijgen zij te maken en welke foutmarges in het algoritme zijn hierbij acceptabel? Vragen die bepalend zijn voor aantal fundamentele keuzes, die vaak al vroeg in het project gemaakt worden. Maar die in een later stadium van groot belang zijn voor de acceptatie. Denk hierbij aan het al dan niet gebruiken van bepaalde data, het type algoritme dat je gaat gebruiken of het bepalen van de groepen die je laat meepraten over de werking van het systeem.
Heb ook oog voor verschillende soorten risico’s. Technische, juridische, maar ook ethische risico’s gaan hierbij hand in hand. Vooroordelen (“bias”) in de data of in je algoritme leiden tot discriminatie. Een overload aan data kan privacyschendingen tot gevolg hebben. En een gebrek aan transparantie kan zelfs tot grote maatschappelijke onrust leiden. Een louter technische, juridische of ethische discussie bestaat eigenlijk niet. Het is daarom belangrijk om het gesprek over dit soort risico’s niet alleen vanaf het begin te voeren, maar ook met alle disciplines samen. Data, privacy en ethiek zijn hierbij drie naast elkaar staande pijlers, die samen het project moeten kunnen dragen. Een drie-eenheid dus, waarbij de onderlinge samenhang net zo belangrijk is als de afzonderlijke delen.
Stijl omhoog of geleidelijk?
In de prakrijk zien we twee manieren waarop organisaties risico’s in dataprojecten benaderen. De eerste noemen we de “alpinisme-aanpak”, waarbij risicomanagement een aparte plaats binnen het project heeft. De tweede noemen we “de geleidelijke weg omhoog”, met een meer geïntegreerde aanpak. Beide lichten we hieronder toe.
Scenario 1: alpinisme
Deze aanpak sluit aan bij de klassieke manier om risico’s beheersen. Gedurende het ontwikkeltraject houd je per onderwerp één of meerdere risicosessies. Dus een DPIA om de privacy- en securityrisico’s te benoemen, een algoritme assessment voor de meer technische vragen en een data ethiek workshop (bijvoorbeeld een DEDA-sessie) om morele vraagstukken boven tafel te krijgen. In elk assessment verzamel je risico’s, benoem je beheersmaatregelen en actiehouders.
Stem je dit niet op elkaar af, dan zit je op drie momenten, in drie verschillende samenstellingen over toegangsbeveiliging en transparantie te praten. Bovendien praat je drie keer over een onderwerp dat op dat moment nieuw is, waardoor je in één keer tegen alle eisen tegelijk aanloopt. Een muur waarbij je als alpinist misschien je vingers zou aflikken, maar waarvan je als projectteam vooral de uitzichtloosheid aan de voet meekrijgt. Gevolg is dat elk assessment als hindernis gezien wordt, waar je dus het liefst zo snel mogelijk omheen wilt om daarna weer gewoon “aan het werk” te kunnen. En waardoor het echte doel, namelijk het leggen van een solide fundament onder je dataproject, geen schijn van kans heeft.
Gevisualiseerd ziet dit er als volgt uit:
In dit scenario is het project volledig gefocust op wat het moet opleveren. Er is pas aandacht voor risico’s als het echt niet anders kan. Daardoor loop het projectteam bij elk assessment opnieuw tegen een muur van issues aan. Het best mogelijke resultaat in dit scenario is dat je elke keer de discipline en de energie weet op te brengen om het gat weer dicht te lopen. Met een grote kans dat dingen achteraf gezien toch anders moeten. Of hádden gemoeten.
Scenario 2: de geleidelijke weg omhoog
Hoe kan het beter? Zoals reeds gesteld: door vanaf het begin niet alleen recht naar voren te kijken, maar ook zijwaarts en soms achteruit. Dit is hieronder gevisualiseerd in Scenario 2: de geleidelijke weg omhoog. De route is vanaf het begin stijgend, maar uiteindelijk veel minder intensief dan de alpinistenroute. Door de risico’s in samenhang te benaderen en keuzes te maken op momenten dat ze zich voordoen, kom je stap voor stap op een steeds hoger niveau. Het projectteam groeit zo in zijn rol en op het moment dat je een assessment houdt, zijn niet alleen de vragen bekend, maar ook de antwoorden.
Zeker, ook als alpinist kun je uiteindelijk boven komen. De manier waarop is echter een wereld van verschil. Wat ook geldt voor het niveau waarop je uitkomt. En je het volgende project weer ingaat.
Wat te doen?
Wil je meer weten over de integratie van data, privacy en ethiek in je dataproject? Of heb je een concrete casus en wil je weten hoe je het in jouw geval zou kunnen aanpakken? Neem dan vrijblijvend contact met ons op. We lopen graag met je mee omhoog!
Daarnaast bieden we een Online Workshop Data, Privacy & Ethiek aan, waar je meer inzicht krijgt in deze thema’s. Meer informatie en direct inschrijven kan hier.