Data ethiek
Innovatieve toepassing van data kan de wereld verrijken, grootse inzichten opleveren en tot de meest fantastische uitkomsten leiden. Maar het kan ook fantastisch misgaan. Wanneer een algoritme bepaalde groepen benadeelt, als mensen ten onrechte verdacht worden gemaakt of uitgesloten worden van belangrijke diensten. Als ontwikkelaar, maar ook als gebruiker, moet je je dus voortdurend bewust zijn van het effect dat een toepassing kan hebben als deze eenmaal “buiten staat”. Ook als iets technisch kan, wettelijk mag en er ook al een klant klaar zit om het in gebruik te nemen. Juist dan, als de druk om snel te leveren groot is, is het belangrijk om niet alleen naar voren te kijken, maar ook opzij en om de hoek. Kan ik mijn toepassing ook verkopen aan de mensen die niet mijn klant zijn, maar op wel met de gevolgen te maken krijgen?
Integrale blik
Elke jaar, zelfs elke dag, dat we meer ervaring opdoen met spannende, grootse en fantastische dataprojecten levert meer inzicht op in de valkuilen ervan. Denk aan de volgende voorbeelden:
– Een algoritme dat CV’s selecteert en is getraind op de bestaande werknemerspopulatie, waardoor groepen die nog niet binnen zijn daar ook niet zullen komen
– Een computersysteem dat het risico op fraude moet berekenen en daarbij etnische kenmerken een belangrijke rol laat spelen
– Computermodellen die gebeurtenissen die zich in samenhang voordoen ten onrechte als oorzaak en gevolg classificeren.
De eerste stap om verantwoord en toekomstbestendig data in te zetten, is medewerkers van dit soort risico’s bewust te maken. Van de directie tot de werkvloer en van de ontwikkelaars tot degenen die met de uitkomsten gaan gebruiken. De tweede stap is om het ontwikkelproces zo in te richten dat er regelmatig momenten worden ingelast voor “georganiseerde tegenspraak”. Denk hierbij aan de inzet van werkvormen of analysemethoden die erop gericht zijn om blinde vlekken of conflicterende waarden zichtbaar te maken. Uiteindelijk wil je dat verantwoord datagebruik onderdeel wordt van het DNA van je onderneming. En dat de vraag of iets wenselijk is net zo vanzelfsprekend is als de vraag of iets kan of mag. Dit bedoelen we met een “integrale blik”.
Een overzicht van de normen in het Ethisch Kader gebundeld op één pagina. Download hieronder de PowerPoint-presentatie.
Bij het toepassen van nieuwe technologie heb je vrijwel altijd te maken met de drie-eenheid Data, Privacy & Ethiek.
Hoe kan VKA hierbij helpen?
– We kunnen beginnen bij het begin: awareness creëren. Door medewerkers, teams en leidinggevenden mee te nemen in het belang van verantwoord datagebruik. Bijvoorbeeld door het zichtbaar maken van ethische dilemma’s die zich in de eigen organisatie kunnen voordoen, hoe je dit herkent en hoe je er vervolgens mee kunt omgaan
– We kunnen helpen om kritisch te kijken naar de potentiële maatschappelijke impact van projecten een vaste plaats te geven in de werkwijze van je organisatie
– We kunnen een algoritmetoets uitvoeren. Hiervoor hebben we een methode ontwikkeld waarbij aan de hand van acht aandachtpunten in beeld wordt gebracht of aan alles is gedacht, of dat de toepassing van een algoritme nog risico’s bevat
– We kunnen helpen bij het opstellen van een algoritmeregister, waarmee je als organisatie transparant maakt welke algoritmes gebruikt worden, hoe deze gebruikt worden en hoe je ervoor zorgt dat deze betrouwbaar zijn.
– We kunnen adviseren over het inzetten van hulpmiddelen of werkmethoden, zoals bijvoorbeeld DEDA: Link.
– We kunnen helpen met het in kaart brengen van belangrijke waarden die in een organisatie leven en deze vervolgens “tot leven wekken” in concrete richtlijnen of visuals
– We kunnen adviseren bij het toepassen van de integrale aanpak op specifieke projecten: kan het, mag het en wil ik het?
– En we kunnen helpen met concrete ethische toetsing, ad hoc in een concreet geval of door structureel, door te helpen een ethische commissie op te zetten of door een beroep te doen op een onafhankelijke, externe commissie.
Wat te doen?
Bent u bij het lezen van deze pagina punten tegengekomen waarbij u even bent blijven hangen? In dat geval is het interessant voor u om hierover eens van gedachten te wisselen met één van onze adviseurs. Het is immers een relatief nieuw aandachtgebied, waarbij alleen al even sparren soms heel erg kan helpen bij de eigen beeldvorming. Die rol van sparring partner vervullen wij graag. Voelt u zich hierdoor aangesproken, neem dan gerust contact met ons op.
Gerelateerde dienstverlening
Data en regulering
Hoe maak ik verantwoord gebruik van data en algoritmes?
Algoritmetoets
Hoe haal ik waarde uit data?
Opleidingen
Ik wil meer kennis op doen in data regulering, Machine Learning en data vaardigheden!