Terugblik op het Nationale Algoritme Debat 2019

Algoritmes worden gebruikt om ons te vertellen welke series we kunnen bekijken of we een hypotheek kunnen krijgen of we recht hebben op een uitkering en welke medische risico’s we lopen. Ze hebben invloed op ieder aspect van ons leven en daarom is het goed om hier met elkaar over in gesprek te gaan. Wat vinden wij als burger, bedrijf of overheidsinstelling belangrijk als het gaat om het gebruik van algoritmes? Hebben we voldoende zicht op de werking van algoritmes? Moet er een toezichthouder komen? 

Op woensdag 13 november 2019 organiseerden Verdonck, Klooster & Associates (VKA) en Totta data lab het tweede Nationale Algoritme Debat, waar onder andere deze onderwerpen aan bod kwamen. Heb je het gemist, ben je nieuwsgierig of wil je het debat stiekem herbeleven? Lees dan snel verder.

Melanie Peters (Directeur van het Rathenau Instituut), Jan Middendorp (Tweede Kamerlid van de VVD), Sandra van Heukelom-Verhage (advocaat bij Pels Rijcken) en Jitka Beukenkamp (Head of Digital Benelux, Cognizant) gingen met elkaar in debat onder leiding van André Hendriks van VKA. 

Het panel beschrijft dat algoritmes ons juist helpen om efficiënt en effectief ons werk in te richten of keuzes te maken. Mogelijk dat daardoor werk en banen verloren gaan, maar er komen er ook weer veel bij. Mensen moeten leren samenwerken met algoritmes. Algoritmes ondersteunen mensen in hun dagelijkse werkzaamheden. 

Er zijn veel organisaties steeds meer tijd en geld steken in het ontwikkelen van algoritmes. “Doordat algoritmes een steeds grotere rol spelen, is het ook goed om te kijken naar de wijze waarop daar toezicht op wordt gehouden. Dat is een goede en belangrijke vraag”, aldus een van de sprekers. Het in grote getale aanwezige publiek denkt daar net zo over, zo blijkt uit de stemming. Toch blijkt het ook lastig te zijn om meer grip te krijgen op het gebruik van algoritmes want de ontwikkelingen gaan razendsnel en ons rechtssysteem is er nog niet op ingericht. De panelleden benadrukken dat de makers van algoritmes een grote verantwoordelijkheid hebben. 

‘’We kennen heel veel risico’s en neveneffecten nog niet. We focussen ons graag op ’tech for good’, maar dat betekent ook dat je alle risico’s op een rij moet hebben”, aldus het panel dat ziet dat veel organisaties hierin zoekende zijn. Grote uitvoeringsorganisaties zijn bezig met de vraag: wat is de relatie tussen mens en machine? Wat zijn de consequenties die ik ga verbinden aan het resultaat van het algoritme?

Het publiek stemt tijdens het debat steeds over verschillende stellingen en dat zorgt voor een interessante dynamiek. Over de volgende stelling is (bijna) iedereen het eens: zolang de overheid geen goed toezicht kan houden, moet het voor de overheid verboden worden om geavanceerde algoritmes te gebruiken. Een van de sprekers merkt op dat het dan wel belangrijk is om te bepalen wat een geavanceerd algoritme precies is. “Hoe ga je bepalen waar je toezicht op gaat houden en wat is toezicht houden dan precies? Normen en waarden die we in het offline leven hebben, zouden net zo goed online moeten gelden.” We hebben te maken met een nieuw soort ontwikkeling en uiteindelijk moeten we als samenleving een gedeelde opvatting krijgen over wat we acceptabel vinden en wat niet. Dat is ethiek en daarom is het zo goed dat we hier deze discussie voeren.” Maar als we eerst dit soort afwegingen moeten maken, gaan we dan niet veel te langzaam?

Naast regulering vanuit de overheid, ligt er ook een belangrijke verantwoordelijkheid bij de organisaties die algoritmes ontwikkelen en toepassen. Maar ook eindgebruikers hebben een verantwoordelijkheid om zich goed te laten informeren. Het is nog lang niet voor iedereen helder, dat grote platformaanbieders, zoals Facebook en Google, hun diensten ‘gratis’ leveren in ruil voor onze data. Moeten mensen hiertegen beschermd worden? Wat is de eigen verantwoordelijkheid van mensen? Het kwam samen in de volgende stelling: privacybescherming met bijvoorbeeld een AVG is een achterhoedegevecht, mensen leveren hun data graag. Dit werd duidelijk in een enquête die eerder dit jaar is uitgevoerd. Bij de vraag wie privacy belangrijk vond, gingen alle handen de lucht in. Bij de vraag wie er op Facebook zit, werden de handen weer opgestoken. Het is met de verleiding van ‘gratis’ diensten niet eenvoudig mensen bewust te maken van de risico’s. Een van de sprekers herkent dit, maar verwachten dat de situatie gaat veranderen. “Het is net als in het verkeer, uiteindelijk ga je zelf inschatten of risico’s aanvaardbaar zijn. Vragen als: hoeveel data kost het mij en wat levert het op, worden steeds makkelijker te beantwoorden door mensen als er meer bekendheid komt. Gelukkig verschijnen er steeds meer goede journalistieke stukken die hier voorbeelden en informatie over geven. Wanneer mensen goed geïnformeerd zijn, kunnen mensen goede keuzes maken.” De andere panelleden zijn het hiermee eens en benadrukken de verantwoordelijkheid van zowel organisaties, bedrijven, burgers en overheid om die informatie te leveren en mensen bewust(er) te maken.

Tijdens de tweede editie van het Nationale Algoritme Debat werd duidelijk dat veel discussies over algoritmes gevoed worden door een gebrek aan kennis. Mensen hebben meer kennis nodig over de werking en gevolgen van het gebruik van algoritmes om goede afwegingen te maken en een goed debat te kunnen voeren. Totta data lab en VKA hebben samen een Algoritme Keurmerk ontwikkeld, een toetsingskader waarmee getoetst kan worden of het algoritme goed is gebouwd, goed wordt beheerd en goed wordt gebruikt. 

 

“Doordat algoritmes een steeds grotere rol spelen, is het ook goed om te kijken naar de wijze waarop daar toezicht op wordt gehouden. Dat is een goede en belangrijke vraag”