Op 10 november vond het Nationale Algoritme Debat plaats in ‘beeld en geluid’ in Den Haag. Het event werd uitgezonden via een livestream, waarmee we alle geïnteresseerden de kans gaven om het debat fysiek of digitaal bij te wonen. Vanuit VKA kijken we terug op een succesvol evenement dat mooie inzichten heeft gegeven ten aanzien van de nieuwe Europese AI-verordening.
Graag delen we de belangrijkste inzichten uit het debat:
- AI aan regels gebonden is bittere noodzaak. Echter is het belangrijk om zowel de regulering als het toezicht hierop effectief en efficiënt in te richten. Tevens is het essentieel dat de AI-verordening aansluiting vindt met bestaande regulering om de verantwoording mee te nemen in reeds bestaande processen.
- Voor organisaties met een goed kwaliteitsmanagementsysteem en -proces, is de stap richting het voldoen aan de AI-verordening het kleinst. Naast bepalen van de impact van de toepassing is het bijvoorbeeld belangrijk om net als voor andere processen keuzes vast te leggen en periodiek te evalueren. Het verschil met standaard processen ligt onder andere in het zelflerend aspect van A.I., waarmee het stellen van kaders en de periodieke evaluatie meer dimensies kent.
- Transparantie over doelstelling, gemaakte keuzes en beslissingen is noodzakelijk. Onderscheid in doelgroepen (betrokkenen, beslissers, experts, journalisten etc) is essentieel om transparant te kunnen zijn op een begrijpelijke wijze. Transparantie over de exacte werking is mogelijk, maar in complexe situaties moeilijk voor alle doelgroepen begrijpelijk te maken.
- Het ontwikkelen, inzetten en beheren van AI-toepassingen vraagt samenwerkingen over meerdere vakgebieden: data science, data engineering, IT, security, privacy en beleid.
- Niet alleen de ontwikkelaars zijn verantwoordelijk voor de toekomstige regulering. Zij zullen uiteraard de nodige input moeten leveren op basis waarvan organisaties goede afwegingen kunnen maken en besluitvorming kunnen beargumenteren en vastleggen.
Sfeerimpressie
Om 15.30 mochten we de eerste aanwezigen verwelkomen. De zaal liep – op anderhalve meter – snel vol met gelijkgestemden: wat houdt de AI-verordening in en wat gaat deze voor mij en mijn organisatie betekenen?
In een introductie legde Anne Meuwese – Hoogleraar Public Law & Governance of Artificial Intelligence – de kern uit van de concept verordening: de verordening is risico gebaseerd waardoor er strengere eisen gesteld gaan worden aan algoritmes met een hoge impact. Anne geeft een reflectie op de gestelde definities ‘gaan alle betrokkenen, van ontwikkelaars en rechters, elkaar kunnen vinden in definitiekwesties?’, en daagt uit om mee te denken over alternatieven in de wijze van regulier en het organiseren van het benodigde toezicht. Anne poneert dat, met deze concept verordening, Europa het voorbeeld stelt voor de rest van de wereld.
Killian Gross heeft met een videoboodschap toelichting gegeven vanuit het perspectief van de Europese Commissie. Hij heeft toegelicht hoe bij de ontwikkeling rekening gehouden is met de snelheid van technologisch ontwikkelingen en hoe de definities tot stand zijn gekomen. Met dit concept beoogt de EC een voorstel te doen waarmee ook nieuwe ‘A.I.’ technieken van de toekomst gereguleerd kunnen gaan worden.
Met (inmiddels) dezelfde basis aan kennis over de AI-verordening konden alle deelnemers het debat volgen tussen de panelleden vanuit drie invalshoeken: uitvoer, wet- en regelgeving en beleid vanuit zowel profit als non-profit perspectief. De rode draad in de discussie betreft met name de kansen die de concept verordening nu al biedt voor het verbeteren van kwaliteit, verantwoording en transparantie over bestaande en te ontwikkelen algoritmes.
Aan de interactie met het publiek is te merken dat er veel kanttekeningen en vragen zijn over de uiteindelijke uitwerking, vereisten en implicaties van de verordening. Alsook bij het ontwikkelen, inzetten en beheren van algoritmes (AI-toepassingen): is het inderdaad mogelijk om AI voldoende transparant te maken? En welke afweging maak je: een betere voorspelling versus de uitlegbaarheid van de gebruikte methodologie?
Meer weten?
Heb jij het Nationaal Algoritme Debat gemist of ben je nieuwsgierig naar wat de AI-verordening gaat betekenen voor het ontwikkelen, inzetten en beheren van algoritmes? Bekijk dan de opname van de livestream door het formulier hieronder in te vullen.