72.5 Welke normen?

Gelet op de nieuwheid van AI zou men kunnen menen dat er daarvoor nog niet veel (ethische) normen of standaarden zijn ontwikkeld. Niets is echter minder waar. Zowel de grote technologiebedrijven, internationale ingenieursorganisaties en bijvoorbeeld door de Raad van Europa en de Europese Commissie geraadpleegde deskundigen zijn inmiddels met beginselen en normen gekomen. Uit de private hoek zijn afkomstig de beginselen van het Partnership on AI1 en de Asilomar-principles, die bestaan uit 24 beginselen om ethisch met AI ontwikkeling om te gaan.2 Het Institute of Electrical and Electronics Engineers (IEEE) heeft een discussiestuk gepubliceerd teneinde met de relevante belanghebbenden problemen te identificeren en daarover tijdig consensus te vinden.3 Verder heeft de Europese Commissie een AI strategie bekend gemaakt, waarvan het opstellen van ethische richtlijnen onderdeel uitmaakt.4 Deze richtlijnen worden eind 2018 verwacht en deze zullen worden gebaseerd op de statement van de European Group on Ethics in Science and New Technologies van 9 maart 2018.5 Ook het Rathenau-instituut heeft op verzoek van de Raad van Europa (PACE) dergelijke beginselen opgesteld.6 Daarnaast heeft de ITU in Geneve dergelijke beginselen ontwikkeld.7

In essentie adresseren deze beginselen en normen vergelijkbare onderwerpen en problemen, al is de reikwijdte deels verschillend en worden niet alle onderwerpen in alle beginselen genoemd. De door de hiervoor genoemde European Group opgestelde beginselen geven een goede weergave van de onderwerpen die in de hiervoor genoemde beginselen worden genoemd en kunnen daarom als een goede illustratie dienen van beginselen/normen die bij de ontwikkeling en het gebruik van AI in acht moeten worden genomen, zeker nu de Europese Commissie daarop haar ethische normen wil baseren. Deze beginselen houden het volgende in:8

(I) de menselijke waardigheid moet worden geborgd en daarom moeten grenzen worden gesteld aan de determinatie en classificering van personen, met name wanneer zij daarover niet worden geïnformeerd en aan interactie met AI/robots worden blootgesteld terwijl zij dit niet weten;

(II) autonomie moet behouden blijven en mensen moeten derhalve zelf kunnen beslissen of en wanneer zij beslissingen en handelingen overlaten aan AI;

(III) AI moet transparant en voorspelbaar zijn en moet zo zijn ontworpen dat de effecten ervan in overeenstemming zijn met menselijke waarden en mensenrechten. AI mag, mede gelet op het voorzorgsbeginsel, geen onacceptabele risico’s voor mensen veroorzaken en ook niet heimelijk mensen sturen, maar moet juist bijdragen aan toegang tot kennis en kunde van mensen. Verder moet discriminatie vanwege vooroordelen in datasets worden voorkomen en mag AI geen inbreuk maken op de vrijheid van meningsuiting en het recht om ongekleurde informatie te ontvangen, maar moet het integendeel bijdragen aan de collectieve intelligentie en bijdragen aan democratische processen waarop samenlevingen rusten. Het vorenstaande zou ook kunnen leiden tot nieuwe (mensen)rechten zoals het recht op betekenisvol contact met een mens en het recht om niet geprofileerd, gemeten, geanalyseerd, gecoacht of beïnvloed te worden;9

(IV) AI moet bijdragen aan (wereldwijde) rechtvaardigheid en gelijke toegang tot de voordelen van AI bieden. AI moet ook leiden tot nieuwe modellen van winstdeling en gelijkheid in de samenleving. Bedacht moet echter worden dat een veel betere toegang en analyse van data van individuen ook druk kan zetten op sociale cohesie, bijvoorbeeld in verband met ziektekostenverzekeringen en het sociale stelsel;

(V) regulering van AI moet het gevolg zijn van een democratisch proces en interactie met het publiek. Essentieel voor deze democratie zijn een pluraliteit van normen, diversiteit en het accommoderen van verschillende concepten van een goed leven;

(VI) AI moet bijdragen aan rechtsstatelijke principes en mag geen (ontoelaatbare) inbreuk maken op privacy of op veiligheid. Er moet een rechtvaardige en duidelijke verdeling van verantwoordelijkheden plaatsvinden en er moeten efficiënte bindende regels bestaan, in verband waarmee overheden en internationale organisaties bijvoorbeeld duidelijk moeten maken waar de aansprakelijkheid voor schade veroorzaakt door AI ligt. Voorts moeten effectieve instrumenten ter voorkoming van nadeel door AI worden geïmplementeerd;

(VII) AI mag geen inbreuk maken op veiligheid en lichamelijke en geestelijke integriteit. Dit beginsel valt uiteen in drie onderdelen: externe veiligheid voor mensen en omgeving, betrouwbaarheid en interne beveiliging, bijvoorbeeld tegen hacken, en emotionele veiligheid in interacties met mensen. In verband met al deze onderdelen moet specifiek aandacht worden besteed aan kwetsbare groepen en de mogelijkheid van gebruik van AI voor onwenselijke doeleinden. Te denken valt aan het gebruik van AI als wapen;

(VIII) AI mag geen inbreuk maken op de bescherming van data en privacy. Dit brengt onder meer mee dat mensen het recht hebben verschoond te blijven van AI die de vrije meningsvorming en ontwikkeling kan beïnvloeden, het recht om relaties met andere mensen aan te gaan en het recht om niet (onnodig) in de gaten te worden gehouden; en

(IX) AI moet duurzaam zijn, zowel voor de omgeving (het milieu) als toekomstige generaties.

Uit het vorenstaande blijkt dat de beginselen voor de ontwikkeling en het gebruik van AI nog niet heel concreet zijn uitgewerkt. Zij zijn daarmee nog niet geschikt om als zodanig in wetgeving op te nemen. Hoe zou regulering van AI dan moeten plaatsvinden? Daarop wordt hierna ingegaan en in dat verband zal vooral worden bezien welke rol TPR (met name in relatie tot het bestuursrecht) daarin zou kunnen spelen.