8.5.2 Mogelijkheden om datagedreven werving en selectie te faciliteren

Om het benutten van de beschreven kansen te bevorderen, doen wij een aantal aanbevelingen.

Onze eerste aanbeveling is een oproep tot meer samenwerking tussen datawetenschappers en juristen met kennis van het toepasselijke recht. In de inleiding vermeldden wij al dat vanuit verschillende hoeken aanbevelingen worden gedaan of randvoorwaarden worden geformuleerd voor het verantwoord omgaan met gebruik van algoritmes bij besluitvorming. Doorgaans betreft het documenten met een hoog abstractieniveau. Een voorbeeld zijn de ‘Ethische Richtsnoeren voor Betrouwbare KI’ van de Europese Unie.2 Deze aanbevelingen moeten verder geconcretiseerd worden voor de relevante toepassingsdomeinen, zoals personeelsselectie of de platformsector. Ook is nodig dat de verschillende door ons belichte keuzes (o.a. par. 8.3.4) die bij het ontwerpen van een ML-algoritme kunnen worden gemaakt, vanuit verschillende hoeken worden belicht.

Onze tweede aanbeveling is om het discriminatieverbod en het gegevensbeschermingsrecht aldus uit te leggen of in te richten dat het gebruik van de beschermde kenmerken toegestaan is, voor zover dit modellen nauwkeuriger maakt en meer in lijn met noties van rechtvaardigheid.3 Concreter gesteld bevelen wij aan om toe te staan dat met behulp van gegevens over beschermde kenmerken in de dataset, discriminatie mag worden gekwantificeerd en gecorrigeerd. Voorwaarde zou moeten zijn dat de kenmerken niet ten nadele van beschermde groepen terechtkomen in het beslisalgoritme, en slechts onder voorwaarden ten voordele van deze groepen. Desgewenst kan hiervoor de mogelijkheid tot voorkeursbehandeling naar Nederlands recht worden uitgebreid (zie par. 8.3.3). Onderzocht moet worden hoe het gegevensbeschermingsrecht dit zou kunnen faciliteren.

Onze derde aanbeveling ziet erop dat meer duidelijkheid komt ten aanzien van de eisen die gesteld worden aan discriminatievrije selectie, al dan niet met behulp van algoritmes. Naar onze mening is naar huidig recht ook voor reguliere selectieprocedures te weinig geconcretiseerd onder welke voorwaarden een selectieprocedure discriminatievrij is ingericht. Een meer uitgewerkte (Europese) benadering zou kunnen worden gemodelleerd naar de huidige Amerikaanse richtlijnen voor het vaststellen van discriminatie bij werving en selectie. Al in 1978 heeft de Amerikaanse overheid de Uniform Guidelines on Employee Selection Procedures aangenomen.4 Daarin zijn maatstaven neergelegd voor het gebruik van personeelsselectie om indirecte ongelijke behandeling (adverse impact) mee te bestrijden, onder andere via vereisten van validering en documentatie. De richtlijnen werken met een vuistregel volgens welke de ‘selection rate’ van verschillende beschermde groepen in een sollicitatieprocedure een aanwijzing kan opleveren dat een procedure al dan niet discriminatoir was. Het wordt als problematisch beschouwd als de kans dat (bijvoorbeeld) een vrouw geselecteerd wordt minder dan 80% is van de selectiekans van mannen. Is dat het geval, dan moet de werkgever aantonen dat de selectiemethode ‘gevalideerd’ is (gerechtvaardigd kan worden). Op hoofdlijnen gaat het er hierbij om dat de selectiemethode uit relevante criteria is opgebouwd, objectief en fair is en voldoet aan bepaalde statistische eisen. In de richtlijnen wordt verder vrij uitvoerig uitgewerkt hoe deze validatie kan worden geleverd, waarbij de werkgever verschillende technieken kan gebruiken afhankelijk van de gekozen selectiemethode. De richtlijnen zijn ook van toepassing op personeelsselectie met gebruik van kunstmatige intelligentie.5 Wij bevelen aan om een Europese of Nederlandse variant van deze richtlijnen te maken, die bovendien de validatie-eisen voor het gebruik van ML-algoritmes preciseert.

In het Europese en Nederlandse gelijkebehandelingsrecht is nog maar heel sporadisch terug te vinden dat de (historische) uitkomsten van selectieprocedures bij een specifieke werkgever een aanwijzing voor discriminatie zijn. In Feryn is wel aangenomen dat een vermoeden van discriminatie gewekt door discriminatoire uitlatingen, kon worden weerlegd door te laten zien dat de werkgever op proportionele wijze mensen uit beschermde groepen had aangenomen.6 Dit kan een aanknopingspunt zijn voor het toestaan van algoritmes als die aantoonbaar tot een evenredig aantal selecties van kandidaten uit verschillende subgroepen leiden. Het bestrijden van discriminatie zou dan ook een gerechtvaardigde grondslag voor gegevensverwerking kunnen opleveren in de zin van art. 6 lid 1 sub f AVG. Is er wel een bias richting een bepaalde groep, dan zou moeten worden aangetoond met daartoe geëigende middelen – zoals bijvoorbeeld audits7 of gegevens over het ontwerpproces – dat de methode valide is en/of dat is getracht bij het ontwerpen van de selectieprocedure discriminatie te voorkomen, en dat de gebruikte gegevens daarvoor relevant waren. Daarbij moeten uiteraard de eisen van het gelijkebehandelingsrecht en het gegevensverwerkingsrecht in acht worden genomen die in de vorige paragrafen zijn besproken.