8.1 Inleiding

‘Slimme algoritmes’ worden steeds vaker ingezet voor het nemen van maatschappelijk relevante beslissingen.2 Zo zetten werkplatforms systemen in om werk of diensten te verdelen, de prijs van een dienst te bepalen3 of fraude te detecteren en het account van een platformwerker te blokkeren. Dit laatste is inmiddels onderwerp van een bij de Rechtbank Amsterdam aanhangige procedure op grond van de AVG tussen Britse Uber-chauffeurs en Uber.4 In een andere procedure hebben Uber-chauffeurs aanspraak gemaakt op verstrekking van persoonsgegevens en de logica van de algoritmes van Uber.5 Ook traditionele bedrijven werken steeds vaker met HR analytics.6

De aantrekkingskracht van geautomatiseerde systemen is dat zij sommige taken beter en sneller kunnen uitvoeren dan menselijke experts. Zo kunnen zij veel sneller en zonder aanzien des persoons grote hoeveelheden data verwerken. Als dat tot ‘eerlijkere’ beslissingen leidt, zodat Mohamed bijvoorbeeld even vaak wordt uitgenodigd voor een sollicitatiegesprek als Mark,7 of dat meer vrouwelijke managers worden aangesteld,8 zou dat voor zowel werkgevers als werkzoekenden een welkome stap op weg naar een inclusieve arbeidsmarkt zijn.9 Uit een recent rapport van het Sociaal-Cultureel Planbureau blijkt namelijk dat discriminatie bij selectie van personeel vaak voorkomt, met name op afkomst.10

Hoewel algoritmische besluitvorming kansen biedt voor het tegengaan van arbeidsmarktdiscriminatie, leidt het niet automatisch tot eerlijkere besluitvorming.11 Experts waarschuwen dat geautomatiseerde besluitvorming bestaande vooroordelen en discriminatie juist dreigen te bestendigen.12 Het gebruik van algoritmes in de arbeidsrelatie wordt daarbij vaak genoemd als voorbeeld.13 Naast het bezwaar van discriminatie, zijn er zorgen over de gevolgen voor privacy van betrokkenen bij het gebruiken van grote hoeveelheden data. Deze problemen worden alom onderzocht en in kaart gebracht door denktanks en overheden.14 Het lijkt waarschijnlijk dat meer regulering op komst is. In afwachting daarvan rijst reeds de vraag welke normen thans het gebruik van algoritmes reguleren.

In dit hoofdstuk betrekken wij deze vraag op selectie van werknemers. Hieronder verstaan wij de selectie in de reguliere sollicitatieprocedure, maar ook de toegang tot werk voor platformwerkers. Dit onderwerp is temeer relevant, omdat de Minister van Sociale Zaken in het kader van het Actieplan Arbeidsmarktdiscriminatie in oktober 2019 een conceptwetsvoorstel aan de Raad van State heeft aangeboden dat, indien aangenomen, werkgevers zou verplichten een werkwijze op te stellen om discriminatie bij werving en selectie te voorkomen, terwijl uitzendbureaus en arbeidsbemiddelaars een werkwijze zouden moeten opstellen om arbeidsmarktdiscriminatie bij respectievelijk de terbeschikkingstelling en de arbeidsbemiddeling te voorkomen. Dit betekent ook dat werkplatforms die moeten worden gekwalificeerd als werkgever, uitzendbureau of arbeidsbemiddelaar aan deze norm zouden moeten voldoen. Bovendien moet men, als gebruik wordt gemaakt van een geautomatiseerd systeem, zich ervan vergewissen dat de uitkomsten, voor zover redelijkerwijs te beoordelen, geen arbeidsmarktdiscriminatie met zich brengen.15 Dit brengt ons tot de volgende probleemstelling. Als een werkgever een selectieprocedure wil opzetten met behulp van machine learning algoritmes, en deze procedure moet technisch zo ontworpen zijn dat hij aan de relevante juridische normen voldoet (‘compliant by design’), waar heeft de werkgever zich dan aan te houden?

In het navolgende bakenen wij eerst een aantal relevante begrippen af en geven we een toelichting op het verschijnsel ‘machine learning algoritmes’ (par. 8.2). Daarna gaan wij na welke grenzen het recht op gelijke behandeling, respectievelijk het gegevensverwerkingsrecht stellen aan het gebruik van deze algoritmes (par. 8.3 en 8.4). In paragraaf 8.5 exploreren wij welke meerwaarde algoritmes zouden kunnen hebben, en welke maatregelen genomen zouden kunnen worden om de meerwaarde te kunnen benutten bij selectie van personeel, tegen de achtergrond van het recht op gelijke behandeling en het gegevensverwerkingsrecht. Paragraaf 8.6 bevat de conclusie.

Tot slot nog het volgende. Het onderwerp ‘algoritmes bij personeelsselectie’ is breed en er valt (heel) veel over te zeggen. Daarvoor is niet alleen gedegen kennis van het recht vereist, maar ook inzicht in de werking van geautomatiseerde systemen. Wij hebben discussies in de datawetenschap bestudeerd door ons breed in te lezen, relevante congressen te bezoeken en experts te spreken. Maar we zijn per slot van rekening juristen en geen datawetenschappers. Daarom zien wij dit hoofdstuk als een voorzichtige verkenning van een juridische analyse van het gebruik van machine learning bij personeelsselectie. We houden uitdrukkelijk rekening met de mogelijkheid dat anders gedacht kan – en wellicht: moet – worden over hetgeen wij bespreken, maar hopen dat we de juridische discussie in Nederland hiermee (verder) op gang kunnen brengen. Het onderwerp is te belangrijk om enkel aan datawetenschappers over te laten.