8.5.1 Datagedreven selectie biedt kansen voor gelijke behandeling

In veel onderzoeken is bevestigd dat mensen minder rationeel beslissen dan ze zelf denken, en ook met de beste intenties onbewust beïnvloed kunnen worden door vooroordelen.2 In feite zijn mensen zelf ook een ‘black box’. Door het bestuderen van een ‘menselijke’ beslissing in een enkele reguliere selectieprocedure is dit niet goed bloot te leggen. Desgevraagd zullen de beslissers bijna altijd wel relevante eigenschappen van de gekozen kandidaat kunnen noemen die de afgewezen kandidaten niet hadden. Om toch discriminatie bloot te leggen zoekt men bij de reguliere sollicitatiemethode soms zijn toevlucht tot de al genoemde ‘praktijktests’,3 maar dit is geen oplossing voor de ontwerpfase van een selectieprocedure.

Datagedreven personeelsselectie, mits goed en met voldoende oog voor de potentieel discriminatoire effecten uitgevoerd, biedt de volgende concrete kansen voor gelijke(re) behandeling. Teneerste kan het leiden tot meer gestructureerde besluitvorming. Het zorgvuldig ontwerpen van een datagedreven selectieprocedure kan bijvoorbeeld resulteren in een veel uitgebreidere en een meer geëxpliciteerde set functie-eisen en prestatie-indicatoren. Dit verkleint op zichzelf reeds de kans op onbewuste discriminatie.

Een tweedevoordeel is dat de ontwerper die streeft naar een eerlijk ML-algoritme gedwongen wordt veel preciezer na te denken over de doelstellingen die hij wil verwezenlijken met het ML-algoritme en de mogelijke bedreigingen die dat oplevert voor het beginsel van non-discriminatie. Bij het ontwerpen kan zodoende bewuster rekening worden gehouden met het risico van discriminatie, bijvoorbeeld bij het aanleveren van functionarisprofielen en het vaststellen van outputvariabelen. Potentieel discriminerende onderdelen van selectieprocedures zouden bovendien met behulp van ML-algoritmes meer geobjectiveerd kunnen worden, of anders geschrapt. Denk aan het inschatten van persoonlijkheidskenmerken zoals ‘team-player’, of ‘in het team passen’. Dit zijn kenmerken die in de klassieke sollicitatieprocedure vaak intuïtief – en mogelijk op discriminatoire wijze – de doorslag kunnen geven tussen twee gelijkwaardige kandidaten.

Het derde voordeel, dat in onze optiek een bijzonder grote meerwaarde van het gebruik van ML-algoritmes is, is dat bij het ontwerpen van het algoritme kan worden beoordeeld wat de effecten van de beslisfunctie zijn op de verschillende, daardoor geraakte groepen. Het wordt mogelijk een vergelijking te maken, door bijvoorbeeld te vragen wat voor uitkomsten het oplevert als een ‘goede werker’ wordt gedefinieerd als iemand die nooit te laat komt of juist als iemand die nooit te vroeg weggaat. Een subsidiariteitstoets wordt mogelijk: kan gekozen worden voor alternatieve outputvariabelen die gelijkwaardig zijn, maar minder impact hebben op beschermde subgroepen?4 In gevallen waarin op grond van de AVG een gegevensbeschermingseffectbeoordeling moet worden uitgevoerd (bijvoorbeeld als sprake is van profilering, zie par. 8.4.3), is dit in elk geval een uitgelezen moment om hier aandacht aan te besteden.

Het vierde voordeel is bovendien dat al deze keuzes kunnen worden gedocumenteerd als bewijs van het al dan niet naleven van het gelijkebehandelingsrecht. Het expliciet maken van de afwegingen en het kwantificeren en vastleggen van keuzes bij het vaststellen van functie-eisen en prestatie-indicatoren is een stap die in reguliere selectieprocedures minder vaak zal plaatsvinden, laat staan dat er gegevens over voorhanden zullen zijn. Aldus kan het gebruik van ML-algoritmes de waarheidsvinding bevorderen.