8.6 Conclusie

Wij hebben in dit hoofdstuk besproken aan welke regels een (platform)werkgever zich moet houden als hij een selectieprocedure wil opzetten met behulp van ML-algoritmes. Wij hebben geconstateerd dat het gelijkebehandelingsrecht en het gegevensbeschermingsrecht behoorlijk wat obstakels opwerpen voor een dergelijke selectieprocedure. Belangrijk probleem is dat ML-algoritmes worden gebruikt om zeer complexe verbanden tussen variabelen op te sporen en rekenkundig samen te vatten; de beslisregel die hiermee wordt verkregen, is vaak heel moeilijk uit te leggen. Voor het gegevensverwerkingsrecht moet in beginsel voorafgaand aan de bewerking worden aangetoond dat en waarom de daarvoor gebruikte persoonsgegevens relevant zijn voor de selectieprocedure. Voor het gelijkebehandelingsrecht moet bij een vermoeden van discriminatie worden gerechtvaardigd wat de selectiecriteria zijn en hoe zij zich tot elkaar verhouden. In het gelijkebehandelingsrecht en het gegevensverwerkingsrecht worden voorts variabelen aangewezen, die helemaal niet gebruikt mogen worden. Ten slotte stelt het gegevensverwerkingsrecht de eis dat de hele procedure en de uitkomst ervan, inclusief het gewicht van de gebruikte variabelen, op transparante en begrijpelijke wijze moet kunnen worden uitgelegd aan kandidaten.

Er zijn dus drempels, maar er zijn ook voordelen te onderkennen. Daarom zou het een gemiste kans zijn om het gebruik van ML-algoritmes bij personeelsselectie af te schrijven. ML-algoritmes zouden juist een bijdrage kunnen leveren aan het bestrijden van discriminatie bij selectie, bijvoorbeeld omdat effectief kan worden gezocht naar selectiecriteria die zowel goede kandidaten opleveren, als een evenredigere spreiding over verschillende groepen. Als dat lukt, zou het meteen een legitiem doel voor het gegevensverwerkingsrecht kunnen opleveren.

De vierde industriële revolutie en de ontwikkelingen op het gebied van artificiële intelligentie worden vooralsnog vooral door de inventiviteit en expertise van datawetenschappers gedreven. Het is de hoogste tijd dat ook wij als juristen onze rol claimen bij het ontwerpen en evalueren van ML-algoritmes. Met de juiste juridische en ethische randvoorwaarden, zijn er volop kansen te benutten.