Met welke regelgeving gaan uitzendondernemers met betrekking tot AI in systemen en softwaretools te maken krijgen? Een voorzet van ICT-jurist Arnoud Engelfriet, gespecialiseerd in technologierecht. Hij is keynotespreker op het jaarlijkse FleXevent over wet- en regelgeving op donderdag 7 december in Utrecht.
Tekst: Guido de Kanter
In veel HR- en recruitmentsystemen wordt artificiële intelligentie (AI) gebruikt, bijvoorbeeld voor het beoordelen van cv’s. Dat kan de efficiëntie zeer ten goede komen, maar risico’s zijn er ook. Zo kunnen ook algoritmes ‘bevooroordeeld’ zijn. Op Europees niveau is de afgelopen vijf jaar dan ook gewerkt aan regelgeving om dit tegen te gaan. Deze zogenoemde ‘AI Act’ is naar verwachting eind dit jaar klaar en zal over uiterlijk twee jaar ook in Nederland van kracht zijn.
Eerste poging om AI te reguleren
De AI Act van de Europese Unie is gericht op het vergroten van transparantie en traceerbaarheid en het tegengaan van discriminatie en willekeur. Wereldwijd is het de eerste poging om AI te reguleren. “Europa heeft eigenlijk al sinds 2018 AI op de radar”, vertelt Arnoud Engelfriet. “De EU ziet steeds grotere risico’s en problemen ontstaan voor mensen. Als je cognitief werk steeds meer door technologie laat doen, dan gaan allerlei traditionele systemen ter bescherming van mensen op de schop. Computers zijn veel rechtlijniger en massaler. Binnen twee seconden hebben ze honderdduizend mensen beoordeeld die ontslagen kunnen worden, bijvoorbeeld. Dat is echt geen probleem voor een computer. Dus de risico’s worden veel groter door de schaalgrootte en de snelheid waarmee het gebeurt. Daar komt nog bij dat er geen uitleg is voor gewone mensen wat er achter deze beslissingen zit, en hoe deze tot stand komen.”
Tip! Lees ook: AI: erg handig, maar niet zonder gevaar
Algoritmes kunnen mensen benadelen
Een zorgelijk risico aan AI is dat algoritmes mensen onterecht kunnen benadelen. Berucht is het voorbeeld van een HR-systeem dat Amazon gebruikte dat vrouwen discrimineerde. Nadat het programmeurs niet was gelukt de werking te corrigeren, is het systeem buiten gebruik gesteld. “Bij AI-systemen is vaak het probleem dat je niet weet waar ze op sturen of wat hun criterium is om op te filteren”, vertelt Engelfriet. “Daarom kun je ook niet goed vaststellen of daar sprake is van een ingeprogrammeerde bias. Het is eigenlijk nooit zo dat zo’n systeem bewust gebouwd is om bepaalde groepen buiten te sluiten. Daar heeft niemand belang bij. Leveranciers van deze software, en hun klanten, hebben echt geen zin in rechtszaken als zoiets uit zou komen. Bias die erin zit, is dus altijd onbewust.”
Discriminerende software
Engelfriet noemt het voorbeeld van software uit Texas die bij gebruik in Europa discrimineerde tegen mensen uit Oost-Europa. Dit gebeurde omdat de naam van velen van hen geschreven wordt met tekens waaraan de Texaanse software niet gewend was. “In dit geval was het absoluut niet zo dat de software erop gericht was om mensen buiten te sluiten, maar naar de letter van de wet werd er wel gediscrimineerd. Want er werd onderscheid gemaakt op basis van die tekentjes en die staan dan voor een Slavische achternaam.”
Engelfriet vergelijkt de nieuwe AI Act dan ook met de AVG, die in het leven is geroepen ter bescherming van de data-privacy van burgers. “Op vergelijkbare manier is de AI Act ingestoken vanuit een achterliggend idee van het beschermen van mensen tegen AI. We hebben ondertussen voorbeelden te over waarin we zien dat dingen dan mis kunnen gaan als je zo’n AI-systeem ongebreideld loslaat. En die risico’s wil men beperken. De EU redeneert dat het gaat om grondrechten. De fundamentele rechten van mensen om een veilige werkomgeving te hebben, om een goed werkgever tegenover je te hebben, om niet te worden gediscrimineerd, of onnodig lastiggevallen te worden, of dingen ontzegd te worden waar je gewoon recht op hebt.”
Geen voorafgaand toezicht
Zoals al enkele jaren het geval is met de AVG, zal het toezicht op de naleving van de AI Act komen te liggen bij een toezichtinstantie, weet Engelfriet. “Er is geen voorafgaand toezicht. De AI Act komt met toezichtregels, maar het betreft toezicht achteraf. Het is niet zo dat een AI-tool pas op de markt mag komen als je er een vergunning voor hebt. Je mag er gewoon mee werken. Je moet alleen desgevraagd kunnen laten zien dat je compliant bent. Dus dat is in principe vrijwillig, totdat de handhaving komt. En dit geldt natuurlijk voor een heleboel dingen, bijvoorbeeld de wetten tegen zwartwerken. Je moet de identiteitsgegevens van iedereen die bij je werkt op orde hebben; dat is gewoon iets dat werkgevers weten en doen. Het kan natuurlijk dat er een handhavingsinstantie bij je langskomt, maar dat gebeurt niet heel vaak. En dat is ergens maar goed ook, want anders zouden we met z’n allen gillend gek worden.”
Software zelf controleren
Engelfriet raadt uitzendondernemers dan ook aan om de software die zij gebruiken, te controleren. “Je moet zelf aan de bak. En ik denk dat het voor uitleners goed is om te beseffen dat hun klanten, de bedrijven die een flexibele schil willen, dit ook op het netvlies hebben. Die gaan nu al tegen hun mensen zeggen: bij alle inkoop van diensten en van mensen moet eventueel AI-gebruik aan ons gemeld zijn en er moet bewijs liggen dat de AI in orde is. Dit wil men dan op schrift zien, vanwege de aansprakelijkheid en al die dingen meer. Dus als een uitzendonderneming naar zo’n bedrijf toe gaat en mensen aanbiedt om te werk te stellen, dan zal de eerste vraag zijn: gebruiken jullie AI? En de tweede: toon maar aan dat dat in orde is bij jullie, want anders kunnen jullie mensen niet bij ons komen werken.”
Weet wat je koopt
‘Weet wat je koopt’, is dan ook het devies van Engelfriet. “Een uitzendonderneming moet kunnen uitleggen welke systemen er gebruikt zijn. Niet alleen aan klanten, maar ook om een antwoord te hebben als iemand met een claim komt dat hij of zij gediscrimineerd is door jouw AI, dat je die kunt weerleggen. Dat je in zo’n geval kunt bewijzen dat het getest is door een onafhankelijk instituut en dat dat geen bewijs voor discriminatie heeft gevonden. Door zorgvuldig te zijn kun je zo’n claim pareren. Want als je geen verhaal hebt, ga je sowieso voor de bijl.”
Geen doom and gloom
“Ik wil het met name hebben over de opkomst van en de uitdagingen met AI inzake werving, selectie, keuze, screening en opleiding van personeel”, vertelt Arnoud Engelfriet, gevraagd wat het gehoor kan verwachten van zijn keynote op het FleXevent. “Dus ik ga geen doom and gloom-verhaal vertellen over AI dat de wereld gaat veroveren en Terminators gaat loslaten. Ik ga ook niet vertellen dat het een mooie en revolutionaire stap is in de menselijke vooruitgang, waarin we straks allemaal zo’n cyborg-oog hebben en de mensheid naar een hoger niveau gaat. Ik ga het gewoon hebben over de dingen die je nu aan het automatiseren bent. Dingen die je met de hand deed, en die nu door AI geautomatiseerd kunnen worden. Heb je nagedacht over wat dat doet met je organisatie?”
Eén onderdeel waar men in de flexbranche over na moet denken is de rol van intercedenten, vindt Engelfriet. “Stel: jij bent intercedent, je hebt 10 jaar ervaring. Je hebt altijd bekwaam mensen beoordeeld en dan zegt je baas dat je nu moet gaan samenwerken met een computer. En die computer gaat ingrijpen in jouw processen. De computer wordt zelfs maatgevend in jouw beoordelingsproces. Tja, dat gaat die intercedent niet leuk vinden. Hij of zij zal uitzendkrachten toch echt op de vertrouwde manier willen blijven beoordelen. Dus hoe krijg je zo’n organisatieverandering erdoor? Daar ga ik over spreken op 7 december.”
FleXevent
Arnoud Engelfriet spreekt op 7 december over een ontwikkeling die (vrijwel) iedere uitzendondernemer gaat raken. Wil jij voorbereid zijn op de komst van de AI Act, schrijf je dan vooral in voor het Flexevent!
