Joris Krijger is techniekfilosoof en AI-ethicus. Hij heeft zich verdiept in hoe kunstmatige intelligentie onze maatschappij en menselijkheid beïnvloedt en publiceerde recent het boek Onze kunstmatige toekomst.
Krijger was een van de eerste AI-ethici in Nederland en heeft de afgelopen jaren onderzoek gedaan naar de verantwoorde inzet van AI. Hoewel AI allerlei mooie kansen biedt, zijn er ook een hoop bestaande problemen die worden uitvergroot en komen er unieke nieuwe uitdagingen bij. “Denk daarbij bijvoorbeeld aan de uitspraken die een AI doet, of dat een systeem zo complex wordt dat we niet meer snappen hoe het werkt.” Krijger heeft onder meer bij ASN Bank zes jaar onderzoek hiernaar gedaan.
Een grote zorg is dat we allerlei taken aan AI delegeren zonder dat duidelijk is wie verantwoordelijk is, zegt hij. “Tegelijkertijd opereert AI niet in een vacuüm. Het toeslagenschandaal is daar een goed voorbeeld van. We zijn vaak geneigd naar het algoritme te kijken dat mensen met een dubbele nationaliteit op de zwarte lijst zette. Maar het hele systeem eromheen was ook fout. Er was enorme politieke druk om te ‘leveren’. Zo van: zet mensen maar op de fraudelijst. Je moet dus nooit klakkeloos doen wat een AI-systeem zegt, de organisatie die ermee werkt moet kritisch blijven. Je moet om AI verantwoord in te zetten een volwassen ethische infrastructuur hebben om tot goede keuzes te komen en eventuele misstappen te corrigeren.”
Imagoschade
Dat moet dus niet ad hoc gebeuren, maar bij elke stap in het proces moet worden bevraagd: hoe verhoudt deze uitkomst zich tot onze waarden? “Doe je dat niet, dan loop je het risico dat je allerlei gevolgen over het hoofd ziet met enorme negatieve effecten.” Dat is uiteraard vervelend voor de mensen die daar het slachtoffer van zijn, maar raakt net zo goed het bedrijf of de organisatie die de fout maakt. Kijk maar naar de enorme kosten en de imagoschade voor de overheid als gevolg van het toeslagenschandaal.
Dat organisaties en bedrijven zich proberen te verschuilen achter fouten door hun AI illustreert Krijger met een rechtszaak rond de chatbot van luchtvaartmaatschappij Air Canada. “Een klant werd een korting beloofd op een last-minute ticket vanwege een sterfgeval in de familie. Toen hij de korting wilde claimen bleek dat het AI systeem dit ‘gehallucineerd’ had, oftewel verzonnen. Wat de zaak frappant maakt is dat in de rechtszaak die volgde Air Canada vervolgens heeft aangevoerd dat de chatbot een eigen entiteit is, waar zij dus niet verantwoordelijk voor zijn. De rechter ging daar niet in mee. Maar dit laat wel zien hoe de machtsbalans tussen consument en bedrijf opschuift, als je niet oppast. Want zo’n bedrijf past nu zijn voorwaarden aan en de rechterlijke macht is enorm zoekende hoe ze hiermee om moeten gaan.”
Lees ook: Digitale vernieuwing HollandZorg verbetert zorgtoegang arbeidsmigranten
Braafste jongetje
Sowieso zit aan AI het risico vast dat je bestaande problemen en misstanden uitvergroot. Denk aan bestaande sociale ongelijkheden die door AI worden overgenomen en verder versterkt. Zo zie je al jaren dat de vermogensongelijkheid internationaal steeds groter wordt. AI dreigt dit nog eens enorm te versterken door de welvaartswinst die AI genereert terecht te laten komen bij een heel klein clubje mensen – AI-bedrijven en de top van het bedrijfsleven. Krijger: “Ik sprak laatst iemand die zei twintig procent efficiënter te zijn geworden dankzij AI. Toen vroeg ik: heb je nu ook twintig procent meer vrije tijd of salaris? Nee, hij had er alleen maar meer werk bijgekregen. Kijk, daar gaat het dus fout.”
AI gaat voor een groot deel bepalen hoe de wereld eruit gaat zien. Welke keuzes maken we nu, bij het opzetten van die techniek? Het is nog niet te laat om hierover na te denken, meent Krijger. “Maar we moeten er ook niet te lang mee wachten. We hebben bij de opkomst van social mediabedrijven de slag gemist door bedrijven als Google en Facebook praktisch onaantastbaar te laten worden. Dat moeten we bij AI niet nog een keer laten gebeuren.”
Je hoort, zeker uit de VS, nog wel eens de kritiek dat de EU het braafste jongetje van de klas is en innovaties op het gebied van AI tegenhoudt. Nu wordt Krijger ook niet per se enthousiast van regulering: zo kan het ook onethisch zijn om AI niet in te zetten – denk aan het opsporen van ziekten bijvoorbeeld. “Maar wat je nu ziet, is dat er nauwelijks aandacht wordt besteed aan de morele kant van de zaak: hoe willen we de technische mogelijkheden gaan gebruiken? Neem het voorbeeld van de zorg in de VS: die loopt voorop in de toepassing van AI, maar is tegelijkertijd door de hoge kosten onbereikbaar voor een groot deel van de bevolking. In dat opzicht ben ik blij met hoe de EU zich opstelt: bepaalde toepassingen doen we niet en bij andere is er strenge controle.”
Tegenmacht
AI is te lang overgelaten aan bedrijven en programmeurs, meent Krijger. “En het grappige is: dat vinden technici zelf ook. De programmeurs die ik bij ASN Bank en bij andere organisaties sprak, zeiden zelf: wij zouden die keuzes niet moeten maken.”
Krijger wil niet te somber zijn. Ja, er zijn grote uitdagingen. Maar het spel is zeker nog niet gespeeld. “We kunnen nog bijsturen. De vraag is: welke rol willen we dat AI in onze maatschappij speelt? We kunnen daarin meer doen dan we vaak denken. Want 90 procent van hoe AI ons gaat raken, is via bedrijven en openbare instellingen – overheid en semioverheid – die nu al een grote rol spelen in ons leven. Van je bank en verzekeraar tot de huisarts en het UWV: zulke instanties moeten zich bewust zijn van de ethiek en aan de slag met een ethische infrastructuur. Als we daaromheen een sterke tegenmacht creëren, gaan we kleine stappen zetten om dit goed in te richten.”
Want de andere kant van het verhaal is: áls we de balans goed krijgen, kan AI een verrijking zijn en ons enorme nieuwe mogelijkheden geven. “AI kan mensen vrijheid geven en mogelijkheden bieden die ze hiervoor niet hadden. Maar het gaat erom dat we AI op een sociale en menselijke manier gaan inzetten, en niet alleen maar om mensen snel weg te automatiseren. Gebruik AI om de mens te versterken, niet om ze te vervangen.”
Lees ook: Mensen met een beperking blijven buiten beeld op krappe arbeidsmarkt
