Ethische AI op de werkvloer: “AI werkt als een spiegel”

3 stellingen voor… Hans de Zwart.

Chatbots, AI agents en HR automation; AI zorgt voor de nodige veranderingen op communicatie en HR-gebied. Veel medewerkers bekijken deze ontwikkelingen argwanend. Met goede reden? We vroegen het Hans de Zwart. Hij is onderzoeker en docent aan de Hogeschool van Amsterdam. Als filosoof focust hij op de ethiek en filosofie van technologie. We legden hem drie stellingen voor.

IBM, een multinationaal technologiebedrijf uit Amerika, heeft al een eigen “internal talent management systeem”. Via AI linkt dit systeem automatisch medewerkers aan groeimogelijkheden binnen het bedrijf. Andere bedrijven experimenteren met chatbots die nieuwe kandidaten aan de juiste HR-professional linken. En er zijn nu ook al tools waarmee je als bedrijf kunt voorspellen wie binnenkort een ontslagbrief indient. Puur gebaseerd op gedrag dat ze laten zien op de werkvloer. Wel een klein ethisch probleem: dit programma werkt alleen als het personeel niet weet dat dit programma draait. En zo zijn er nog wel meer ethische problemen te bedenken. Eens kijken hoe Hans daarover denkt.

1. Door AI verliezen we de menselijke maat in ons werk

“In sommige domeinen wel. AI op HR-gebied maakt bijvoorbeeld vaak gebruik van een specifiek soort technologie: patronen herkennen. We bedenken wat voor mensen succesvol was in het verleden en daar trainen we vervolgens een model op om nieuwe kandidaten mee te kunnen matchen. De kansberekening die geldt voor een groep pas je dan toe op een individu. Dat is problematisch. En je kunt discriminatie hierbij niet vermijden. Zolang we in een samenleving leven waarin discriminatie een probleem is, zie je dat terug in de technologie.

Een ander voorbeeld is Amazon. Zij zetten AI in om productiever te werken. De taken die AI niet kan vervullen, bijvoorbeeld in het magazijn, worden nog steeds door mensen gedaan. Alleen worden die mensen bij Amazon inmiddels ook als robots behandeld. Dit is een geval waarin AI de verkeerde kant op valt. Dat komt door scheve machtsverhoudingen, een gebrek aan arbeidsrechten en een focus op vooral zoveel mogelijk winst maken. Zetten we de democratisering van AI verder door? Dan kan het ook de goede kant op vallen.”

2. Medewerkers zonder AI skills zullen snel overbodig raken

“Ik zie dit in het klein bij mij op de hogeschool. Daar zijn ook studenten die AI niet willen gebruiken. Of gewoon niet weten hoe ze het kunnen gebruiken. Zij lopen ertegenaan dat hun studiegenoten met veel minder moeite betere cijfers halen. Dat is natuurlijk frustrerend. Het zou mij niet verbazen als dit in werksituaties precies hetzelfde is. Bij de gemeente Amsterdam mogen medewerkers bijvoorbeeld geen AI gebruiken vanwege privacy- en beveiligingsredenen. De medewerkers die dit stiekem toch doen, hebben uiteindelijk sneller een communicatieplan op tafel liggen. Dit zorgt onderling voor spanning. Je wordt dus niet volledig overbodig als medewerker, maar loopt wel een stapje achter.

Wat ik nu veel zie, ook bij mijn studenten, is dat mensen AI gebruiken om in minder tijd, mindere kwaliteit te leveren. Terwijl we ons nu juist op een plek bevinden waar de combinatie tussen mens en AI het beste resultaat oplevert. Als je het goed gebruikt natuurlijk. Zo liet ik AI laatst een abstract schrijven voor mijn artikel. Zo’n abstract heeft altijd een redelijk vaste vorm. Ik kwam er al snel achter dat AI dat sneller en beter deed dan ik. Dat was best confronterend. Maar als je weet waar je AI voor in kunt zetten en weet waar je eigen meerwaarde ligt, kun je op deze manier juist sneller, hogere kwaliteit leveren.”

3. We zullen met beleid en regels altijd achterlopen op de ontwikkeling van AI

“Nee, dat zou ik niet zeggen. Er is altijd een dynamische wisselwerking tussen die zaken. AI is niet ontstaan in een vacuüm. De AI die we nu hebben, is het gevolg van hoe we zaken tot nu toe hebben geregeld en welke ruimte en mogelijkheden we het geven. Daarbij is het lastig om regels te bedenken voor iets wat nog niet bestaat. Het is wat mij betreft ook geen slecht teken dat onze democratie en wetgeving langzamer en grondiger te werk gaan dan de technische innovatie.

We mogen wat mij betreft wel wat vaker expliciet de tijd nemen om na te denken over de inzet van AI. Je wil dat mensen die het gebruiken een bepaalde mate van kritisch denken toepassen. Hoe kan ik het het beste gebruiken? Wat win ik er in dit geval mee? Of juist: wat verlies ik ermee? En als ik er iets mee verlies, kan ik dat dan op een andere manier opvangen? AI werkt als een spiegel. Zo heeft het ons laten zien dat ons onderwijs eigenlijk niet deugt. Studenten zijn studierobotjes geworden die vaak alleen maar focussen op cijfers. En dat is een logische reactie op hoe ons onderwijs georganiseerd is. Met AI kunnen ze nu zonder problemen door die hoepel springen. Maar je wil juist naar een situatie waarin studenten zich vanuit nieuwsgierigheid willen ontwikkelen en weer kritisch gaan nadenken. Op deze manier dwingt AI ons ook om na te denken over hoe we werken.”

Benieuwd hoe je effectief en verantwoord met AI kunt werken?

Luister dan eens naar deze COMPOD-aflevering over AI en communicatie.