KPMG en UvA onderzoeken of AI een bedrijf zonder mensen kan runnen 

Wetenschappelijk experiment
Het experiment is meer dan een technologische proef. Het is een wetenschappelijke verkenning van governance, aansprakelijkheid en ethiek. “We onderzoeken de grenzen van wat een autonoom team van AI-agents wel en niet kan en daarmee ook waar mensen een essentiële rol blijven spelen,” zegt Sander Klous, hoogleraar AI & Audit bij de UvA en partner bij KPMG.

Samen met ondernemer Nart Wielaard nam Klous het initiatief voor dit experiment. “Daarnaast leren we veel over de inzet van AI-agents binnen sectoren, zoals accountancy, overheid en facilitaire dienstverlening. Zo helpen we organisaties zich voor te bereiden op een toekomst waarin mens en AI in nauwe samenwerking opereren”.

AI-agents
De agents moesten zelf bedenken wat voor bedrijf ze wilden starten. De keuze viel op een operationele webshop voor gepersonaliseerde AI-kunst. De CEO, een agent met de naam Avery Jameson, heeft dit bepaald in overleg met een raad van toezicht van vlees en bloed, die de agents monitort en coacht.

 “De start was veelbelovend: een set van vijf AI-agents ging aan het werk, maakte businessplannen en kon 24/7 zonder pauzes werken aan hun bedrijf. AI-agents kunnen wat mensen niet kunnen”, zegt Wielaard: “Bijvoorbeeld aan meerdere vergaderingen tegelijk deelnemen met een detailkennis die het menselijk brein niet aan kan.”

Hallucineren
Toch ging het plan op de schop, omdat de beperkingen van AI-agents al gauw werden ontdekt. Klous: “Als je menselijke functies, zoals een CFO, een-op-een laat uitvoeren door AI-agents, dan gaan die agents in die grote taken afdwalen en hallucineren. Soms gaan ze hun instructies zelfs compleet te buiten of stoppen zomaar met werken. Dat is geen basis waarop je een solide organisatie kun bouwen.”

En dus ontwikkelden onderzoekers van de UvA een nieuwe aanpak, zij brachten werkprocessen nauwgezet in kaart en zetten in die processen agents in voor kleine taken. “We werken nu met een ‘army of disposable agents’ in plaats van vijf agents met bestuurlijke rollen. En dat concept werkt veel beter om complete processen consistent uit te voeren”, aldus Klous.

Ethische kaders
De opkomst van autonome AI-agents raakt niet alleen technologie, maar ook werkgelegenheid, wetgeving en het vertrouwen in organisaties. “Het werk van veel mensen zal ingrijpend veranderen. We bewegen van bedrijfsprocessen die door mensen worden uitgevoerd en ondersteund door AI, naar door AI-gedreven processen waarin mensen een ondersteunende rol vervullen en de prestaties van AI verbeteren. Dit onderzoek laat zien dat. dat we dit voor moeten zijn en nu al moeten vaststellen welke ethische en juridische kaders noodzakelijk zijn,” benadrukt Klous.