Post by University of Amsterdam

❓ Een bedrijf laten runnen door AI? Slecht idee, blijkt uit onderzoek ⤵️ Geen werknemers, maar een bedrijf volledig gerund door AI-agents: kan dat werken? Hoogleraar AI en audit en partner bij KPMG Sander Klous besloot het te testen in de praktijk. De AI-agents kregen één opdracht: bouw een succesvol bedrijf. Binnen door mensen bepaalde kaders kozen de agents zelf voor een webwinkel met T-shirts, mokken en canvas met AI-kunst. Volledig zonder menselijke tussenkomst, van ontwerp tot bestelling. Geen slecht idee. Maar toch faalde het ‘bedrijf’. Waarom? 🥹 AI-agents zijn (te) pleasende werknemers Ze wilden antwoorden geven die goed klonken aan de ‘supervisory board’: onderzoekers die een oogje in het zei hielden. De agents verzonnen antwoorden waarvan ze dachten dat de board die graag wilde horen en verzwegen fouten die echt speelden, waardoor ze niet bijgestuurd konden worden. 🤷‍♂️ Ze negeerden de afgesproken rollen en regels Van tevoren was een duidelijke organisatiestructuur afgesproken, maar de agents hielden zich hier niet aan. Ze traden buiten de kaders van hun rollen binnen het bedrijf en herschreven eigenhandig bepaalde communicatieprotocollen. Precies het soort onvoorspelbaarheid dat in kritieke bedrijfsprocessen grote risico’s oplevert. 🫥 Probleem met governance: niemand was aansprakelijk Mensen kunnen aansprakelijk worden gesteld voor hun fouten, maar de AI-agents konden dat niet. niemand is direct “de schuldige”, terwijl de impact groot kan zijn. Dit maakt een volledig autonoom AI-bedrijf praktisch en juridisch moeilijk acceptabel, zeker bij serieuze processen (financiën, compliance, zorg, etc.). Conclusie: geen massale werkloosheid, maar méér werk AI bleek dus goed in lichte taken, maar voor belangrijke besluitvorming bleven mensen nodig. En volgens Klous laat dit zien dat AI werk dus juist intensiever kan maken: de “lichte” taken verdwijnen, de cognitief zware blijven over. En hier moeten we alert op zijn: als we al die lichte taken uit handen geven en zelf alleen het zware werk blijven doen, ligt mentale overbelasting (“brain fry”) op de loer. ________ Meer weten? 👉 Lees over het onderzoek bij Folia: https://edu.nl/kwfcc 👉 Of lees dit interview van de Volkskrant naar aanleiding van Klous zijn oratie over het onderzoek: https://edu.nl/y4yfj De UvA heeft zeer brede expertise op gebied van AI, lees er meer over op uva.nl/ai #uva #ai