AI als controle instrument
‘Ultimately, AI is not only a tool for automating labour but also for imposing standards of mechanical intelligence that propagate, more or less invisibly, social hierarchies of knowledge and skill. AI does not simply replace workers but displaces and restructures them into a new social order’( Pasquinelli, p. 246 )
Belang van arbeidsdeling
Veel wordt geschreven over de wijze waarop AI intelligentie vorm geeft op een wijze die lijkt hoe onze hersenen functioneren. Een ander perspectief is echter om AI te zien als een hoogtechnologische expressie van arbeidsverdeling en collectieve kennis. In AI zitten impliciet controlefuncties via algoritmes. Die algoritmes organiseren arbeidsprocessen en sociale orde, gericht op productiviteit en toezicht – niet op autonomie.
In het traditionele framework wordt AI wel omschreven als een poging om intelligentie na te bootsen (zoals redeneren, leren, taalbegrip), gebaseerd op neurologische analogieën (neural networks, deep learning) en gericht op individuele cognitieve vermogens (geheugen, patroonherkenning). In het andere perspectief is AI echter een functioneel automatiseringsinstrument om werk doelmatiger te organiseren en controleren.
Controle en correctie
Dat vertaalt zich bijvoorbeeld in een AI-systeem dat het werktempo van magazijnmedewerkers beoordeelt (Amazon) of wie in aanmerking komt voor uitkering (algoritmische selectie). Die AI systemen lijken “intelligent”, maar zijn vooral ontworpen om output te meten, gedrag te optimaliseren en afwijking te corrigeren.
Controle en orde
AI toepassingen komen voort uit mechanisering van werk. In de industriële revolutie werk arbeid meetbaar en voorspelbaar. Management functioneerde als controlelaag boven de werkenden. Daarna volgde scientific management. Frederick Taylor analyseerde denk- en werktaken om deze te optimaliseren. Denkwerk werd gestandaardiseerd via procedures, tabellen, checklists. Na de Tweede Wereldoorlog werden modellen van feedback, controle en informatieverwerking opgesteld. Machines konden leren, corrigeren en handelen op basis van gegevens. AI automatiseert steeds meer taken die ooit typisch door mensen werden uitgevoerd: klantenservice, juridische analyse, medische triage etc.
Complexiteit
AI helpt bij het inzichtelijk en beheersbaar maken van complexe systemen. Complexe processen worden consistenter en schaalbaar ingericht. Keuzes worden meer inzichtelijk gepresenteerd. Daar staat tegenover dat oude zekerheden verdwijnen, wat weer leidt dat regelgeving (en daaraan gerelateerd vertrouwen) juist complexer worden ervaren. AI als controle instrument kan chaos ordenen, maar ook zelf chaos worden (toeslagen).
Literatuur
Eliens, A., H. Woldendorp en A. Jeninga. (2024). Interventies voor Goed werk. SWP
Pasquinelli, M. (2023). The Eye of the Master: A Social History of Artificial Intelligence. Verso