‘Your digital twin never sleeps, never forgets, and occasionally gets you wrong.’

Inclusief

profielAI-systemen worden vaak ontwikkeld vanuit een beperkt aantal culturele en economische perspectieven. Hierdoor ontstaan toepassingen die niet altijd aansluiten bij lokale behoeften of zelfs bestaande ongelijkheden versterken. Een werkelijk inclusieve AI vraagt daarom om een veel grotere diversiteit onder ontwerpers, onderzoekers, beleidsmakers en gebruikers.

Voorspelling

Individuen worden steeds minder beoordeeld op wat zij daadwerkelijk doen en steeds vaker op basis van de waarschijnlijkheid dat zij in de toekomst bepaald gedrag zullen vertonen. Daarmee verschuift de aandacht van het verleden naar de voorspelde toekomst, waarbij data een steeds grotere rol spelen in de definitie van wie iemand is.

Profilering

Profilering is een fundamenteel mechanisme geworden waarmee moderne samenlevingen risico's proberen te beheersen, gedrag voorspellen en besluitvorming automatiseren. Algoritmen analyseren duizenden kenmerken, leggen verbanden die voor mensen nauwelijks zichtbaar zijn en plaatsen individuen in statistische categorieën waarvan de betrokkenen zich vaak niet eens bewust zijn. Deze profielen worden vervolgens gebruikt bij kredietverlening, sollicitaties, verzekeringen, gezondheidszorg, onderwijs, politiewerk, marketing en overheidsbeleid.

Identiteit

Identiteit wordt niet langer uitsluitend bepaald door het verhaal dat iemand over zichzelf vertelt, maar ook door digitale representaties die buiten het individu om worden opgebouwd. Elke online interactie, aankoop, locatie, zoekopdracht en sociale verbinding draagt bij aan een voortdurend veranderend profiel dat door algoritmen wordt geïnterpreteerd. Hierdoor ontstaat een digitale identiteit die in veel situaties meer invloed heeft dan de fysieke persoon zelf. Organisaties nemen beslissingen op basis van deze digitale representaties, terwijl de betrokken persoon vaak geen inzicht heeft in de gegevens, de gebruikte modellen of de wijze waarop conclusies tot stand komen.

Governance

Voor organisaties betekent dit dat AI-governance veel verder moet gaan dan naleving van wet- en regelgeving. Bestuurders dienen AI-systemen voortdurend te evalueren op hun maatschappelijke effecten, betrokken stakeholders actief te laten participeren in ontwerp- en implementatieprocessen en aandacht te besteden aan ethische afwegingen gedurende de volledige levenscyclus van AI-toepassingen. Verantwoord gebruik van AI wordt daarmee een strategische bestuursopgave in plaats van uitsluitend een technisch vraagstuk.

Fragmentatie

Wanneer wij voortdurend worden gecategoriseerd, gesegmenteerd en gepersonaliseerd, ontstaat een gefragmenteerde publieke ruimte waarin verschillende groepen uiteenlopende werkelijkheden ervaren. Politieke boodschappen, nieuwsvoorziening en maatschappelijke discussies worden steeds vaker afgestemd op individuele profielen. Daardoor vermindert de gedeelde informatiebasis waarop democratische besluitvorming traditioneel rust. Profilering beïnvloedt daarmee niet alleen individuele identiteit, maar ook de sociale cohesie en het functioneren van democratische samenlevingen.

De kwaliteit van de toekomstige AI zal uiteindelijk minder worden bepaald door technologische doorbraken dan door de ethische keuzes, bestuurlijke verantwoordelijkheid en maatschappelijke waarden die mensen bereid zijn in deze technologie te verankeren.

Literatuur

El Morr, C. et al, ed. (2026). Shaping AI: Ethics, Society, and the Future of Technology. Springer
Hunemann, P. (2026). Profiling: How Predictive Algorithms Shape Identity and the Social Fabric. Stanford University Press
Woldendorp, H., A. Jeninga en A. Eliens. (2025). Kun je me doorverbinden met…mezelf? Een reisgids voor kinderen en volwassenen. Uitgever Virtuoos