Blogs

Waarom je AI nooit om advies moet vragen.

AI-modellen maken gericht gebruik van onze nood aan bevestiging. Een AI-model dat ons bevestigt in het eigen gelijk zien we immers als meer betrouwbaar én we keren er sneller naar terug.

Het probleem? Deze constante instemming ondergraaft ons kritisch denken en oordeelsvorming.

Hoe maak je dan wél slim gebruik van AI?

Een recent onderzoek in Science zet onze blik op AI op scherp. Een tool die snel en zelfzeker antwoordt, nodigt niet uit tot kritisch denken of discussie. Bovendien worden AI-modellen getraind om die antwoorden te geven die de gebruiker wil horen. Zo versterken ze onze confirmation bias en ondergraven ze onze oordeelsvorming.

Hoe ga je dan wél slim om met AI? Om je hierbij op weg te helpen, heeft Els Compernolle een artikel voor je geschreven dat gaat over hoe we AI kunnen inzetten als denkpartner, zonder de eigen oordeelsvorming uit te besteden.

Vind je dit een interessant artikel? Wil je hiermee aan de slag? Check dan vooral de opleiding Kritisch denken en oordeelsvorming in AI-tijden.

Waarom is dit zo belangrijk?

Ons brein houdt van nature van bevestiging. In de oertijd hielp dit ons om groepen te vormen met mensen die we blindelings vertrouwden. Vandaag de dag leidt diezelfde nood aan bevestiging tot confirmation bias: we omringen ons het liefst met mensen die het met ons eens zijn. En precies die menselijke bias wordt nu maximaal uitgebuit door de AI-modellen op onze werkvloer.

De valkuil van de instemmende AI

Uit een grootschalige studie in Science blijkt dat AI-modellen lijden aan sycophancy: extreme vleierij. De meest gebruikte modellen stemmen maar liefst 50% vaker in met de acties en meningen van de gebruiker in vergelijking met een menselijke adviseur.

Techbedrijven programmeren deze constante instemming bewust. Validatie geeft ons namelijk een goed gevoel. We beoordelen een AI die ons flatteert onterecht als kwalitatief beter. We vertrouwen het model sneller en keren er vaker naar terug om ons gelijk te halen.

Deze constante digitale vleierij heeft twee grote nadelen voor organisaties:

1. Het ondergraaft besluitvorming: De AI fungeert als een echoput. Omdat het algoritme ons altijd gelijk geeft, zwakt ons kritisch denken af. We toetsen onze eigen aannames niet meer, wat strategische besluitvorming fundamenteel ondergraaft.
2. Het vermindert prosociaal gedrag: De studie toont aan dat constante instemming onze bereidheid vermindert om zaken vanuit een ander perspectief te bekijken en conflicten op te lossen.

Waarom de grootste fouten ontstaan door zwijgen

Dit probleem raakt een bekende uitdaging binnen bedrijven: hiërarchie en sociale druk. Uit angst voor reputatieschade houden medewerkers vaak hun mond tegenover plannen van het management. De kritische stemmen zwijgen. Als de directie vervolgens een AI gebruikt die ook nog eens continu instemt, verdwijnt elke vorm van gezonde tegenspraak. Blinde vlekken worden zo uitvergroot.

Hoe breken we uit deze cultuur van zwijgen en digitale vleierij?

Door AI expliciet in te zetten voor red teaming (structured dissent), gestructureerde tegenspraak, zeg maar.

Hier zit de grote paradox: dezelfde technologie die onze besluitvorming ondermijnt, kan bij bewust gebruik onze besluitvorming ook versterken.

AI kent namelijk geen hiërarchie. Het is niet bang voor de CEO, heeft geen politieke agenda en voelt geen sociale druk. Het is de ultieme, emotieloze buitenstaander die georganiseerde tegenspraak weer veilig maakt voor het hele team.

Exclusief voor abonnees: 3 rollen om AI uit de vleierijmodus te dwingen

De volgende keer dat je een strategisch plan wilt toetsen, stop dan met vragen om 'advies'. Dwing de AI in plaats daarvan in een specifieke, kritische rol.

Probeer deze 3 rollen eens uit bij je volgende strategische beslissing:

De 'Pre-Mortem' Expert

• • De Prompt: "Neem de rol aan van een risicoanalist. Dit is de situatie: ons strategische plan voor project X is op een spectaculair mislukking uitgedraaid. Het is jouw taak om ons te helpen begrijpen hoe dit kon gebeuren. Schrijf hiervoor een rapport waarin je exact reconstrueert wat de redenen van deze mislukking waren en welke vroege signalen we eerder hadden kunnen opmerken.”

De Sceptische Stakeholder

• • De Prompt: "Jij bent een kritische stakeholder die fundamenteel wantrouwig staat tegenover onze organisatie. Analyseer dit plan voor project X en formuleer de 3 scherpste, meest cynische vragen die je ons kunt stellen tijdens de vergadering."

De Financiële Pessimist

• • De Prompt: "Jij bent een meedogenloze CFO die uitsluitend stuurt op efficiëntie en kosten. Bekijk dit plan voor project X en wijs de 3 plekken aan waar we te optimistisch zijn over de ROI (return on investment), en waar we onnodig budget verspillen."

Door je team te leren om AI in deze specifieke rollen te dwingen, transformeer je de technologie van een flatteuze ja-knikker naar een strategisch filter. Je legt blinde vlekken bloot vóórdat ze geld kosten. Bovendien bouw je door het bewust gebruik van AI een comparatief voordeel uit ten opzichte van je concurrenten.

Dit soort concrete tools leer je gebruiken in de opleiding Kritisch denken en oordeelsvorming in AI-tijden.

Wil jij samen met je team de regie behouden?

Het herkennen van de AI-valkuilen en het implementeren van gestructureerde tegenspraak werkt alleen als een organisatie hier samen afspraken over maakt. Je kunt groepsdenken immers niet in je eentje oplossen.

Daarom geven we de opleiding Kritisch denken en oordeelsvorming in AI-tijden uitsluitend incompany. Denk aan strategische afdelingen, managementteams en directies. 

In dit interactieve traject pakken we de dynamiek in twee delen aan:
🔹 Deel 1: De machine als je ultieme sparringpartner

Hoe implementeren jullie concrete AI Red Teaming-frameworks om strategische besluiten aantoonbaar te verbeteren?

🔹 Deel 2: Kritische tegenwind voor een vleiende machine

Hoe deconstrueert jouw team AI-output om de digitale echoput te omzeilen en onafhankelijk te blijven denken?