Eind 2022 / begin 2023 ontplofte de ChatGPT-hype.
“Nee Jochem, dit is geen hype. Vergeet alles wat je weet. De wereld zal nooit meer hetzelfde zijn.”
Prima. Maar… eh… drie dingetjes:
Als ergens veel aandacht voor is, betekent dit – gek genoeg – niet per se dat het belangrijk is. Mensachtig gedrag is niet hetzelfde als menselijk gedrag. En bergen aan data zijn niet hetzelfde als intelligentie.
1. Dat aandachtsdingetje
We overschatten het belang van de dingen die we aandacht geven.
“Nieuwsmedia zijn verbazingwekkend succesvol,” zei politiek wetenschapper Bernard Cohen in de jaren ’60, ” Niet zozeer in ons vertellen wat we moeten denken, maar vooral in waarover we moeten denken.”
Een voorbeeld:
Je kijkt ’s avonds naar het nieuws. Je ziet iets voorbij komen over een brand. Dan zit die brand vrijwel meteen in je hoofd. Je gaat erover nadenken. De volgende dag tref je een collega bij het koffieapparaat. Die brand zit nog steeds in je hoofd. Dus bespreek je het met haar. Nu denkt zij er ook aan. En voor je het weet gaat die brand als een lopend vuurtje rond – pun intended.
Dit fenomeen is bekend als de agenda-setting theory; een theorie die zegt dat nieuwsmedia kunnen bepalen welke onderwerpen er op de publieke agenda komen te staan. De media bepalen waarover we het hebben.
Dus: als heel veel mensen ergens over praten – of het nu een brand is of ChatGPT – dan ga jij er vanzelf ook over nadenken.
“Dat is toch niet zo erg,” hoor ik je bijna denken, “Wat maakt het nu uit of ik ergens over nadenk?”
Nou ja, de grap is dat je de dingen die je aandacht geeft, ook belangrijk maakt. “Als mens maken we de fout,” schrijft professor Robert Cialdini in het derde hoofdstuk van zijn boek Pre-Suasion, “Dat we de dingen die we aandacht geven, belangrijker maken dan dat ze in werkelijkheid zijn. Puur en alleen omdat we ze aandacht geven.”
2. Dat menselijke dingetje
Waar zijn bijna alle mensen dol op? Absoluut. Perenijs. Maar ook: andere mensen.
We zijn zelfs zo dol op elkaar (en onszelf) dat we ook niet-menselijke dingen menselijk maken. Of in ieder geval mensachtig.
Personificatie zorgt ervoor dat we het chatbot-algoritme van bol.com niet zien als een heleboel regeltjes code, maar als Billie; een rond, blauw mannetje dat in z’n eentje 12,5 miljoen gesprekken voert en het werk van 225 mensen doet.
Het gedrag wat ChatGPT laat zien, is mensachtig. We behandelen het language model (want dat is het) dus al vrij snel als mens. We beginnen ‘vragen’ te stellen en krijgen ‘antwoorden’.
Maar is de tekst die we krijgen als reactie op onze prompt wel een echt antwoord? Of is het slechts een logisch lijkende combinatie woorden? Die we terugkrijgen op basis van de enorme hopen data die eerder aan het systeem zijn ‘gevoerd’?
“ChatGPT kent taalmodellen,” zegt technologie-expert Jarno Duursma in zijn nieuwsbrief, “Maar het systeem heeft geen idee hoe onze wereld werkt.”
Hoewel een ‘antwoord’ van ChatGPT vaak wel ergens op lijkt te slaan, kan het inhoudelijk totale onzin zijn. In de tussentijd hebben we ChatGPT al wel menselijk gemaakt en zijn we enorm onder de indruk van zijn / haar (?) vaardigheden
3. Dat intelligentie-dingetje
Waar we ook van onder de indruk zijn, is de intelligentie van het systeem. Maar… Hoe intelligent is kunstmatige intelligentie op dit moment eigenlijk? Heel eerlijk: nog niet heel intelligent.
“Intelligentie is het vermogen om twee tegengestelde ideeën tegelijkertijd in gedachten te houden” zei de Amerikaanse schrijver F. Scott Fitzgerald, “En te blijven functioneren.” Ik weet niet of veel mensen dit kunnen. Een systeem kan het in ieder geval niet.
Hoogstwaarschijnlijk dat de mensen van IBM – je kent ze van Watson – AI daarom liever uitleggen als Aanvullende Intelligentie. Als systemen die ons te hulp schieten op het moment dat onze menselijke cognitieve vermogens tekort schieten. Bijvoorbeeld bij het analyseren van bergen en bergen aan data.
Maar pas wel op. Als er slechte data in een systeem gaat, krijg je ook slechte uitkomsten.
Denk aan de Toeslagenaffaire, waarin ouders ten onrechte als fraudeurs werden gelabeld. Of de Minority Report-achtige predictive policing tool die Amsterdamse jongeren onjuist als toekomstige criminelen bestempelde.
Heeft allemaal verdraaid weinig met intelligentie te maken. Je zou het zelfs ‘dom’ kunnen noemen.
Uitgelichte afbeelding: Jochem Koole, licentie: CC BY
