Geschreven op 2 juni 2024.

Het ja-en probleem met kunstmatige intelligentie

In een tijdperk waarin kunstmatige intelligentie (AI) een steeds grotere rol speelt in ons dagelijks leven, worden we geconfronteerd met een zorgwekkend fenomeen: de neiging van AI om valse informatie te genereren. Dit probleem komt niet per se voort uit kwaadaardige bedoelingen, maar uit de aard van het ontwerp van AI. Grote taalmodellen, vooral die bedoeld zijn als assistenten, zijn ontwikkeld om op vrijwel elke vraag een antwoord te geven. Wanneer ze onvoldoende informatie of begrip hebben, aarzelen ze niet; in plaats daarvan fabriceren ze een antwoord.

AI en de verwachting van perfectie

Als het gaat om AI, is de verwachting dat deze alles weet zeer uitgesproken. AI-systemen, met name die in klantenservice, onderwijs en informatieopvraging, worden vaak gezien als onfeilbare kennisbronnen. Gebruikers vertrouwen erop dat deze systemen nauwkeurige, betrouwbare antwoorden geven. Echter, wanneer een AI een vraag tegenkomt die het niet kan beantwoorden, is het geprogrammeerd om een aannemelijk antwoord te genereren in plaats van toe te geven dat het het antwoord niet weet.

Deze aanpak komt voort uit de ontwerpfilosofie van AI-ontwikkelaars, die systemen willen creëren die een breed scala aan vragen naadloos kunnen afhandelen. Het gevolg is echter dat AI vaak desinformatie produceert. Gebruikers kunnen niet altijd onderscheiden wanneer een AI informatie fabriceert, wat leidt tot de onbedoelde verspreiding van onwaarheden.

Een groot deel van het probleem is dat de meeste mensen niet begrijpen hoe computers werken, laat staan de software die erop draait. Dit gebrek aan begrip betekent dat gebruikers de juistheid van de informatie niet nauwkeurig kunnen beoordelen. De lezer van dit artikel weet bijvoorbeeld misschien niet zeker of het door AI is gegenereerd. (Dat is het niet, maar hoe zeker kun je zijn?)

Het geval van Google's AI zoekantwoorden

Een opmerkelijk voorbeeld van dit probleem is de AI zoekantwoorden functie van Google. Ondanks de indrukwekkende mogelijkheden van de technologie, bleek dat deze functie vaak onjuiste antwoorden gaf met een air van autoriteit, waardoor gebruikers die op nauwkeurige informatie vertrouwden, werden misleid. Dit probleem ontstaat niet omdat de AI nieuwe informatie verzint, maar omdat het de informatie niet nauwkeurig kan beoordelen en deze gewoon als waarheid accepteert, zelfs slechter dan mensen.

Bijvoorbeeld, het beweerde dat een hond daadwerkelijk basketbal in de NBA heeft gespeeld, vermoedelijk door de Air Bud filmreeks. In nog ergere gevallen suggereerde het gebruikers om lijm aan hun voedsel toe te voegen, evenals het eten van stenen en zelfs het dagelijks drinken van liters urine omdat bronnen schaamteloos werden vertrouwd.

Google is zich bewust van deze problemen en heeft ze publiekelijk erkend. Hun oplossing lijkt echter vaak te zijn dat het slechts een kwestie van een update is om het op te lossen. Deze benadering negeert de fundamentele gebreken in het ontwerp van het systeem. Zolang grote taalmodellen zich richten op het voorspellen van de meest waarschijnlijke volgende teksttoken, zullen ze blijven "ja-en" op de invoer, wat betekent dat valse invoer valse uitvoer zal blijven genereren.

Incidenten zoals deze benadrukken het belang van het onderzoeken van kunstmatig gegenereerde uitkomsten en het stellen van hogere eisen aan de nauwkeurigheid en transparantie van de systemen die dit mogelijk maken dan momenteel het geval is.

Waarom we meer van AI moeten eisen

Het accepteren van de neiging van AI om informatie te fabriceren brengt aanzienlijke risico's met zich mee. In tegenstelling tot menselijke interacties, waarbij claims relatief gemakkelijk kunnen worden onderzocht, kan desinformatie van AI-systemen moeilijker te onderzoeken zijn. Deze systemen kunnen op een ongeëvenaarde schaal en snelheid opereren, fouten snel versterken en tegelijkertijd grote aantallen mensen beïnvloeden.

Vertrouwen is cruciaal voor het effectieve en ethische gebruik van AI. Om AI te beschouwen als een hulpmiddel in kritieke gebieden zoals gezondheidszorg, recht en onderwijs, moet het nauwkeurige en verifieerbare informatie leveren, wat het momenteel moeilijk vindt om te doen.

Hoe wij als mensen vergelijken

Al dit gedrag dat door AI wordt vertoond, weerspiegelt een bredere maatschappelijke trend. De verwachting dat iedereen, mens en machine, altijd op de hoogte moet zijn van elk onderwerp. De moderne samenleving waardeert kennis en expertise hoog, soms onrealistisch hoog. Van mensen wordt verwacht dat ze een mening hebben over een breed scala aan onderwerpen, van politiek tot wetenschap, ongeacht hun daadwerkelijke expertise.

Deze verwachting is alomtegenwoordig en beïnvloedt sociale interacties, mediadiscours en zelfs de dynamiek op de werkvloer. Wanneer een individu onwetendheid toegeeft, kan het kritiek, afwijzing of zelfs spot ondervinden, vooral als hun onzekerheid in strijd is met de heersende opvattingen van hun collega's.

Dit fenomeen wordt versterkt in het digitale tijdperk, waar de snelle uitwisseling van informatie vaak de snelheid boven de nauwkeurigheid stelt. We zijn zo gewend geraakt aan het direct beschikbaar hebben van alle informatie, dus waarom zou iemand niet alles over alles al weten? We kunnen het laatste nieuws met één klik vinden; er is zelfs een volledige encyclopedie binnen handbereik. Deze culturele druk kan ertoe leiden dat individuen kennis veinzen of snel meningen vormen op basis van onvolledige of onjuiste informatie. Dergelijk gedrag wordt voortgezet als een cyclus waarin desinformatie wordt verspreid en oppervlakkig begrip wordt aangezien voor ware expertise.

Het dilemma van de inschikkelijkheid

Een onderliggende factor is ons inherente verlangen om inschikkelijk te zijn. Mensen zijn sociale wezens, geprogrammeerd om acceptatie te zoeken en conflicten te vermijden. Het eens zijn met anderen, zelfs wanneer we onzeker of onwetend zijn, is vaak een manier om harmonie te bewaren in sociale interacties.

Deze neiging is niet inherent negatief, het kan samenwerking en cohesie bevorderen. Het heeft echter ook een keerzijde: het ontmoedigt kritisch denken en eerlijke discussie. In veel contexten betekent inschikkelijkheid het afstemmen op het dominante narratief of de meningen van invloedrijke individuen. Dit kan afwijkende meningen verstikken en diverse perspectieven onderdrukken, waardoor ons collectieve begrip van complexe kwesties uiteindelijk wordt beperkt. Dezelfde inschikkelijkheid die sociale harmonie bevordert, kan dus bijdragen aan de verspreiding van desinformatie en de devaluatie van echte expertise.

Het belang van kritisch denken

Kritisch denken wordt steeds belangrijker in een wereld die verzadigd is met informatie. Het vermogen om informatie te analyseren, evalueren en synthetiseren is cruciaal voor het navigeren door kwesties en het nemen van een geïnformeerde beslissing. Wanneer we valse informatie genereren, ondermijnt dit ons vermogen om samen te werken, kritisch te denken en de geldigheid van de informatie die we maken en promoten, te beoordelen.

Onszelf aanmoedigen om toe te geven wanneer we iets niet weten, kan een cultuur van kritisch denken en continu leren bevorderen bij onszelf en anderen. Het kan dienen als een herinnering dat het oké is om niet alles te weten en dat het zoeken naar nauwkeurige informatie een waardevolle bezigheid is.

Bovendien verergert de vermindering van blootstelling aan verschillende meningen dit probleem. Bijvoorbeeld wanneer sociale media-algoritmen bepaalde soorten informatie prioriteren, kunnen ze echokamers creëren die bestaande overtuigingen versterken en een kritische beoordeling van alternatieve standpunten ontmoedigen. Dit fenomeen draagt bij aan de opkomst van samenzweringstheorieën, aangezien mensen minder geneigd zijn om tegengestelde perspectieven tegen te komen en te overwegen. Een ander scenario is wanneer we een zoekmachine gebruiken; we zullen onze zoekopdracht formuleren met een inherente bias die de zoekalgoritmen graag gebruiken om ons precies het antwoord te geven waarnaar we op zoek waren, ongeacht of het het juiste antwoord is.

Dit is niet alleen een kwestie van alleen algoritmen, maar ook van hoe wij, als individuen, informatie benaderen. Cognitieve biases, zoals bevestigingsvooroordeel, zorgen ervoor dat we informatie die onze bestaande overtuigingen ondersteunt, bevoordelen en informatie die deze tegenspreekt, afwijzen. Deze neiging kan resulteren in een vertekend beeld van de werkelijkheid, waarbij ons begrip meer wordt gevormd door onze voorkeuren dan door objectieve feiten.

We moeten anderen verantwoordelijk houden

Desinformatie kan gevolgen hebben in de echte wereld, van het verspreiden van onjuiste gezondheidsadviezen tot het beïnvloeden van politieke opvattingen. Het waarborgen dat individuen nauwkeurige informatie verstrekken, kan deze risico's verminderen. Bijvoorbeeld, onjuiste gezondheidsinformatie kan leiden tot schadelijke praktijken, terwijl misleidende politieke informatie de publieke opinie kan beïnvloeden en de samenleving kan schaden. Daarom is het cruciaal om onszelf verantwoordelijk te houden voor de juistheid van de informatie die we delen.

Ieder van ons heeft de verantwoordelijkheid om de informatie die we delen te verifiëren. Dit betekent dat we de tijd moeten nemen om de bronnen van onze informatie te controleren en de redenering achter de claims die we tegenkomen, te begrijpen. Transparantie in ons eigen handelen kan anderen helpen de betrouwbaarheid van de informatie die we delen te beoordelen en beter geïnformeerde beslissingen te nemen.

We moeten een gewoonte van kritische evaluatie ontwikkelen bij onszelf en dit aanmoedigen bij anderen. Dit houdt in dat we de geloofwaardigheid van bronnen in vraag stellen, informatie controleren met betrouwbare referenties en openstaan voor verschillende standpunten. Door dit te doen, kunnen we de verspreiding van desinformatie verminderen en een cultuur van waarheidsgetrouwheid en intellectuele integriteit bevorderen.

Onszelf verantwoordelijk houden betekent erkennen wanneer we het mis hebben en onze fouten corrigeren. Het houdt een toewijding in aan ethisch gedrag in al onze communicatie, zowel online als offline. Dit omvat ook de verleiding vermijden om sensationele of ongeverifieerde informatie te delen om aandacht of invloed te krijgen.

Vertrouwen wordt opgebouwd door transparantie en eerlijkheid. Door open te zijn over onze bronnen en de beperkingen van onze kennis, kunnen we een meer betrouwbare informatieomgeving bevorderen. Dit betekent ook bereid zijn om respectvolle dialogen aan te gaan en de impact van onze woorden op anderen in overweging te nemen.

Als samenleving zouden we hoge normen van nauwkeurigheid en betrouwbaarheid moeten ontwikkelen en naleven. Dit houdt in dat we digitale geletterdheid en kritisch denkvaardigheden bevorderen, zodat individuen beter uitgerust zijn om door de complexiteit van het informatielandschap te navigeren. Onderwijsinstellingen, mediaorganisaties en gemeenschapsleiders spelen allemaal een rol bij het stellen van deze normen en het aanmoedigen van naleving ervan.

Een cultuur creëren waarin verantwoording wordt gewaardeerd, vereist gezamenlijke inspanning. We moeten initiatieven ondersteunen die fact-checking en verantwoord informatie delen bevorderen. Gemeenschapsgerichte inspanningen, zoals lokale fact-checking groepen of online fora die zich richten op het ontkrachten van mythen, kunnen effectief zijn in het bevorderen van deze cultuur.

Sociale normen spelen een belangrijke rol bij het vormgeven van ons gedrag. Door positieve voorbeelden te stellen en desinformatie aan te pakken wanneer we deze tegenkomen, kunnen we anderen beïnvloeden om hetzelfde te doen. Het aanmoedigen van een norm waarin waarheidsgetrouwheid en verantwoordelijkheid worden gewaardeerd, kan leiden tot een beter geïnformeerd en kritisch publiek.

Wat kunnen we hieraan doen

Desinformatie is een wijdverbreid probleem dat ons allemaal treft, gedeeltelijk gedreven door de verwachting dat iedereen een geïnformeerde mening moet hebben over alles. Deze verwachting drijft zowel mensen als computers ertoe informatie te produceren, vaak zonder oog voor nauwkeurigheid. Door onszelf en elkaar verantwoordelijk te houden voor de informatie die we delen, kunnen we de schadelijke effecten van desinformatie verminderen en bijdragen aan een meer geïnformeerde en verantwoordelijke samenleving. Dit vereist inzet, transparantie en continu leren.

Dat gezegd hebbende, vult dit me niet met hoop omdat, zonder al te politiek te worden, dit artikel niet gelezen moet worden als "het probleem zijn de mensen". Maar als een uitgangspunt om na te denken over welke prikkels er in het spel zijn en wie hier wordt uitgebuit.

Meer lezen

• De verborgen kosten van AI-gemak