ChatGPT, Claude, Gemini en andere chatbots kunnen opvallend goed schrijven, samenvatten en vragen beantwoorden. Maar hoe werkt zo’n groot taalmodel eigenlijk?
Het volgende woord voorspellen
In de kern doet een taalmodel één ding: voorspellen welk stukje tekst waarschijnlijk volgt. Tekst wordt opgeknipt in kleine stukjes, tokens genoemd. Dat zijn woorden of delen van woorden. Het model berekent voor elk mogelijk volgend token hoe waarschijnlijk het is, kiest er een, en herhaalt dat tot het antwoord af is.
Getraind op enorme hoeveelheden tekst
Om goed te kunnen voorspellen, wordt een model getraind op grote hoeveelheden tekst: websites, boeken, code en meer. Tijdens die training worden miljarden interne getallen, de parameters, steeds een beetje bijgesteld, zodat de voorspellingen beter worden. Zo leert het model patronen in taal, maar ook feiten, redeneerstappen en schrijfstijlen.
Van voorspeller naar assistent
Een model dat alleen tekst aanvult, is nog geen behulpzame chatbot. Daarom volgt een tweede fase: het model wordt verder getraind met voorbeeldgesprekken en met feedback van mensen over welke antwoorden beter zijn. Daardoor leert het vragen te beantwoorden, instructies te volgen en schadelijke verzoeken te weigeren.
Waarom maakt een taalmodel fouten?
Omdat een taalmodel waarschijnlijke tekst produceert, kan het ook overtuigend klinkende onzin opleveren. Dit heet hallucineren. Een model weet bovendien niets van gebeurtenissen na het moment waarop zijn trainingsdata zijn verzameld, tenzij het toegang krijgt tot zoekfuncties of andere bronnen.
Wat betekent dat voor jou?
- Gebruik een chatbot als hulpmiddel, niet als enige bron.
- Controleer feiten, cijfers en citaten, zeker bij belangrijke beslissingen.
- Deel geen gevoelige persoonlijke of bedrijfsgegevens zonder te weten wat de dienst ermee doet.
Geef een reactie