De kracht van grootschalig machine learning

ChatGPT is getraind met een onvoorstelbare hoeveelheid online data, gaande van boeken en websites tot forumdiscussies. Op basis van geavanceerde machine learning detecteert het softwareprogramma patronen in menselijke taal.

Hierdoor kan ChatGPT nu zinnen en alinea’s genereren die qua structuur en spelling de kenmerken van betrouwbaar Nederlands vertonen. Ook blikt het soms verrassend diep op bepaalde onderwerpen, wat het gevoel van accuratesse versterkt.

Belangrijke zwaktes in de technologie

Toch betekent dit zeker niet dat we AI-tekst zondermeer als feitelijk correct kunnen beschouwen. Integendeel zelfs. Cruciale tekortkomingen zijn namelijk:

Ontbreken van een werkelijk begrip over onderwerpen;
Het repliceren van onjuiste data waarop het is getraind;
Het formuleren van overtuigende maar ongefundeerde antwoorden;
Onvoorspelbaar gedrag buiten het trainingsdomein.
Kortom: gezond kritisch vermogen is cruciaal bij het interpreteren van door AI gegenereerde content.

Opties voor betere betrouwbaarheid

Experts werken gelukkig aan velerlei opties om de informatie van chatbots als ChatGPT valideren:

Het filteren van onjuiste trainingdata;
Het toevoegen van meer betrouwbare datasets;
Technieken voor herkenning van speculatie;
Softwarematige feitencontrole na tekstgeneratie;
Ethische hackers om zwakke plekken te identificeren.
Hoewel nog volop uitdagingen, worden chatbots zo stap voor stap robuuster en veiliger.

Conclusie

Hoegepolijst de taal van chatbots als ChatGPT ook is, 100% feitelijke juistheid valt nog niet te garanderen. Vertrouw dus vooral op meervoudige bronverificatie van informatie.

Maar met de juiste technical en ethische zorgvuldigheid hebben conversatierobots zonder twijfel enorm veel goede kennis toe te voegen aan de maatschappij. We moeten AI alleen met de nodige controles omarmen, net zoals elk nuttig maar risicovol instrument.