De tijdlijn
In 2018 paste OpenAI een nieuwe AI-techniek, de transformer, toe op een grote hoeveelheid ongelabelde data en noemde dit taalmodel GPT-1 (Generative Pre-trained Transformer). De GPT-series is vervolgens in enkele jaren uitgebreid naar GPT-2, GPT-3 en zelfs GPT-3.5. Op 30 november 2022 werd ChatGPT gelanceerd door OpenAI, een variant van de 3.5 versie van GPT met een verbeterde dialoogvorm. Hoewel ChatGPT gratis gebruikt kan worden, is er geen garantie dat er in de toekomst zonder betaling tegen gepraat kan worden.
De technische kant van ChatGPT
Thomas vertelt verder over de technische kant: “ChatGPT is een chatbot-achtige large language model.” De basis van language modeling bestaat uit het voorspellen van een nieuw woord in een gegeven zin of woordgroep. Het model krijgt bijvoorbeeld de incomplete zin 'De kat zit op de' te zien. Hierbij is het dan de taak om een opeenvolgend woord te genereren. Welk woord dit wordt, is gebaseerd op vele berekeningen en waarschijnlijkheden. GPT-3 was al zeer krachtig en nu is dit model verder getraind met menselijke feedback.
Wat kun je met ChatGPT?
Van essays laten schrijven tot aan complexe vragen over kwantumtheorie, je kunt ChatGPT zelfs vragen stellen in het Nederlands en programmeervragen voorleggen. Thomas legt uit: “Heel simpel gezegd werkt ChatGPT met input en output. Dat betekent dat je een vraag of opdracht aan het model voorlegt en op basis daarvan wordt er een bijhorende tekst geproduceerd."
Kanttekeningen rondom ChatGPT
“ChatGPT heeft geen onderliggend begrip van betekenis of kennis en dit zorgt ervoor dat het model niet altijd correcte feitelijke informatie geeft.” Ook is het model geen volwaardige vervangend gesprekspartner, want ChatGPT heeft geen eigen mening. Thomas geeft aan: "Het model vormt een kunstmatige mening op basis van alle beschikbare internetdata. Een gevolg hiervan is dat er ook voorkeuren in de output van het model zitten, bijvoorbeeld politieke of discriminerende uitingen.
Misvattingen
Rondom de hype van ChatGPT zijn er allerlei misvattingen. Thomas licht toe: “Plagiaatdetectiesoftware zijn absoluut niet waterdicht in het onderscheiden van gegenereerde tekst en tekst geschreven door mensen.” Een potentieel probleem is dat tot nu toe het merendeel van zulke software getraind is op de voorganger GPT-2. Thomas vult aan: “Op dit moment beheerst ChatGPT nog niet de talen waarop het getraind is. Het begin is er, maar het model blijft zich verder ontwikkelen op basis van nieuwe input van mensen."
Wat is de rol van SURF?
SURF levert technische expertise over AI en ChatGPT. Daarnaast levert SURF een platform voor discussie en onderlinge kennisuitwisseling. Er worden ook informatiedagen georganiseerd voor ChatGPT en andere onderwerpen om de community en SURF zelf up-to-date te houden met de huidige ontwikkelingen.
Meer weten over AI in het onderwijs?
Word dan lid van de Special Interest Group AI in het onderwijs: communities.surf.nl/ai-in-education
Lees meer over de discussie tussen verschillende onderwijsexperts tijdens het seminar: “Wat is de impact van ChatGPT op het onderwijs?”: Onderwijsexperts discussiëren over ChatGPT: “Er is een extra klasgenoot bij gekomen”
Save the date: Vervolg-event over de impact van ChatGPT in Utrecht op vrijdag 3 maart 15:00-17:00.
1 Praat mee