Wat is een LLM?

Een LLM (large language model, in het Nederlands groot taalmodel) is een AI-model dat getraind is op enorme hoeveelheden tekst. Het begrijpt vragen in gewone taal en schrijft er zelf tekst bij, zoals een antwoord, een samenvatting, een vertaling of een stuk code. Bekende LLM’s zijn de modellen achter ChatGPT, Claude en Gemini.

Hoe werkt een LLM?

Een LLM is een vorm van deep learning: een neuraal netwerk met miljarden instelbare getallen, de parameters. Tijdens de training leest het model grote hoeveelheden tekst en leert het steeds te voorspellen welk stukje tekst er waarschijnlijk volgt. Zo’n stukje heet een token: een woord of een deel van een woord.

Door dat op heel veel tekst te doen, leert het model taal, feiten, redeneringen en schrijfstijlen. Als je een vraag stelt, bouwt het model zijn antwoord token voor token op. Elk nieuw token kiest het op basis van je vraag en alles wat het al geschreven heeft.

Na die eerste training wordt een model meestal nog bijgestuurd met voorbeelden en beoordelingen door mensen. Daardoor volgt het instructies beter en geeft het bruikbare, veilige antwoorden.

Wat een LLM wel en niet weet

Een LLM heeft geen database met feiten die het opzoekt. Het weet wat het tijdens de training heeft geleerd, tot een bepaalde datum. Je eigen klanten, orders of voorraad kent het niet. Daarom geef je die informatie mee in de vraag (de prompt) of koppel je het model aan je systemen.

Hoeveel tekst een model in één keer kan meenemen, heet het contextvenster. Bij moderne modellen is dat ruim genoeg voor lange documenten, maar niet onbeperkt.

Bekende LLM’s

De bekendste taalmodellen komen van een paar grote aanbieders: Claude van Anthropic, Gemini van Google en de GPT-modellen van OpenAI, die je kent van ChatGPT. Daarnaast zijn er open modellen die je zelf kunt draaien, op je eigen server of bij een hostingpartij naar keuze. Elke aanbieder brengt regelmatig nieuwe versies uit, die sneller, slimmer of goedkoper zijn. Software die je met een LLM bouwt, maak je daarom het liefst zo dat je later zonder veel werk naar een ander model kunt overstappen.

Voorbeelden van een LLM in een bedrijf

Een LLM is goed in alles waar veel tekst bij komt kijken. Een paar voorbeelden uit het MKB:

• Service en support: binnenkomende mails en tickets lezen, samenvatten en indelen op onderwerp en urgentie.
• Groothandel: bestellingen uit vrije tekst of een pdf omzetten naar orderregels in je systeem.
• Productie: werkinstructies, storingsmeldingen en onderhoudsrapporten doorzoekbaar maken en samenvatten.
• Logistiek: afwijkingen in pakbonnen of vrachtbrieven signaleren en een voorstel doen voor de afhandeling.
• Kantoor: conceptteksten schrijven voor offertes, mails en productomschrijvingen, die een medewerker daarna nakijkt.

Vaak werkt een LLM daarbij niet los, maar als onderdeel van een groter proces. Het kan bijvoorbeeld de motor zijn van een AI-agent die zelf stappen uitvoert in je software.

Waar je op let bij een LLM

• Controle op de uitkomst. Een LLM kan overtuigend iets opschrijven dat niet klopt. Laat bij beslissingen met gevolgen een mens meekijken.
• Eigen data meegeven. Antwoorden worden beter en actueler als het model met je eigen informatie werkt, in plaats van op wat het ooit geleerd heeft.
• Privacy. Stuur alleen de gegevens naar het model die nodig zijn, en let op waar het model draait en wat de aanbieder met je data doet.
• Kosten en snelheid. Grotere modellen zijn vaak slimmer, maar ook trager en duurder. Voor eenvoudige taken volstaat soms een kleiner model.
• Keuze van het model. Claude, Gemini en ChatGPT hebben elk hun sterke kanten. Welk model past, hangt af van de taak.

Een LLM in je eigen software

Een LLM levert het meeste op als het in je eigen software zit, gekoppeld aan je eigen data en processen. SQUARE Concepts bouwt sinds 2004 software in Laravel en werkt daarbij met Claude, Gemini en ChatGPT. Bij Emkes Lease helpt AI bijvoorbeeld bij het ontvangen van tickets en het prioriteren van development en support. Lees meer over AI-automatisering voor je bedrijf.