Wat is human in the loop?

Human in the loop betekent dat een mens een vaste rol heeft in een proces waarin AI meewerkt. De AI doet het voorwerk, zoals gegevens verzamelen, een document uitlezen of een voorstel maken, en een mens controleert of beslist voordat er iets gebeurt met gevolgen. Zo combineer je de snelheid van AI met het oordeel van iemand die het werk kent.

Hoe werkt human in the loop?

Een proces met AI bestaat uit stappen. Bij human in the loop bepaal je per stap wie het doet:

1. De AI bereidt voor. Hij leest een aanvraag, zoekt gegevens op en maakt een voorstel.
2. Een mens beoordeelt. Hij ziet het voorstel, en liefst ook waarop het is gebaseerd. Hij keurt goed, past aan of wijst af.
3. Het systeem voert uit. Pas na goedkeuring wordt de bestelling geplaatst, de mail verstuurd of de boeking gemaakt.
4. Alles wordt vastgelegd. Wat de AI voorstelde, wat de mens besliste en wat er daarna gebeurde.

De beslissingen van de mens zijn ook waardevolle informatie. Zie je dat voorstellen vaak op dezelfde manier worden aangepast, dan kun je de AI of de regels daarop bijstellen.

De varianten

• Human in the loop: een mens keurt elke beslissing goed voordat er iets gebeurt. Geschikt bij stappen met gevolgen voor klanten, geld of voorraad.
• Human on the loop: de AI werkt zelfstandig, een mens houdt toezicht, ziet wat er gebeurt en kan ingrijpen of het systeem stilzetten. Geschikt bij veel kleine beslissingen met beperkte gevolgen.
• Human out of the loop: de AI werkt volledig zelfstandig. Alleen geschikt voor stappen die weinig gevolgen hebben en makkelijk terug te draaien zijn.

Je hoeft niet voor het hele proces één variant te kiezen. Vaak doet de AI de eenvoudige stappen zelf en legt hij alleen de belangrijke of afwijkende gevallen aan een mens voor.

Voorbeelden in een bedrijf

• Groothandel: de AI doet een bestelvoorstel op basis van verbruik en minimumvoorraad. De inkoper ziet het voorstel, past waar nodig aantallen aan en keurt goed.
• Logistiek: de AI leest pakbonnen uit en vergelijkt ze met de order. Klopt alles, dan wordt de ontvangst geboekt; wijkt er iets af, dan beslist een medewerker.
• Productie: de AI vat storingsmeldingen samen en stelt een prioriteit voor. De planner bepaalt de volgorde.
• Service: de AI deelt binnenkomende vragen in en stelt een antwoord voor. Een medewerker leest het en verstuurt het.

Juist bij een AI-agent, die zelf stappen zet in andere systemen, is het belangrijk om vooraf te bepalen bij welke acties een mens moet beslissen.

Human in the loop en de AI Act

De AI Act vraagt bij AI-systemen met een hoog risico om menselijk toezicht. Zulke systemen moeten zo zijn ontworpen dat mensen ze goed kunnen begrijpen en volgen, kunnen ingrijpen en de uitkomst niet blind overnemen. Voor de meeste toepassingen in bedrijfssoftware geldt een lager risico, maar het principe is ook daar verstandig. Daarbij hoort ook AI-geletterdheid: wie controleert, moet weten waar hij op let. Deze uitleg is geen juridisch advies.

Waar je op let

• Maak controleren makkelijk. Toon het voorstel overzichtelijk, met de gegevens waarop het is gebaseerd. Een mens die alles zelf moet opzoeken, gaat na een tijd blind goedkeuren.
• Pas op voor automatisch vertrouwen. Als de AI meestal gelijk heeft, letten mensen minder goed op. Laat afwijkingen en onzekere gevallen daarom duidelijk zien.
• Leg vast wie wat besliste. Dan kun je achteraf zien wat er gebeurde en het proces verbeteren.
• Kies per stap. Niet elke stap hoeft een mens te zien. Bepaal het op basis van de gevolgen van een fout.

Human in the loop in bedrijfssoftware

In goede bedrijfssoftware is human in the loop geen extra stap, maar onderdeel van het scherm waar iemand al in werkt. Bij Basiq Flow bijvoorbeeld doet AI bestelvoorstellen en min/max-voorraadsuggesties, en keurt een mens ze goed. SQUARE Concepts werkt bij elke automatisering zo: alleen de gegevens die nodig zijn gaan naar het model, bij stappen met gevolgen beslist een mens en alles wordt vastgelegd. Lees meer over AI-automatisering voor je bedrijf.