Wat is human-in-the-loop bij AI-agenten?

Een AI-agent die een klantvraag voorbereidt, doet het zoekwerk, vat samen en zet een antwoord klaar. Op dat moment stopt hij, en een medewerker leest het voorstel en klikt op verzenden. Dat moment heet human-in-the-loop. Het is een stap in het proces waar de agent niet voorbij kan zonder een beslissing van een mens.

Waarom het moment er hoort te zijn

Een agent kan veel, maar hij kan niet verantwoordelijk zijn. Als een klant een verkeerde offerte krijgt, een betaling naar de verkeerde rekening gaat of een medewerker een bericht ontvangt dat nooit verstuurd had mogen worden, dan is het niet de agent die dat uitlegt. Dat is iemand in uw organisatie. Human-in-the-loop zorgt dat die persoon het ook daadwerkelijk gezien heeft voordat het gebeurde. Het is het moment waarop een mens controleert of het voorstel klopt, beslist of het door mag, en daarmee de uitkomst tot de zijne maakt.

Daar komt bij dat een agent zijn eigen fouten slecht ziet. Hij werkt met wat hij aangeleverd krijgt, en als daar iets in ontbreekt of verkeerd staat, merkt hij dat vaak niet. Menselijke controle is echter geen automatische oplossing. Mensen kunnen te snel akkoord geven of aannemen dat het voorstel wel zal kloppen. De controle werkt alleen als de medewerker voldoende context en tijd krijgt, bevoegd is om te beslissen en het voorstel daadwerkelijk kan aanpassen of afwijzen.

De EU AI Act verplicht in artikel 14 passende maatregelen voor menselijk toezicht bij hoogrisico-AI-systemen. Of een systeem daaronder valt, hangt af van het beoogde gebruik en de invloed op mensen. Een intern systeem voor personeelsselectie kan bijvoorbeeld wel hoog risico zijn. Los van die wettelijke classificatie is menselijke tussenkomst ook een bredere ontwerpkeuze: wanneer een agent namens uw organisatie handelt, moet iemand kunnen ingrijpen voordat een risicovolle beslissing of actie effect krijgt.

Waar het moment hoort

Kijk niet alleen naar omkeerbaarheid, maar ook naar risico, impact en onzekerheid. Menselijke goedkeuring is bijvoorbeeld passend bij:

• externe communicatie namens uw organisatie;
• betalingen en verwijderingen;
• beslissingen over medewerkers of klanten;
• uitzonderingen en situaties waarin de agent weinig zekerheid heeft;
• acties die andere processen automatisch starten.

Voorbereidend werk zoals zoeken, lezen, samenvatten en een concept maken kan een agent meestal zelfstandig doen. Gebruik zo weinig goedkeuringsmomenten als verantwoord is voor het risico. Als elke stap goedkeuring vraagt, doet de mens het werk alsnog zelf met een extra scherm ertussen.

Een goede goedkeuringsstap toont de voorgestelde actie, de gebruikte brongegevens, de verwachte gevolgen en eventuele onzekerheid. De medewerker krijgt voldoende tijd en kan het voorstel goedkeuren, aanpassen of afwijzen.

Waar het moment wordt afgedwongen

Dit is het punt dat het vaakst misgaat. Een regel in de instructie aan het model, zoals “vraag altijd om bevestiging voordat u een mail verstuurt”, is een verzoek en geen garantie. Het model kan de instructie verkeerd toepassen of ten onrechte aannemen dat al toestemming is gegeven. De goedkeuring hoort daarom technisch te worden afgedwongen in het harness, de software om het model heen: de tool die verstuurt, werkt alleen met een goedgekeurde opdracht, of de actie blijft in een wachtrij staan tot iemand hem vrijgeeft. Dan maakt het niet uit wat het model denkt dat er is afgesproken. Hoe die keuze samenhangt met de rest van de bouw, staat in de gids over een eigen AI-agent bouwen. Welke afspraken u daarnaast vastlegt over rechten, logging en eigenaarschap, staat in de gids over AI-agenten voor het mkb.