Een eigen AI-agent bouwen: wat er om het model heen moet

Als u met ChatGPT praat, praat u niet alleen met een model. U praat met een model en met de laag eromheen. Web search zit bijvoorbeeld niet in het model, dat is een tool die die laag aanbiedt. Haal de laag weg en er is geen internet, geen bestanden, geen agenda, geen CRM. Alleen tekst. Die laag heet het harness, en wie een eigen AI-agent wil bouwen, bouwt in de praktijk dat harness. Het model koopt u in en wisselt u zodra er een beter of goedkoper model is. Wat u bouwt en houdt, is alles eromheen.

Deze gids gaat over die laag: wat hij levert, waarom de standaardversie van de grote aanbieders u maar tot een bepaald punt brengt, en wat u zelf in handen moet hebben. Wilt u eerst weten wat een agent überhaupt is, lees dan de uitleg van het begrip. Gaat uw vraag over welk proces u als eerste kiest, dan staat dat in de gids over AI-agenten voor het mkb.

Het model is maar één onderdeel

Een taalmodel voorspelt tekst. Het kan geen mail versturen, geen orderregel wegschrijven en geen pagina openen. Alles wat een agent in uw bedrijf doet, gebeurt doordat de laag eromheen het aanbiedt, uitvoert en terugkoppelt. Dat verklaart waarom twee bedrijven met precies hetzelfde model soms een compleet ander resultaat halen: het verschil zit in welke tools de agent krijgt, welke informatie hij te zien krijgt en wat er gebeurt als een stap mislukt. In de publieke engineeringdocumentatie van Anthropic en LangChain is dat inmiddels het expliciete onderwerp: niet een beter model, maar een betere omgeving om het model heen. Voor u betekent dat vooral dat de vraag “welk model moeten wij hebben” zelden de eerste vraag is. De eerste vraag is welke taak de agent doet, wat hij daarvoor mag aanraken en hoe u ziet of het gelukt is.

Wat een harness levert

Een harness levert drie dingen, en ze zijn niet allemaal even moeilijk:

• Tools: wat mag dit ding aanraken, en met welke rechten? Een tool is geen knop maar een afspraak: wat doet hij, wanneer gebruikt u hem wel en wanneer niet, en wat betekent het antwoord? Anthropic beschrijft in Writing effective tools for agents hoeveel van het gedrag van een agent in die beschrijving zit en niet in het model. Een slecht beschreven tool wordt verkeerd gebruikt door elk model dat u erop zet.
• Context: welke kennis gaat mee en wat blijft er hangen na stap vier? Dit is selectie, geen opslag. Het gaat er niet om zo veel mogelijk in het gesprek te proppen, maar om per stap het juiste stuk klaar te zetten en de rest weg te laten. Dat is de kern van wat context engineering heet.
• State: wat is er werkelijk gebeurd? Dit is de lastigste en minst zichtbare van de drie, en daarom de plek waar de meeste agents in de praktijk stukgaan. Het krijgt hieronder een eigen kopje en een eigen uitleg.

De basisopzet is een prompt, een model en een paar tooldefinities. Dat werkt prima in een demo, maar wat het mist is een antwoord op de vraag wat er gebeurt als stap drie half slaagt.

Waarom state de lastige is

Een model weet uit zichzelf niet of een actie is uitgevoerd. Het weet niet of de pagina geladen is, of de mail echt verstuurd is, of die update in het CRM geland is. Het ziet alleen wat het harness teruggeeft, en stuurt u niets terug, dan vult het model het gat zelf in. Dat is een groot deel van wat mensen bij agents “hallucineren” noemen: de agent verzint de uitkomst van een actie die hij niet kan zien. Daar komt een subtielere variant bij. Een tool kan technisch slagen en inhoudelijk niets opleveren: de zoekopdracht gaf nul resultaten omdat het filter verkeerd stond, de pagina laadde maar toonde een inlogscherm, de statuswijziging werd geaccepteerd maar door een validatieregel teruggedraaid. Een geslaagd technisch antwoord is geen bewijs van een geslaagd bedrijfseffect, en een agent die dat verschil niet krijgt aangereikt, rapporteert succes.

De consequentie voor het ontwerp is eenvoudig, ook als de uitvoering dat niet is. Elke actie met gevolgen krijgt een bewijs terug: wat is er gewijzigd, in welke versie, op welk moment, en wat is de status als het antwoord onbekend blijft. Onomkeerbare acties gaan langs een mens, omdat de mogelijke schade groter is, iemand verantwoordelijkheid moet dragen en fouten niet altijd te herstellen zijn.

De harnesses van OpenAI en Anthropic zijn goed

En dat is geen bescheidenheid. Het is zwaar getest, door miljoenen mensen met dagelijks gebruik, en het is op veel punten beter doordacht dan wat een eerste eigen bouw oplevert. Het zijn alleen generalistische producten: ze zijn voor iedereen tegelijk gebouwd. Ze kennen uw systemen niet, uw regels niet en uw uitzonderingen niet, en dat is precies waarom een agent die in de chat prima werkt in uw bedrijf niet van de grond komt. Niet omdat het model tekortschiet, maar omdat de laag eromheen het gemiddelde van alle gebruikers bedient en u geen gemiddelde gebruiker bent. Een marketingagent heeft andere tools nodig dan een financiële agent: andere bronnen, andere kennis, andere grenzen. Welke merkregels gelden, welke kanalen wel en niet, wat er langs een mens moet voordat het naar buiten gaat, dat zit niet in het model. Dat bouwt u in het harness.

Wat dit betekent voor modelkeuze en open source

Zodra u die laag zelf bezit, zijn het model en de agent twee losse dingen, en dat levert drie praktische vrijheden op. U kiest per taak: een taak die veel redeneerwerk vraagt krijgt een groot model, een taak die vooral typewerk is krijgt een klein of open source model. Dat patroon hebben we zelf toegepast in de Minimal Coding Harness: laat het dure model denken en specificeren, laat het goedkope model uitvoeren. U kunt wisselen: als een aanbieder duurder wordt, zijn voorwaarden aanpast of een model uitfaseert, vervangt u een instelling en bouwt u de agent niet opnieuw. En u kiest waar het draait: met een eigen harness is het endpoint een instelling, en dat kan een Europese aanbieder zijn of een model op uw eigen machine. Voor organisaties die moeten kunnen aantonen waar verwerking plaatsvindt, is dat het verschil tussen een gesprek en een dichte deur. Wie de laag niet bezit, heeft die drie vrijheden niet. Dan is het model geen onderdeel meer maar een afhankelijkheid.

Wat u zelf moet bezitten

U hoeft niet alles zelf te bouwen. U moet wel weten welke onderdelen u beter niet van een generalistische leverancier kunt afnemen. Uw tools en hun grenzen: wat de agent mag aanraken en met welke rechten is een bedrijfsbeslissing, geen productinstelling, en dit hoort ergens te staan waar u het kunt lezen, wijzigen en aantoonbaar afdwingen. Uw kennisbronnen: welke documenten, regels en voorbeelden de agent gebruikt, is een van de weinige plekken waar uw voorsprong zit, en die hoort niet te verdwijnen in de configuratie van een tool die u over twee jaar wilt vervangen. Uw uitvoeringsadministratie: welke actie is voorgesteld, welke is goedgekeurd, welke is uitgevoerd en met welk bewijs. Dit is de state uit het vorige stuk, en het onderdeel dat u het hardst nodig hebt zodra er iets misgaat. Het model is nadrukkelijk niet in die lijst. Dat koopt u in, en dat kunt u wisselen als er betere modellen zijn of als u van aanbieder wilt veranderen.

Wanneer u dit niet zelf moet bouwen

Soms is eigen bouw het verkeerde antwoord. Past uw werk in de standaardvorm van een bestaand product, gebruik dan het product; een eigen harness verdient zich terug op eigen bronnen, eigen regels en eigen goedkeuringsmomenten. Is het proces zelf nog niet op orde, begin daar, want een agent maakt slecht afgesproken werk niet vanzelf netjes en dat geldt voor elke laag eromheen. Is er niemand die eigenaar is van de workflows of van de uitkomsten van de taken die de agent uitvoert, wacht dan. Een agent zonder eigenaar wordt een technisch experiment dat mogelijk te veel vrijheid krijgt; governance van de agent en het keuren van de uitkomsten zijn essentieel bij elke implementatie.

En als u wel bouwt: begin klein genoeg om te overzien. Eén taak, een handvol tools, een duidelijk bewijs per actie en een mens voor alles wat onomkeerbaar is, die uitkomsten controleert en bijstuurt waar nodig. De rest volgt uit wat er daadwerkelijk misgaat. Een agent bouwen gaat via trial-and-error, bijsturen naar uw eigen wensen en vertrouwen krijgen in de techniek.

Waar begint u

Wilt u weten welk proces zich bij u leent voor een eigen agent, gebruik dan de AI Readiness Scan. Die ordent uw processen voordat u een model, een tool of een partij kiest. Wilt u de techniek eerst zien in plaats van erover lezen: onze eigen Minimal Coding Harness staat onder MIT-licentie op GitHub. Het is een kleine, leesbare laag die concreet laat zien waar zo’n harness uit bestaat. Loopt u vast bij het afbakenen, neem dan contact met ons op.