Bedrijfssoftware voor AI-agents: zo zie je of ze standhoudt

Een agent die door schermen klikt of HTML uitleest, gokt. Kijk of er een command line of API is die JSON teruggeeft en haar eigen schema toont: welke commando's er zijn, welke velden verplicht zijn, welke waarden zijn toegestaan. Ook fouten moeten machineleesbaar zijn, met een code die de agent vertelt of hij de aanroep moet verbeteren, moet wachten of jou moet vragen.

Controleer ook de dekking. Wat alleen in de interface werkt, doet de agent via een omweg of helemaal niet.

De agent heeft een eigen sleutel nodig die je op elk moment kunt intrekken, niet je wachtwoord. Nog beter als de sleutel wordt ingewisseld voor een kortlevend token in plaats van met elk verzoek mee te reizen.

Sommige handelingen horen niet in handen van een agent: nieuwe sleutels aanmaken, het account verwijderen, het wachtwoord wijzigen. De software moet ze voor agenttoegang op de server blokkeren, niet alleen in de documentatie afraden.

Een definitieve factuur kun je niet terugnemen, alleen crediteren. De software moet zulke stappen als destructief markeren en alleen met uitdrukkelijke bevestiging uitvoeren. Die bevestiging moet in de tool zelf zitten; een zin in de prompt beschermde de database bij Replit niet.

Voordat de agent iets belangrijks wijzigt, moet hij je precies kunnen laten zien wat hij zou versturen: methode, adres, body. Je keurt dan goed wat je hebt gezien, niet een voornemen in woorden.

Agents proberen opnieuw. Valt de verbinding weg, dan probeert de agent het nog eens, en zonder bescherming staat de tijdregistratie of betaling twee keer in het systeem. Kijk of het aanmaken van een record een eigen ID accepteert waarmee de server een herhaling herkent, en of bulkbewerkingen volledig of helemaal niet slagen. Waar een stap niet herhaald mag worden, moet de foutmelding dat zeggen.

Achteraf wil je weten wat er is gebeurd. Dat betekent: elke handeling is een leesbaar commando dat je zelf kunt uitvoeren, verzoeken kunnen op verzoek worden gelogd zonder de sleutel prijs te geven, en je ziet welke sleutel wanneer actief was. Eén sleutel per agent maakt dat eenduidig.

Fouten gebeuren. Het gaat erom hoe ze worden hersteld: concepten bewerken of verwijderen, boekingen corrigeren, uitgegeven stukken crediteren, met een spoor in plaats van stil overschrijven. Wat al gefactureerd is, moet vergrendeld zijn, zodat een correctie op één plek geen afgeronde factuur verandert.

Loopt de agent tegen een limiet aan, zoals een functie buiten je abonnement of te veel verzoeken, dan moet de software dat duidelijk zeggen: met een reden en of wachten helpt of jij moet beslissen. Een agent die een limiet voor een fout aanziet, blijft het proberen of zoekt een omweg.

Geef elke agent een eigen sleutel met zo weinig rechten als nodig, een leessleutel waar lezen genoeg is. Sta onomkeerbare stappen alleen toe als je erom vraagt, en bekijk de proefrun voordat je goedkeurt. Toegang voor agents tot Time Momentum hoort bij Pro.