Human in the loop: bogholderen godkender de usikre
Human in the loop betyder, at et menneske godkender det, en AI-agent gør, før det får betydning. I praksis afgør agenten de sikre sager selv og sender de usikre til en navngiven person, for eksempel bogholderen. I bestemmer grænsen, og I flytter den, når tallene viser, at agenten rammer rigtigt.
Hvad er human in the loop i en økonomiafdeling?
I AI bruges begrebet ofte om et menneske, der retter en models svar. I en økonomiafdeling er det mere jordnært. Agenten gør arbejdet, og et menneske siger ja, før det, der kan koste penge eller en kunde, går ud af huset.
Det betyder ikke, at nogen kigger alt igennem. Godkender bogholderen 200 rykkere om dagen, ender hun med at trykke ja uden at læse. Så har I et menneske i loopet på papiret og ingen kontrol i virkeligheden. Pointen er at sende de rigtige sager til hende, og kun dem.
| Hvem beslutter | Hvornår det passer | |
|---|---|---|
| Menneske i loopet | Agenten foreslår, et menneske godkender før handlingen | Usikre sager, store beløb, nye kunder |
| Menneske over loopet | Agenten handler selv, et menneske læser loggen bagefter | Kendte sager under jeres beløbsgrænse |
| Intet menneske | Agenten handler, og ingen ser efter | Aldrig i økonomi |
Hvilke sager debitoragenten afgør, og hvilke den eskalerer
Tag debitoragenten. Den matcher indbetalinger og sender rykkere hver morgen. De fleste sager er ens: en kendt debitor, en faktura over forfald, intet svar i indbakken. Dem tager agenten. Resten lander hos bogholderen med en linje om, hvorfor.
Eksempel med opdigtede navne og tal.
Fire sager til Line ud af 38. Hun bruger et kvarter på dem og ved præcis, hvorfor hver sag ligger hos hende. Agentens job er beskrevet under debitorstyring. Her handler det om, hvem der bestemmer.
Sådan sætter I grænsen for, hvad agenten selv må
Grænsen er en håndfuld regler, som økonomichefen kan læse på et minut: beløb, kundetype, antal rykkere og åbne sager i kundeservice. Ingen sandsynligheder eller modelscorer, som kun en udvikler forstår.
Start med alt til godkendelse
De første to uger lægger agenten et udkast klar til hver sag. Line godkender eller retter, og hver rettelse bliver noteret med en årsag.
Mål, hvor ofte hun retter
Retter hun næsten aldrig første rykker til kendte debitorer under 25.000 kr., er det den første gruppe, agenten selv kan tage.
Flyt grænsen med navn og dato
Økonomichefen godkender ændringen. Den står i loggen med hvem, hvornår og hvorfor, så revisoren kan følge den.
Flyt den tilbage, hvis tallene vender
Stiger antallet af rettelser, eller klager debitorerne, går gruppen tilbage til godkendelse. Det tager et minut.
| Måned | Agenten sender selv | Til Line pr. dag | Rettelser |
|---|---|---|---|
| 1 | Intet | 35 | 9 % |
| 2 | Rykker 1 til kendte debitorer under 25.000 kr. | 12 | 4 % |
| 4 | Rykker 1 og 2 under 50.000 kr. | 5 | 1 % |
Nogle sager flytter aldrig. Kreditnotaer, inkasso og alt, der rører en åben tvist, bliver hos et menneske, uanset hvor godt agenten rammer.
Hvad sker der, når agenten tager fejl?
Den tager fejl. Det gør bogholderen også, men agentens fejl står i en log med tidspunkt, data og regel. De fleste fejl er kedelige: en rykker til en debitor, der betalte i går med et forkert fakturanummer.
Eksempel med opdigtede navne og tal.
- Fejlen ses i loggen: hvad agenten læste, hvilken regel den brugte, og hvad den sendte.
- Et menneske ruller den tilbage. Agenten kan foreslå en kreditering, men den kan ikke selv bogføre en.
- Ejeren af agenten svarer for den. Det er en navngiven person hos jer, hverken en leverandør eller »systemet«.
- Reglen bliver rettet, og rettelsen får dato og navn i loggen.
Adgangen holder fejlene små. Agenten læser i Business Central, men skriver ikke i finansen, og den har et loft over antal rykkere om dagen. Den værste fejl er en rykker for meget, aldrig et forkert beløb i bogføringen.
Hvem godkender, og hvem ejer reglerne?
| Rolle | Gør | Eksempel |
|---|---|---|
| Godkender | Afgør hver dag de sager, agenten sender videre | Line, bogholder |
| Ejer | Ejer reglerne og grænserne og svarer for agenten | Økonomichefen |
| Adgang | Giver og fjerner agentens adgang til systemerne | IT eller jeres driftspartner |
Godkenderen skal have tid og mandat til at sige nej. En godkender, der aldrig afviser noget, er et advarselstegn. Enten er grænsen for forsigtig, eller også læser ingen udkastene.
AI-forordningen kræver i artikel 14 menneskeligt tilsyn med højrisikosystemer. Om jeres løsning er højrisiko, afgør listen i forordningens bilag III. Her står blandt andet AI, der vurderer privatpersoners kreditværdighed eller giver dem en kreditscore. Det gennemgår vi på siden om AI-forordningen. Godkendelse og ejer bygger vi ind under alle omstændigheder.
20 store kunder? Så ring selv
Har I 20 store kunder, som økonomichefen kender ved navn, er en agent med godkendelse bare en omvej. Ring selv. Det samme gælder sager, hvor hver enkelt kræver en vurdering: en kreditforlængelse, et forlig, en kunde i betalingsstandsning.
Human in the loop giver mening, når der er mange ens sager og få svære. Er det omvendt, så lad processen være manuel. Tiden er bedre brugt i telefonen med kunderne end på at godkende udkast.
Alt til godkendelse først, slip senere
På første møde, som er gratis, ser vi på, hvor jeres team bruger timerne. I afklaringen skriver vi reglerne for godkendelse sammen med bogholderen og sætter et navn på ejeren. Det sker til fast pris, aftalt før vi går i gang.
Første løsning kører i jeres egen cloud med alt til godkendelse. Når I overtager, flytter jeres eget team grænsen og læser loggen uden os.
Hvad er human in the loop?
Human in the loop betyder, at et menneske godkender det, en AI-agent gør, før det får betydning. Agenten tager de sikre sager selv og sender de usikre til en navngiven person. På dansk hedder det også menneske i loopet.
Hvem godkender, hvad agenten gør?
En navngiven person, der kender arbejdet. For en debitoragent er det oftest bogholderen, der godkender hver dag, mens økonomichefen ejer reglerne. Godkenderen skal have tid og mandat til at sige nej.
Hvordan sætter vi grænsen for, hvad agenten selv må?
Start med at sende alle sager til godkendelse, og mål, hvor ofte godkenderen retter. Grupper, hvor hun næsten aldrig retter, kan agenten tage selv. Hver ændring godkendes af ejeren og står i loggen med navn og dato.
Hvad sker der, når AI-agenten tager fejl?
Fejlen står i loggen med det, agenten læste, og den regel, den brugte. Et menneske retter den, og agentens ejer svarer for den. Med læseadgang til ERP og et dagligt loft bliver den værste fejl en rykker for meget.
Kræver AI-forordningen human in the loop?
Artikel 14 kræver menneskeligt tilsyn med AI-systemer, der er højrisiko efter forordningen. Om jeres løsning er højrisiko, afhænger af, hvad den bruges til. Kreditvurdering af privatpersoner er et eksempel på højrisiko, så tjek jeres egen løsning mod bilag III.
Hvor forsvinder jeres timer?
Tag den opgave med, der stjæler flest. Så siger vi ærligt, om agenter kan tage den, og hvad det kræver af jer.