AI-forordningen i praksis: det, vi bygger ind i agenterne

Hvad betyder AI-forordningen for jeres agenter?

Forordningen deler AI i fire niveauer efter risiko: forbudt, højrisiko, gennemsigtighed og resten. Det meste af det, en økonomiafdeling eller et lager bruger agenter til, ligger i den sidste bunke uden særlige krav.

Forordningen skelner også mellem udbyderen, der udvikler et AI-system, og idriftsætteren, der bruger det. Køber I en agent færdig, er I idriftsætter. Bygger I den selv under eget navn, kan I også være udbyder.

Denne side er ikke juridisk rådgivning. Den viser, hvad vi bygger ind i de agenter, vi sætter i drift, og hvor I selv skal læse efter. Er I i tvivl om jeres rolle eller jeres niveau, så spørg en advokat.

Hvornår gælder hvad efter AI-omnibussen?

EU ændrede forordningen med en forenklingspakke, AI-omnibussen, som trådte i kraft 27. juli 2026. Den flyttede højrisikoreglerne og omskrev kravet om AI literacy. Mange danske artikler om AI Act er skrevet før, så tjek datoen på det, I læser.

Er en debitoragent et højrisikosystem?

Som regel nej. Bilag III nævner AI, der vurderer kreditværdigheden hos fysiske personer. En debitoragent, der matcher indbetalinger og sender rykkere til jeres erhvervskunder efter jeres egne regler, vurderer ingen privatpersoners kredit. Den udfører en procedure, I allerede har.

Sælger I til private, og skal agenten afgøre, hvem der får lov at købe på faktura, så er I tæt på grænsen. Den beslutning lader vi et menneske træffe. Samme logik gælder i HR: en agent, der sorterer ansøgninger, er højrisiko, og den bygger vi ikke.

Vi bygger log og menneskelig kontrol ind alligevel. Revisoren spørger efter det, og controlleren skal kunne svare, når en kunde ringer og vil vide, hvorfor de fik en rykker.

Kan I svare, når nogen spørger hvorfor?

For højrisikosystemer kræver forordningen automatisk logning, og idriftsætteren skal gemme loggene i mindst seks måneder. Vi gør det samme for en debitoragent, for spørgsmålet kommer alligevel. Her er det revisoren, der spørger om én rykker.

• Hvad agenten gjorde, hvornår, og hvilke data den så.
• Hvilken regel den fulgte, og hvem der godkendte reglen.
• Hvem der godkendte undtagelsen, når et menneske var inde over.
• Loggen ligger i jeres egen cloud, og I bestemmer, hvor længe den gemmes.

Hvem må stoppe agenten, og ved de hvordan?

Forordningens krav om menneskeligt tilsyn handler om højrisikosystemer. Kernen kan alle bruge: den person, der holder øje, skal forstå systemet, have myndighed til at gribe ind og kunne stoppe det. Et menneske, der kun trykker godkend, tæller ikke.

1. En navngiven ejer

   Økonomichefen ejer debitoragenten og dens regler. Hendes navn står på ejerkortet, før agenten kører.

2. Undtagelser til et menneske

   Ny debitor, åben reklamation eller beløb over grænsen går til bogholderen med en kort forklaring. Hun godkender, retter eller ringer selv.

3. En stopknap, der virker

   Bogholderen kan sætte agenten på pause uden at ringe til IT. Rykkerne venter, til nogen starter den igen.

Hvordan I fordeler sagerne mellem agent og bogholder, og hvornår I flytter grænsen, går vi i dybden med under human in the loop.

AI literacy: hvad artikel 4 kræver af jeres team

Artikel 4 gælder alle, der bruger AI i arbejdet, også jer, hvis I har én agent og et Copilot-abonnement. Efter AI-omnibussen skal I træffe foranstaltninger, der støtter jeres medarbejderes AI-færdigheder. I skal tage højde for deres viden, erfaring og den sammenhæng, AI bruges i.

Kommissionen skriver selv, at der hverken kræves certifikat eller et bestemt niveau. En intern oversigt over, hvem der har lært hvad, er frivillig. Før den alligevel, for det er den, I viser frem, hvis tilsynet spørger.

Vi lærer jeres team det undervejs, ikke på et kursus bagefter. I Første løsning sidder bogholderen med, når reglerne bliver sat. Når I overtager, har I en drifthåndbog og folk, der har prøvet at stoppe agenten selv.

Når I skal have en advokat, ikke os

Vi er folk, der har siddet i stolen og sat data og agenter i drift. Vi er ikke advokater, og AI Act-rådgivning om jeres juridiske rolle hører hjemme hos en. I disse tilfælde skal I have juridisk hjælp, før noget bliver bygget:

• AI, der sorterer ansøgere, fordeler opgaver eller vurderer medarbejdere.
• Kreditvurdering eller prissætning af forsikring for privatpersoner.
• I sælger selv et AI-produkt til andre og bliver dermed udbyder.
• Agenten behandler følsomme personoplysninger. Her møder AI-forordningen GDPR.

Selve lovteksten er forordning (EU) 2024/1689 på EUR-Lex, også på dansk. Digitaliseringsstyrelsen er national koordinerende tilsynsmyndighed og har vejledninger på digst.dk under Tilsyn. Dér står også, hvad AI-omnibussen ændrede.