Bruger I en AI-chatbot på hjemmesiden?
Så skal brugerne tydeligt informeres
AI-chatbots, virtuelle assistenter og automatiserede kundeservicebots er efterhånden blevet en naturlig del af mange virksomheders hjemmesider. Teknologien kan effektivisere kundeservicen, sikre hurtigere svar og gøre support tilgængelig uden for normal åbningstid.
Men brugeren skal kunne gennemskue, om vedkommende kommunikerer med et menneske eller et AI-system.
Det følger af artikel 50 i EU’s AI-forordning, som fastsætter en række transparensforpligtelser for virksomheder, der udvikler eller anvender bestemte AI-systemer. Transparenskravene i artikel 50 gælder fra den 2. august 2026 og omfatter blandt andet interaktive AI-systemer som chatbots og virtuelle assistenter.
Reglerne for selvstændige højrisiko-AI-systemer omfattet af bilag III er derimod udskudt til den 2. december 2027 som følge af EU’s digitale omnibus om AI.
Formålet med reglerne er at reducere risikoen for vildledning, manipulation, svig og misinformation. Borgere og kunder skal vide, hvornår de interagerer med AI eller bliver præsenteret for indhold, der er genereret eller manipuleret ved hjælp af AI. Det skal gøre dem i stand til at træffe informerede beslutninger og tilpasse deres tillid til systemet.
Hvad kræver artikel 50?
Artikel 50 indeholder forskellige transparenskrav afhængigt af, hvilken type AI-system der anvendes, og om virksomheden er udbyder eller idriftsætter af systemet.
Reglerne omfatter overordnet fire situationer:
- Direkte interaktion mellem en person og et AI-system
- AI-genereret eller AI-manipuleret indhold
- Følelsesgenkendelse og biometrisk kategorisering
- Deepfakes og visse AI-genererede tekster om forhold af offentlig interesse
For de fleste virksomheder, der anvender en chatbot eller kundeservicebot på deres hjemmeside, er det særligt kravet om direkte interaktion med et AI-system, der er relevant.
Chatbots og kundeservicebots: Brugeren skal vide, at det er AI
Efter artikel 50, stk. 1, skal udbydere designe AI-systemer, der interagerer direkte med personer, på en måde, som sikrer, at brugerne bliver informeret om, at de kommunikerer med et AI-system.
Det kan f.eks. være:
- en chatbot på virksomhedens hjemmeside
- en virtuel kundeserviceassistent
- en voicebot eller telefonisk AI-assistent
- et andet AI-baseret system, der kommunikerer direkte med kunden
Kravet retter sig mod situationer, hvor der foregår en reel, direkte tovejskommunikation mellem AI-systemet og en fysisk person. Systemer, der alene fungerer i baggrunden, foretager passiv dataindsamling eller kommunikerer med andre maskiner, er ikke omfattet af netop dette krav.
Oplysningen om brugen af AI skal gives klart og tydeligt senest ved den første interaktion eller eksponering. Brugeren bør derfor kunne se direkte i chatvinduet eller den indledende besked, at der er tale om en AI-bot, allerede når chatten åbnes eller senest inden den første egentlige udveksling. Det vil ikke være tilstrækkeligt, at oplysningerne alene fremgår af virksomhedens generelle vilkår eller privatlivspolitik, hvis brugeren ikke præsenteres for dem senest ved den første interaktion.
En tekst kan f.eks. formuleres således:
“Du chatter med vores AI-assistent.”
“Denne kundeservice anvender AI til at besvare dine spørgsmål.”
Den konkrete ordlyd kan tilpasses virksomhedens løsning og målgruppe, men informationen skal være klar, forståelig og let at få øje på.
Udbyder eller idriftsætter: Hvem har ansvaret?
Artikel 50 skelner mellem udbydere og idriftsættere af AI-systemer.
En udbyder er som udgangspunkt den organisation, der udvikler, markedsfører eller tager et AI-system i brug under eget navn eller varemærke.
En idriftsætter er en organisation, der benytter et AI-system under egen myndighed, f.eks. en virksomhed, som integrerer en AI-chatbot fra en ekstern leverandør på sin hjemmeside.
Den tekniske forpligtelse til at designe systemet, så brugerne informeres, påhviler som udgangspunkt udbyderen. En virksomhed, der benytter en ekstern chatbot, bør dog kontrollere, at oplysningen faktisk vises korrekt på virksomhedens egen hjemmeside, og at ansvarsfordelingen er afklaret med leverandøren.
Andre transparenskrav
Artikel 50 indeholder også særlige krav til mærkning af AI-genereret eller manipuleret indhold. Det gælder blandt andet deepfakes, visse tekster om forhold af offentlig interesse samt anvendelse af følelsesgenkendelse og biometrisk kategorisering. Virksomheder, der benytter sådanne løsninger, bør derfor undersøge, om der gælder en særskilt oplysnings- eller mærkningspligt.
EU-ikoner til mærkning af AI-indhold
Det er frivilligt, hvordan AI-genereret eller AI-manipuleret indhold mærkes, når den valgte mærkning i øvrigt opfylder de relevante krav. EU har offentliggjort tre eksempler på ikoner, som kan anvendes til mærkning af fuldt AI-genereret indhold, delvist AI-manipuleret indhold og indhold, hvor der kan tilføjes yderligere oplysninger. Ikonerne er til fri afbenyttelse.[1]
Ikonerne er ikke et generelt AI-certifikat og er ikke obligatoriske for chatbots. Ved chatbots er det afgørende, at brugeren klart og tydeligt informeres om, at vedkommende kommunikerer med et AI-system, senest ved den første interaktion.
Hvad kan manglende overholdelse koste?
Manglende overholdelse af transparenskravene kan medføre administrative bøder på op til 15 millioner euro eller 3 procent af virksomhedens samlede globale årsomsætning i det foregående regnskabsår, afhængigt af hvilket beløb der er højest. Der tages proportionalt hensyn til små og mellemstore virksomheder.
Tjekliste: Overholder jeres chatbot artikel 50?
Virksomheder, der idriftsætter AI på deres hjemmeside eller i kundeservicen, bør kontrollere følgende:
- Kortlæg AI-løsningerne: Identificér virksomhedens chatbots, voicebots, virtuelle assistenter og øvrige relevante AI-systemer.
- Fastlæg virksomhedens rolle: Vurdér, om virksomheden er udbyder, idriftsætter eller begge dele.
- Test chatbotten: Kontrollér, at brugeren tydeligt informeres om brugen af AI senest ved den første interaktion. Oplysningen skal være let at finde, forståelig og tilgængelig.
- Kontrollér leverandøren: Undersøg, om leverandøren har indbygget den nødvendige information, om informationen bevares ved integration på jeres hjemmeside, og hvordan ansvaret for overholdelse af artikel 50 er fordelt.
- Dokumentér vurderingen: Beskriv, hvilke krav der gælder, og hvordan virksomheden har implementeret og kontrolleret dem.
Konklusion
Virksomheder med en chatbot eller kundeservicebot bør sikre, at brugerne tydeligt informeres om, at de kommunikerer med et AI-system, senest ved den første interaktion. Det bør samtidig kontrolleres, at informationen vises korrekt i den konkrete løsning, og at ansvarsfordelingen med en eventuel ekstern leverandør er afklaret og dokumenteret.
Kontakt os gerne, hvis I har spørgsmål til transparenskravene i AI-forordningen eller ønsker hjælp til at vurdere jeres AI-løsninger.
[1] Henvisning til EU’s AI ikoner: https://digital-strategy.ec.europa.eu/en/policies/eu-icons-labelling-ai-generated-content