EU AI-lov (chatbot gennemsigtighed)

AI-loven sorterer AI-systemer efter risiko. Nogle praksisser er helt forbudte, såsom manipulerende teknikker, der forårsager betydelig skade. Højrisikosystemer — inden for områder som rekruttering, kreditvurdering eller kritisk infrastruktur — står over for strenge krav. Generelle AI-modeller har deres egne forpligtelser. Mange andre systemer, herunder kundeservice chatbots, står primært over for gennemsigtighedsforpligtelser.

Loven trådte i kraft den 1. august 2024 og gælder i faser. Forbud har været gældende siden den 2. februar 2025, regler for generelle AI-modeller siden den 2. august 2025, og det meste af resten, herunder Artikel 50 gennemsigtighedsforpligtelserne, siden den 2. august 2026. De digitale omnibusændringer udsatte nogle højrisiko frister til december 2027 og august 2028, men efterlod Artikel 50 pligten for chatbots uændret.

Artikel 50(1) kræver, at udbydere designer AI-systemer, der interagerer direkte med mennesker, så disse mennesker informeres om, at de interagerer med et AI-system, medmindre dette er åbenlyst for en rimeligt velinformeret, observant og forsigtig person givet konteksten. Den Europæiske Kommissionens vejledning siger, at denne undtagelse skal læses restriktivt. I henhold til Artikel 50(5) skal informationen gives på en klar og adskillelig måde, senest på tidspunktet for den første interaktion, og opfylde tilgængelighedskrav.

Artikel 50 dækker også AI-genereret indhold: syntetisk lyd, billeder, video og tekst skal mærkes som kunstigt genereret i visse tilfælde, og deepfakes skal afsløres. Bøder for overtrædelse af disse forpligtelser kan nå op på 15 millioner euro eller 3% af den årlige globale omsætning, med proportionalitet for SMV'er.

Udbyderen er den, der udvikler et AI-system, eller får det udviklet, og sætter det på markedet under sit navn. Deployer er den organisation, der bruger det i en professionel sammenhæng — for eksempel en butik, der installerer en AI-assistent på sin hjemmeside. For chatbots ligger Artikel 50(1) pligten hos udbyderen, men i praksis vises oplysningen i deployerens chatvindue, så begge har en interesse i at få det rigtigt.

En simpel, effektiv tilgang: navngiv assistenten som en AI, angiv det i den første besked eller ved siden af chatvinduet, og undgå at præsentere det som en menneskelig medarbejder. Denne side er generel information, ikke juridisk rådgivning.

Med AI SmartTalk vælger virksomheden assistentens navn og skriver dens instruktioner, så den kan få assistenten til at præsentere sig selv som en AI og sikre, at dette er synligt fra den første udveksling på hver kanal. Den menneskelige overdragelse giver kunderne mulighed for at nå en person, og EU-hostede modeller bruges som standard. Virksomheder med specifikke spørgsmål om deres forpligtelser bør søge juridisk rådgivning.