Uredba EU o AI (preglednost chatbotov)
Hitro definicija
Uredba EU o AI (Uredba (EU) 2024/1689) je zakon Evropske unije o umetni inteligenci. Za chatbot je njeno ključna pravila, da morajo biti ljudje obveščeni, da komunicirajo z AI sistemom.
Na tej strani
Zakon, ki temelji na tveganju
Zakon o AI razvršča AI sisteme po tveganju. Nekatere prakse so prepovedane, kot so manipulativne tehnike, ki povzročajo znatno škodo. Sistemi z visokim tveganjem — na področjih, kot so zaposlovanje, ocenjevanje kreditne sposobnosti ali kritična infrastruktura — se soočajo s strogimi zahtevami. Splošni modeli AI imajo svoje obveznosti. Mnogi drugi sistemi, vključno s chatboti za podporo strankam, se večinoma soočajo z obveznostmi preglednosti.
Zakon je začel veljati 1. avgusta 2024 in se uporablja postopoma. Prepovedi veljajo od 2. februarja 2025, pravila za splošne modele AI od 2. avgusta 2025, in večina ostalih, vključno z obveznostmi preglednosti iz člena 50, od 2. avgusta 2026. Dopolnitve Digital Omnibus so prestavile nekatere roke za visoka tveganja na december 2027 in avgust 2028, vendar so obveznost iz člena 50 za chatbot ostale nespremenjene.
Kaj zahteva člen 50 od chatbotov
Člen 50(1) zahteva, da ponudniki oblikujejo AI sisteme, ki neposredno komunicirajo z ljudmi, tako da so ti ljudje obveščeni, da komunicirajo z AI sistemom, razen če je to očitno za razmeroma dobro obveščenega, opaznega in previdnega človeka ob upoštevanju konteksta. Smernice Evropske komisije pravijo, da je treba to izjemo brati restriktivno. Po členu 50(5) je treba informacije posredovati na jasen in ločljiv način, najpozneje ob prvem stiku, in izpolnjevati zahteve dostopnosti.
Člen 50 prav tako pokriva vsebino, ki jo generira AI: sintetični zvok, slike, video in besedilo je treba označiti kot umetno generirane v določenih primerih, in globoke ponaredke je treba razkriti. Globe za kršitev teh obveznosti lahko dosežejo 15 milijonov evrov ali 3 % svetovnega letnega prometa, s proporcionalnostjo za mala in srednja podjetja.
Ponudnik ali izvajalec: kdo kaj počne
Ponudnik je tisti, ki razvije AI sistem ali ga naroči in ga postavi na trg pod svojim imenom. Izvajalec je organizacija, ki ga uporablja v profesionalnem kontekstu — na primer trgovina, ki na svoji spletni strani namesti AI asistenta. Za chatbot je dolžnost iz člena 50(1) na ponudniku, vendar se v praksi razkritje pojavi v oknu za klepet izvajalca, zato imata oba interes, da to pravilno izvedejo.
Preprost, učinkovit pristop: poimenujte asistenta kot AI, to navedite v prvi sporočilu ali poleg okna za klepet, in se izognite predstavljanju kot človeškega zaposlenega. Ta stran je splošna informacija, ne pravni nasvet.
Uporaba AI SmartTalk v tem kontekstu
S AI SmartTalk podjetje izbere ime svojega asistenta in napiše njegove navodila, tako da lahko asistent predstavi sebe kot AI in preveri, da je to vidno od prve izmenjave na vsakem kanalu. Človeški prenos omogoča strankam, da dosežejo osebo, in modeli, gostovani v EU, se privzeto uporabljajo. Podjetja z specifičnimi vprašanji o svojih obveznostih naj poiščejo pravni nasvet.
Pogosto zastavljena vprašanja
Kdaj se uporabljajo pravila o chatbotih iz Zakona o AI?
Obveznosti preglednosti iz člena 50, vključno z obveščanjem ljudi, da komunicirajo z AI, veljajo od 2. avgusta 2026. Digital Omnibus jih ni prestavil.
Ali je chatbot za podporo strankam sistem AI z visokim tveganjem?
Na splošno ne. Asistent za podporo ali nakup običajno spada pod obveznosti preglednosti, ne pod režim visokega tveganja, razen če se uporablja za namene, navedene kot visoko tveganje, kot je ocenjevanje kreditne sposobnosti.
Ali se Uredba o umetni inteligenci nanaša na podjetja zunaj EU?
Da, ko postavijo sisteme umetne inteligence na trg EU ali ko se izhod njihovih sistemov uporablja v EU.
Kakšne so kazni za nedoločitev klepetalnika?
Kršenje obveznosti iz 50. člena lahko vodi do kazni do 15 milijonov evrov ali 3 % skupnega svetovnega letnega prometa, kar koli je višje, z nižjimi zgornjimi mejami za mala in srednja podjetja.