EU AI Zakon (transparentnost chatbotova)

AI Zakon razdvaja AI sustave prema riziku. Neke prakse su potpuno zabranjene, poput manipulativnih tehnika koje uzrokuju značajnu štetu. Sustavi visokog rizika — u područjima poput zapošljavanja, ocjenjivanja kreditne sposobnosti ili kritične infrastrukture — suočavaju se s strogim zahtjevima. Opći AI modeli imaju svoje obveze. Mnogi drugi sustavi, uključujući chatbotove za korisničku podršku, uglavnom se suočavaju s obvezama transparentnosti.

Zakon je stupio na snagu 1. kolovoza 2024. i primjenjuje se u fazama. Zabranjene prakse primjenjuju se od 2. veljače 2025., pravila za opće AI modele od 2. kolovoza 2025., a većina ostalog, uključujući obveze transparentnosti iz Članka 50, od 2. kolovoza 2026. Izmjene Digitalnog Omnibus-a odgodile su neke rokove za visoki rizik do prosinca 2027. i kolovoza 2028., ali su ostavile obvezu iz Članka 50 za chatbotove nepromijenjenom.

Članak 50(1) zahtijeva od pružatelja da dizajniraju AI sustave koji izravno komuniciraju s ljudima tako da ti ljudi budu obaviješteni da komuniciraju s AI sustavom, osim ako to nije očito razmjerno dobro informiranoj, pažljivoj i obazrivnoj osobi s obzirom na kontekst. Smjernice Europske komisije kažu da se ova iznimka treba tumačiti restriktivno. Prema Članku 50(5), informacije moraju biti dane na jasan i prepoznatljiv način, najkasnije u trenutku prvog kontakta, i ispunjavati zahtjeve pristupačnosti.

Članak 50 također pokriva sadržaj generiran AI-jem: sintetički audio, slike, video i tekst moraju biti označeni kao umjetno generirani u određenim slučajevima, a deepfakeovi moraju biti otkriveni. Kazne za kršenje ovih obveza mogu doseći 15 milijuna eura ili 3% globalnog godišnjeg prometa, uz proporcionalnost za mala i srednja poduzeća.

Pružatelj je tko god razvija AI sustav, ili ga je razvio, i stavlja ga na tržište pod svojim imenom. Implementator je organizacija koja ga koristi u profesionalnom kontekstu — na primjer, trgovina koja instalira AI asistenta na svojoj web stranici. Za chatbotove, obveza iz Članka 50(1) leži na pružatelju, ali u praksi otkrivanje se pojavljuje u chat prozoru implementatora, tako da oboje imaju interes da to ispravno izvedu.

Jednostavan, učinkovit pristup: nazvati asistenta AI-em, navesti to u prvoj poruci ili pored chat prozora, i izbjeći predstavljanje kao ljudskog zaposlenika. Ova stranica je opća informacija, a ne pravni savjet.

S AI SmartTalk, poslovanje bira ime svog asistenta i piše njegove upute, tako da može učiniti da se asistent predstavi kao AI i provjeriti da je to vidljivo od prve razmjene na svakom kanalu. Ljudski prijenos omogućuje kupcima da dođu do osobe, a modeli koji se hostaju u EU koriste se prema zadanim postavkama. Poduzeća s posebnim pitanjima o svojim obvezama trebala bi potražiti pravni savjet.