Nařízení EU o AI (transparentnost chatbotů)
Rychlá definice
Nařízení EU o AI (nařízení (EU) 2024/1689) je zákon Evropské unie o umělé inteligenci. Pro chatboty je klíčovým pravidlem, že lidé musí být informováni, že interagují s AI systémem.
Na této stránce
Zákon založený na riziku
Zákon o AI třídí AI systémy podle rizika. Některé praktiky jsou zakázány, například manipulativní techniky, které způsobují významnou škodu. Systémy s vysokým rizikem — v oblastech jako je nábor, hodnocení úvěruschopnosti nebo kritická infrastruktura — čelí přísným požadavkům. Modely AI pro obecné účely mají své vlastní povinnosti. Mnoho dalších systémů, včetně chatbotů pro zákaznický servis, čelí převážně povinnostem transparentnosti.
Zákon vstoupil v platnost 1. srpna 2024 a uplatňuje se postupně. Zákazy platí od 2. února 2025, pravidla pro modely AI pro obecné účely od 2. srpna 2025 a většina ostatních, včetně povinností transparentnosti podle článku 50, od 2. srpna 2026. Doplňky Digitálního omnibusu odložily některé termíny pro vysoká rizika na prosinec 2027 a srpen 2028, ale povinnost podle článku 50 pro chatboty zůstala nezměněna.
Co článek 50 vyžaduje od chatbotů
Článek 50(1) vyžaduje, aby poskytovatelé navrhli AI systémy, které přímo interagují s lidmi, tak, aby byli informováni, že interagují s AI systémem, pokud to není zřejmé pro rozumně informovanou, pozornou a obezřetnou osobu s ohledem na kontext. Pokyny Evropské komise říkají, že tato výjimka by měla být vykládána restriktivně. Podle článku 50(5) musí být informace poskytnuty jasným a rozlišitelným způsobem, nejpozději v okamžiku prvního kontaktu, a splňovat požadavky na přístupnost.
Článek 50 také pokrývá obsah generovaný AI: syntetický audio, obrázky, video a text musí být v určitých případech označeny jako uměle generované a deepfakes musí být odhaleny. Pokuty za porušení těchto povinností mohou dosáhnout 15 milionů eur nebo 3 % celosvětového ročního obratu, s proporcionalitou pro malé a střední podniky.
Poskytovatel nebo nasazovatel: kdo co dělá
Poskytovatel je ten, kdo vyvíjí AI systém, nebo si ho nechá vyvinout a uvádí ho na trh pod svým jménem. Nasazovatel je organizace, která ho používá v profesionálním kontextu — například obchod, který nainstaluje AI asistenta na svých webových stránkách. U chatbotů leží povinnost podle článku 50(1) na poskytovateli, ale v praxi se zveřejnění objevuje v chatovacím okně nasazovatele, takže oba mají zájem to správně provést.
Jednoduchý, efektivní přístup: pojmenujte asistenta jako AI, uveďte to v první zprávě nebo vedle chatovacího okna a vyhněte se tomu, abyste ho prezentovali jako lidského zaměstnance. Tato stránka je obecné informace, nikoli právní rada.
Použití AI SmartTalk v tomto kontextu
S AI SmartTalk si podnik vybere jméno svého asistenta a napíše jeho pokyny, takže může asistenta představit jako AI a zkontrolovat, že je to viditelné od prvního výměny na každém kanálu. Lidský přenos umožňuje zákazníkům dosáhnout osoby a modely hostované v EU se používají jako výchozí. Podniky s konkrétními dotazy ohledně svých povinností by měly vyhledat právní radu.
Často kladené otázky
Kdy se pravidla zákona o AI pro chatboty uplatňují?
Povinnosti transparentnosti podle článku 50, včetně informování lidí, že interagují s AI, se uplatňují od 2. srpna 2026. Digitální omnibus je neodložil.
Je chatbot pro zákaznický servis systémem AI s vysokým rizikem?
Obecně ne. Asistent pro podporu nebo nakupování obvykle spadá pod povinnosti transparentnosti spíše než pod režim vysokého rizika, pokud není používán k účelům uvedeným jako vysoké riziko, například k hodnocení úvěruschopnosti.
Platí AI zákon pro společnosti mimo EU?
Ano, pokud uvádějí AI systémy na trh EU nebo pokud je výstup jejich systémů používán v EU.
Jaké jsou sankce za nezveřejnění chatbota?
Porušení povinností podle článku 50 může vést k pokutám až do výše 15 milionů eur nebo 3 % z celkového ročního obratu po celém světě, podle toho, která částka je vyšší, s nižšími limity pro malé a střední podniky.