Nariadenie EÚ o AI (transparentnosť chatbotov)
Rýchla definícia
Nariadenie EÚ o AI (nariadenie (EÚ) 2024/1689) je zákon Európskej únie o umelej inteligencii. Pre chatboty je kľúčovým pravidlom, že ľudia musia byť informovaní, že interagujú s AI systémom.
Na tejto stránke
Zákon založený na riziku
Zákon o AI rozdeľuje AI systémy podľa rizika. Niektoré praktiky sú zakázané, ako manipulatívne techniky, ktoré spôsobujú významnú škodu. Systémy s vysokým rizikom — v oblastiach ako nábor, hodnotenie úverovej schopnosti alebo kritická infraštruktúra — čelí prísnym požiadavkám. Modely všeobecného účelu majú svoje vlastné povinnosti. Mnohé iné systémy, vrátane chatbotov zákazníckych služieb, čelí predovšetkým povinnostiam transparentnosti.
Zákon nadobudol účinnosť 1. augusta 2024 a uplatňuje sa postupne. Zákazy platia od 2. februára 2025, pravidlá pre modely všeobecného účelu od 2. augusta 2025 a väčšina ostatných, vrátane povinností transparentnosti článku 50, od 2. augusta 2026. Zmeny v Digitálnom omnibusu posunuli niektoré termíny pre vysokorizikové systémy na december 2027 a august 2028, ale povinnosť článku 50 pre chatboty zostala nezmenená.
Čo článok 50 vyžaduje od chatbotov
Článok 50(1) vyžaduje, aby poskytovatelia navrhli AI systémy, ktoré priamo interagujú s ľuďmi, tak, aby títo ľudia boli informovaní, že interagujú s AI systémom, pokiaľ to nie je zrejmé pre rozumne informovanú, pozornú a obozretnú osobu vzhľadom na kontext. Usmernenia Európskej komisie uvádzajú, že táto výnimka by sa mala vykladať obmedzene. Podľa článku 50(5) musí byť informácia poskytnutá jasným a rozlíšiteľným spôsobom, najneskôr v čase prvého kontaktu, a spĺňať požiadavky na prístupnosť.
Článok 50 sa tiež zaoberá obsahom generovaným AI: syntetický zvuk, obrázky, video a text musia byť v určitých prípadoch označené ako umelo generované a deepfaky musia byť zverejnené. Pokuty za porušenie týchto povinností môžu dosiahnuť 15 miliónov eur alebo 3 % celosvetového ročného obratu, s proporcionalitou pre MSP.
Poskytovateľ alebo nasadzovateľ: kto čo robí
Poskytovateľom je ten, kto vyvíja AI systém, alebo ho nechal vyvinúť a uviedol ho na trh pod svojím menom. Nasadzovateľom je organizácia, ktorá ho používa v profesionálnom kontexte — napríklad obchod, ktorý nainštaloval AI asistenta na svojej webovej stránke. Pre chatboty leží povinnosť článku 50(1) na poskytovateľovi, ale v praxi sa zverejnenie objavuje v chatovom okne nasadzovateľa, takže obaja majú záujem to správne vykonať.
Jednoduchý, efektívny prístup: pomenovať asistenta ako AI, uviesť to v prvej správe alebo vedľa chatového okna a vyhnúť sa prezentovaniu ho ako ľudského zamestnanca. Táto stránka je všeobecné informácie, nie právne poradenstvo.
Používanie AI SmartTalk v tomto kontexte
S AI SmartTalk si podnik vyberá meno svojho asistenta a píše jeho pokyny, takže môže asistenta nechať predstaviť sa ako AI a skontrolovať, že je to viditeľné od prvého výmeny na každom kanáli. Ľudský prechod umožňuje zákazníkom dosiahnuť osobu a modely hostené v EÚ sa používajú ako predvolené. Podniky s konkrétnymi otázkami o svojich povinnostiach by mali vyhľadať právne poradenstvo.
Často kladené otázky
Kedy sa uplatňujú pravidlá o chatbotoch zákona o AI?
Povinnosti transparentnosti článku 50, vrátane informovania ľudí, že interagujú s AI, sa uplatňujú od 2. augusta 2026. Digitálny omnibus ich neodložil.
Je chatbot zákazníckych služieb vysokorizikový AI systém?
Vo všeobecnosti nie. Asistent podpory alebo nakupovania zvyčajne spadá pod povinnosti transparentnosti, nie pod vysokorizikový režim, pokiaľ sa nepoužíva na účely uvedené ako vysokorizikové, ako je hodnotenie úverovej schopnosti.
Platí AI zákon pre spoločnosti mimo EÚ?
Áno, ak umiestňujú AI systémy na trh EÚ alebo ak sa výstup ich systémov používa v EÚ.
Aké sú pokuty za nezverejnenie chatbotu?
Porušenia povinností podľa článku 50 môžu viesť k pokutám až do výšky 15 miliónov eur alebo 3% celkového ročného obratu na celom svete, podľa toho, čo je vyššie, s nižšími stropmi pre MSP.