Akt AI UE (przejrzystość chatbotów)

Akt AI klasyfikuje systemy AI według ryzyka. Niektóre praktyki są całkowicie zabronione, takie jak techniki manipulacyjne, które powodują znaczne szkody. Systemy wysokiego ryzyka — w obszarach takich jak rekrutacja, ocena kredytowa czy infrastruktura krytyczna — podlegają surowym wymaganiom. Modele AI ogólnego przeznaczenia mają swoje własne obowiązki. Wiele innych systemów, w tym chatboty obsługi klienta, głównie podlega obowiązkom przejrzystości.

Akt wszedł w życie 1 sierpnia 2024 roku i obowiązuje etapami. Zakazy obowiązują od 2 lutego 2025 roku, zasady dla modeli AI ogólnego przeznaczenia od 2 sierpnia 2025 roku, a większość pozostałych, w tym obowiązki przejrzystości z artykułu 50, od 2 sierpnia 2026 roku. Poprawki do Digital Omnibus przesunęły niektóre terminy wysokiego ryzyka na grudzień 2027 roku i sierpień 2028 roku, ale pozostawiły obowiązek z artykułu 50 dla chatbotów bez zmian.

Artykuł 50(1) wymaga, aby dostawcy projektowali systemy AI, które wchodzą w bezpośrednią interakcję z ludźmi, tak aby ci ludzie byli informowani, że wchodzą w interakcję z systemem AI, chyba że jest to oczywiste dla rozsądnie poinformowanej, spostrzegawczej i ostrożnej osoby w danym kontekście. Wytyczne Komisji Europejskiej mówią, że ten wyjątek powinien być interpretowany restrykcyjnie. Zgodnie z artykułem 50(5) informacje muszą być podawane w sposób jasny i wyróżniający się, najpóźniej w momencie pierwszej interakcji, i spełniać wymagania dostępności.

Artykuł 50 obejmuje również treści generowane przez AI: syntetyczny dźwięk, obrazy, wideo i tekst muszą być oznaczone jako sztucznie generowane w określonych przypadkach, a deepfake muszą być ujawniane. Kary za naruszenie tych obowiązków mogą wynosić do 15 milionów euro lub 3% rocznego obrotu na całym świecie, z proporcjonalnością dla MŚP.

Dostawcą jest ten, kto rozwija system AI lub zleca jego rozwój i wprowadza go na rynek pod swoją nazwą. Wdrożeniowiec to organizacja, która używa go w kontekście zawodowym — na przykład sklep, który instaluje asystenta AI na swojej stronie internetowej. W przypadku chatbotów obowiązek z artykułu 50(1) spoczywa na dostawcy, ale w praktyce ujawnienie pojawia się w oknie czatu wdrożeniowca, więc obie strony mają interes w tym, aby było to poprawne.

Proste, skuteczne podejście: nazwać asystenta jako AI, stwierdzić to w pierwszej wiadomości lub obok okna czatu, i unikać przedstawiania go jako pracownika ludzkiego. Ta strona to ogólne informacje, a nie porada prawna.

Z AI SmartTalk firma wybiera imię swojego asystenta i pisze jego instrukcje, dzięki czemu może sprawić, że asystent przedstawi się jako AI i upewnić się, że jest to widoczne od pierwszej wymiany na każdym kanale. Przekazanie do człowieka pozwala klientom dotrzeć do osoby, a modele hostowane w UE są używane domyślnie. Firmy z konkretnymi pytaniami dotyczącymi swoich obowiązków powinny zasięgnąć porady prawnej.