Đạo luật AI của EU (minh bạch chatbot)

Đạo luật AI phân loại các hệ thống AI theo rủi ro. Một số thực hành bị cấm hoàn toàn, chẳng hạn như các kỹ thuật thao túng gây hại đáng kể. Các hệ thống rủi ro cao — trong các lĩnh vực như tuyển dụng, đánh giá tín dụng hoặc cơ sở hạ tầng quan trọng — phải tuân thủ các yêu cầu nghiêm ngặt. Các mô hình AI đa mục đích có nghĩa vụ riêng của chúng. Nhiều hệ thống khác, bao gồm chatbot dịch vụ khách hàng, chủ yếu phải đối mặt với các nghĩa vụ minh bạch.

Đạo luật có hiệu lực từ ngày 1 tháng 8 năm 2024 và áp dụng theo từng giai đoạn. Các lệnh cấm đã có hiệu lực từ ngày 2 tháng 2 năm 2025, quy tắc cho các mô hình AI đa mục đích từ ngày 2 tháng 8 năm 2025, và hầu hết các quy định còn lại, bao gồm các nghĩa vụ minh bạch tại Điều 50, từ ngày 2 tháng 8 năm 2026. Các sửa đổi của Digital Omnibus đã hoãn một số thời hạn rủi ro cao đến tháng 12 năm 2027 và tháng 8 năm 2028, nhưng để nghĩa vụ tại Điều 50 cho chatbot không thay đổi.

Điều 50(1) yêu cầu các nhà cung cấp thiết kế các hệ thống AI tương tác trực tiếp với mọi người để những người đó được thông báo rằng họ đang tương tác với một hệ thống AI, trừ khi điều này rõ ràng đối với một người có hiểu biết, quan sát và thận trọng trong bối cảnh. Hướng dẫn của Ủy ban Châu Âu cho biết ngoại lệ này nên được hiểu một cách hạn chế. Theo Điều 50(5), thông tin phải được cung cấp một cách rõ ràng và dễ phân biệt, muộn nhất là vào thời điểm tương tác đầu tiên, và đáp ứng các yêu cầu về khả năng tiếp cận.

Điều 50 cũng bao gồm nội dung do AI tạo ra: âm thanh, hình ảnh, video và văn bản tổng hợp phải được đánh dấu là do AI tạo ra trong một số trường hợp nhất định, và deepfake phải được tiết lộ. Các khoản phạt cho việc vi phạm những nghĩa vụ này có thể lên tới 15 triệu euro hoặc 3% doanh thu hàng năm toàn cầu, với tính tỷ lệ cho các doanh nghiệp vừa và nhỏ.

Nhà cung cấp là bất kỳ ai phát triển một hệ thống AI, hoặc có nó được phát triển, và đưa nó ra thị trường dưới tên của mình. Người triển khai là tổ chức sử dụng nó trong bối cảnh chuyên nghiệp — chẳng hạn như một cửa hàng lắp đặt một trợ lý AI trên trang web của mình. Đối với chatbot, nghĩa vụ tại Điều 50(1) thuộc về nhà cung cấp, nhưng trên thực tế, việc tiết lộ xuất hiện trong cửa sổ trò chuyện của người triển khai, vì vậy cả hai bên đều có lợi ích trong việc thực hiện đúng.

Một cách tiếp cận đơn giản, hiệu quả: đặt tên cho trợ lý là một AI, nêu rõ trong tin nhắn đầu tiên hoặc bên cạnh cửa sổ trò chuyện, và tránh trình bày nó như một nhân viên con người. Trang này chỉ là thông tin chung, không phải là lời khuyên pháp lý.

Với AI SmartTalk, doanh nghiệp chọn tên cho trợ lý của mình và viết hướng dẫn của nó, để có thể làm cho trợ lý tự giới thiệu là một AI và kiểm tra rằng điều này có thể nhìn thấy từ lần trao đổi đầu tiên trên mỗi kênh. Việc chuyển giao cho con người cho phép khách hàng tiếp cận một người, và các mô hình lưu trữ tại EU được sử dụng theo mặc định. Các doanh nghiệp có câu hỏi cụ thể về nghĩa vụ của họ nên tìm kiếm lời khuyên pháp lý.