Ảo giác AI (Ảo giác LLM)

Một mô hình ngôn ngữ tạo ra phần tiếp theo có khả năng xảy ra nhất của một văn bản; nó không có khái niệm tích hợp về việc một câu có đúng hay không. Khi thông tin đúng bị thiếu từ dữ liệu đào tạo của nó hoặc từ các đoạn văn mà nó được cung cấp, nó vẫn tạo ra cái gì đó trông giống như một câu trả lời. Nghiên cứu từ năm 2025 (Kalai và các đồng nghiệp) lập luận rằng việc đào tạo và đánh giá làm điều này trở nên tồi tệ hơn bằng cách thưởng cho một phỏng đoán tự tin hơn là một “Tôi không biết”.

Tài liệu phân biệt hai loại. Ảo giác nội tại mâu thuẫn với nguồn mà mô hình đã được cung cấp — nó đọc sai chính sách hoàn trả của bạn. Ảo giác ngoại tại thêm các tuyên bố mà không có nguồn nào hỗ trợ — nó sáng tạo ra một bảo đảm 60 ngày mà bạn chưa bao giờ cung cấp.

Một ảo giác trong một cuộc trò chuyện hỗ trợ không phải là một lỗi trừu tượng. Một khách hàng được thông báo rằng việc trả hàng là miễn phí, rằng một sản phẩm là chống nước hoặc rằng một bưu phẩm sẽ đến vào ngày mai sẽ hành động dựa trên thông tin đó, và có thể yêu cầu doanh nghiệp thực hiện. Các tòa án và cơ quan bảo vệ người tiêu dùng thường coi chatbot của một công ty là đại diện cho công ty đó.

Rủi ro cao nhất nằm ở các cam kết: giá cả, hàng tồn kho, ngày giao hàng, bảo hành, hoàn tiền, thông tin pháp lý hoặc sức khỏe. Đó chính xác là những câu hỏi mà khách hàng thường hỏi nhất.

Không có phương pháp nào loại bỏ chúng hoàn toàn, nhưng một số phương pháp giảm thiểu chúng một cách đáng kể. Căn cứ câu trả lời vào nội dung của chính bạn với việc tạo ra thông tin tăng cường (RAG), và giữ cho nội dung đó luôn cập nhật. Sử dụng các công cụ để đọc dữ liệu trực tiếp — hàng tồn kho, đơn hàng — thay vì để mô hình nhớ lại. Hướng dẫn mô hình nói khi các nguồn không chứa câu trả lời, và biến điều đó thành một kết quả chấp nhận được. Yêu cầu bằng chứng trước bất kỳ cam kết nào. Chuyển cuộc trò chuyện cho một người khi câu hỏi nhạy cảm hoặc đại lý không chắc chắn.

Sau đó đo lường: xem xét các cuộc trò chuyện, đặc biệt là những cuộc có phản hồi tiêu cực, và thêm thông tin còn thiếu vào cơ sở tri thức thay vì sửa chữa từng trường hợp.

Các trợ lý AI SmartTalk trả lời từ nội dung đã được lập chỉ mục và danh mục của doanh nghiệp, và đọc sản phẩm và đơn hàng thông qua các công cụ thay vì từ bộ nhớ của mô hình. Các quy tắc tích hợp của họ yêu cầu bằng chứng đã được lấy trước khi đưa ra các cam kết như bảo hành, giao hàng, hoàn tiền hoặc hàng tồn kho, và cấm tuyên bố rằng một cuộc chuyển giao hoặc một vé đã xảy ra trừ khi công cụ thực sự thành công. Phản hồi không hài lòng và các câu hỏi mà trợ lý không thể trả lời sẽ được đưa lên đội ngũ để cơ sở tri thức có thể được hoàn thiện.