AI ჰალუცინაცია (LLM ჰალუცინაცია)

ენობრივი მოდელი გენერირებს ტექსტის ყველაზე სავარაუდო გაგრძელებას; მას არ აქვს შიდა ცნობა იმაზე, არის თუ არა წინადადება მართალი. როდესაც სწორი ინფორმაცია აკლდება მისი ტრენინგ მონაცემებიდან ან იმ პასაჟებიდან, რომლებიც მას მიაწვდეს, ის მაინც აწარმოებს რაღაცას, რაც პასუხის მსგავსად გამოიყურება. 2025 წლის კვლევა (კალაი და კოლეგები) არგუმენტირებს, რომ ტრენინგი და შეფასება ამ პროცესს ამცირებს, რადგან თავდაჯერებული ვარაუდი ჯილდოვდება გულწრფელი „არ ვიცი“-ზე.

ლიტერატურა ორი სახის ჰალუცინაციას განასხვავებს. შინაგანი ჰალუცინაციები ეწინააღმდეგება იმ წყაროს, რომელიც მოდელს მიაწვდეს - ის არასწორად კითხულობს თქვენს დაბრუნების პოლიტიკას. გარე ჰალუცინაციები ამატებენ განცხადებებს, რომლებსაც არანაირი წყარო არ უჭერს მხარს - ის გამოგონებს 60-დღიან გარანტიას, რომელსაც თქვენ არასოდეს შესთავაზეთ.

ჰალუცინაცია მხარდაჭერის ჩატში არ არის აბსტრაქტული შეცდომა. მომხმარებელი, რომელსაც ეუბნებიან, რომ დაბრუნება უფასოა, რომ პროდუქტი წყალგაუმტარია ან რომ პარკი ხვალ მოვა, იმოქმედებს ამის მიხედვით და შესაძლოა ბიზნესს ამისთვის მოითხოვოს. სასამართლოები და მომხმარებელთა უფლებების სააგენტოები ზოგადად მიიჩნევენ, რომ კომპანიის ჩატბოტი საუბრობს კომპანიის სახელით.

რისკი ყველაზე მაღალია ვალდებულებებზე: ფასები, მარაგი, მიწოდების თარიღები, გარანტიები, დაბრუნებები, სამართლებრივი ან ჯანმრთელობის ინფორმაცია. სწორედ ეს არის ის კითხვები, რაც მომხმარებლებს ყველაზე ხშირად აქვთ.

არ არსებობს მეთოდი, რომელიც მათ მთლიანად მოაშორებს, მაგრამ რამდენიმე მათგანის მკვეთრად შემცირება შესაძლებელია. დააყენეთ პასუხები თქვენს საკუთარ შინაარსზე, რომელიც აღდგენის გაძლიერებული გენერაციის (RAG) საშუალებით არის მიღებული, და შეინარჩუნეთ ეს შინაარსი მიმდინარე. გამოიყენეთ ინსტრუმენტები ცოცხალი მონაცემების წასაკითხად - მარაგი, შეკვეთები - მოდელის მეხსიერების ნაცვლად. დაავალეთ მოდელს თქვას, როდესაც წყაროები პასუხს არ შეიცავს და ეს მიიღეთ როგორც მისაღები შედეგი. მოითხოვეთ მტკიცებულება ნებისმიერი ვალდებულების წინ. გადასცეთ საუბარი ადამიანს, როდესაც კითხვა მგრძნობიარეა ან აგენტი არ არის დარწმუნებული.

შემდეგ გაზომეთ: შეამოწმეთ საუბრები, განსაკუთრებით იმათ, რომელთაც უარყოფითი უკუკავშირი აქვთ, და დაამატეთ დაკარგული ინფორმაცია ცოდნის ბაზაში, ნაცვლად იმისა, რომ თითოეული შემთხვევისთვის პრომპტი შეავსოთ.

AI SmartTalk ასისტენტები პასუხობენ ბიზნესის ინდექსირებულ შინაარსზე და კატალოგზე, და კითხულობენ პროდუქტებსა და შეკვეთებს ინსტრუმენტების საშუალებით, ნაცვლად იმისა, რომ მოდელის მეხსიერებიდან. მათი შიდა წესები მოითხოვს აღდგენილი მტკიცებულების არსებობას ვალდებულებების, როგორიცაა გარანტიები, გადაზიდვები, დაბრუნებები ან მარაგი, დასახელების წინ და უკრძალავს იმის მტკიცებას, რომ გადაცემა ან ბილეთი მოხდა, თუ ინსტრუმენტი მართლაც ვერ გაწვდიდა. უარყოფითი უკუკავშირი და კითხვები, რომლებზე პასუხის გაცემა ასისტენტმა ვერ შეძლო, გუნდს მიაწვდება, რათა ცოდნის ბაზა სრულყოფილი იყოს.