Suur keelemudel (LLM)
Kiire määratlus
Suur keelemudel (LLM) on närvivõrk, mis on koolitatud väga suurte tekstihulkade peal, et ennustada järgmist sõna, mis võimaldab tal mõista ja genereerida loomulikku keelt. See on põhjenduste genereerimise mootor tänapäeva vestlusrobotite ja tehisintellekti agentide taga.
Sellel lehel
Kuidas LLM töötab
LLM loeb teksti tokenitena — sõnade osadena — ja iga positsiooni jaoks arvutab ta iga võimaliku järgmise tokeni tõenäosuse. Vastuse genereerimine tähendab selle ennustuse kordamist tokenist tokenisse. Peaaegu kõik praegused LLM-id kasutavad 2017. aastal Vaswani ja kolleegide poolt tutvustatud Transformer arhitektuuri, mille tähelepanu mehhanism võimaldab mudelil kaaluda iga osa sisendist iga sõna tootmisel.
Koolitus toimub etappide kaupa. Eelkoolitus tohutu tekstikorpuse peal õpetab keelt ja üldteadmisi. Juhendamine ja tagasiside inimestelt õpetavad mudelit järgima taotlusi, pidama dialooge ja keelduma mõnest ülesandest. 2020. aastal näitas GPT-3 artikkel, et piisavalt suur mudel suudab uusi ülesandeid täita mõne näite põhjal, ilma ümberkoolituseta.
Mida LLM ei tea
LLM-i teadmised on külmutatud selle koolitusandmete lõpus ja see ei ole kunagi näinud teie ettevõtte privaatset teavet: hindu, laoseisu, tagastamispoliitikat, kliendi tellimusi. Kui neid küsitakse, toob see sageli välja usutava oletuse — hallutsinatsiooni. Sellel on ka piiratud kontekstiaken, tekstihulk, mida see suudab korraga arvesse võtta.
Seetõttu ei toeta kasulikud ärikonsultandid harva ainult mudelit. Andmete täiustamine (RAG) toidab seda asjakohaste lõikudega teie sisust ja tööriistad võimaldavad tal pärida reaalajas süsteemidelt, nagu kataloog või tellimuste andmebaas.
Mudeli valimine
Mudelite kvaliteet põhjendustes, kiirus, hind tokeni kohta, keeled, millega nad hästi toime tulevad, konteksti suurus ja koht, kus nad on majutatud, erinevad. Klienditeeninduses on sageli piisav kiire, keskmise suurusega mudel rutiinsete küsimuste jaoks, samas kui keerulisemad juhtumid — pikad poliitikad, mitmeastmelised taotlused — saavad kasu tugevamast mudelist. Andmete asukoht on samuti oluline: Euroopa ettevõte võib eelistada mudelit, mis on majutatud EL-is.
Mudel on ainult üks osa tulemusest. Juhised, aluseks olevad andmed, tööriistad ja hindamine reaalsetes vestlustes on tavaliselt olulisemad kui üleminek ühest juhtivast mudelist teise.
LLM-id AI SmartTalkis
AI SmartTalki assistendid on üles ehitatud LLM-ide ümber ja kasutavad vaikimisi EL-is majutatud mudeleid; klient võib valida ka teiste pakkujate mudeleid. Assistendi vastused põhinevad ettevõtte indekseeritud sisul ja kataloogil ning see kasutab tööriistu reaalajas andmete otsimiseks, mitte ei palu mudelil neid meeles pidada.
Korduma kippuvad küsimused
Kas ChatGPT on LLM?
ChatGPT on rakendus, mis on loodud LLM-ide peal, mille on teinud OpenAI. Mudel genereerib teksti; rakendus lisab vestluse liidese, vestlusmälu, tööriistad nagu veebipäring ja ohutusreeglid.
Mida tähendab "suur" suures keelemudelis?
See viitab parameetrite arvule — sisemised kaalud, mis on koolituse käigus omandatud, alates miljarditest kuni sadade miljarditeni — ja koolituskorpuse suurusele. Täpset piiri ei ole.
Kas LLM suudab õppida minu ettevõtte andmetest?
Kaks lähenemist eksisteerib. Peenhäälestamine koolitab mudelit teie näidete peal, mis on kulukas ja ei suuda ajakohaste faktidega sammu pidada. Andmete täiustamine jätab mudeli muutumatuks ja annab sellele õiged lõigud küsimise ajal, mis sobib hindade, laoseisu ja poliitikate jaoks paremini.
Kas LLM-id on ohutud kliendiandmete kasutamiseks?
See sõltub pakkuja tingimustest, kus mudel on majutatud ja kuidas rakendus käsitleb isikuandmeid. Kontrollige, kas pakkuja kasutab teie andmeid koolitamiseks, kus neid töödeldakse ja kas andmete töötlemise leping on saadaval.