Stórt tungumálalíkan (LLM)
Hraðskilgreining
Stórt tungumálalíkan (LLM) er taugakerfi sem er þjálfað á mjög stórum texta til að spá fyrir um næsta orð, sem gerir því kleift að skilja og búa til náttúrulegt mál. Það er röksemdarvélin á bak við nútíma spjallmenni og AI aðila.
Á þessari síðu
Hvernig LLM virkar
LLM les texta sem tákn — bita af orðum — og, fyrir hvert stöðu, reiknar líkurnar á hverju mögulegu næsta tákni. Að búa til svar þýðir að endurtaka þá spá tákni eftir tákni. Næstum öll núverandi LLM nota Transformer arkitektúrinn sem Vaswani og samstarfsmenn kynntu árið 2017, þar sem athygdarmekanismi gerir líkaninu kleift að vega hverja hluta inntaksins þegar það framleiðir hvert orð.
Þjálfun fer fram í stigum. Forskýrsla á risastórum textasafni kennir tungumál og almenn þekkingu. Leiðbeiningar og endurgjöf frá fólki kenna síðan líkaniu að fylgja beiðnum, halda samræðum og hafna sumum verkefnum. Árið 2020 sýndi GPT-3 grein að nógu stórt líkan gæti framkvæmt ný verkefni út frá nokkrum dæmum í fyrirmyndinni, án þess að þjálfa aftur.
Hvað LLM veit ekki
Þekking LLM er fryst við endann á þjálfunargögnum þess, og það hefur aldrei séð einkaupplýsingar fyrirtækisins þíns: verð, birgðir, skilmála um endurgreiðslu, pöntun viðskiptavina. Þegar það er spurt um þau mun það oft framleiða trúverðuga ágiskun — ofskynjun. Það hefur einnig takmarkaðan samhengi glugga, magn texta sem það getur tekið tillit til í einu.
Þess vegna treysta gagnlegir viðskiptaaðstoðarmenn sjaldan eingöngu á líkanið. Endurheimt-aukinn framleiðsla (RAG) gefur því viðeigandi kafla úr efni þínu, og verkfæri leyfa því að spyrja lifandi kerfi eins og skrá eða pöntunargagnagrunn.
Að velja líkan
Líkön eru mismunandi í gæðum röksemdar, hraða, verði á tákni, tungumálum sem þau meðhöndla vel, stærð samhengi, og hvar þau eru hýst. Fyrir þjónustu við viðskiptavini er oft nóg að nota hratt, miðstórt líkan fyrir venjulegar spurningar, á meðan erfiðari tilfelli — langar stefnur, fjölskref beiðnir — njóta góðs af sterkari líkani. Gagnastaða skiptir einnig máli: evrópskt fyrirtæki gæti kosið líkan sem hýst er í ESB.
Líkan er aðeins einn hluti af niðurstöðunni. Leiðbeiningar, grundvallargögn, verkfæri og mat á raunverulegum samtölum skipta venjulega meira máli en að skipta frá einu leiðandi líkani yfir í annað.
LLM í AI SmartTalk
AI SmartTalk aðstoðarmenn eru byggðir í kringum LLM og nota líkan hýst í ESB að sjálfsögðu; viðskiptavinur getur valið að nota líkan annarra veitenda í staðinn. Svar aðstoðarmannsins er grundvallað í skráð efni fyrirtækisins og skrá, og það notar verkfæri til að leita að lifandi gögnum frekar en að biðja líkanið um að muna þau.
Algengar spurningar
Er ChatGPT LLM?
ChatGPT er forrit byggt ofan á LLM sem OpenAI bjó til. Líkan framleiðir texta; forritið bætir við spjallviðmóti, samræðu minni, verkfærum eins og vefleit, og öryggisreglum.
Hvað þýðir „stórt“ í stórt tungumálalíkan?
Það vísar til fjölda breyta — innri þyngdir sem lærðar eru í þjálfun, frá milljörðum til hundruða milljarða — og til stærðar þjálfunarsafnsins. Það er engin nákvæm þröskuldur.
Getur LLM lært af gögnum fyrirtækisins míns?
Tvær aðferðir eru til. Fínstillt þjálfun þjálfar líkanið á dæmum þínum, sem er dýrt og heldur ekki í við breytandi staðreyndir. Endurheimt-aukinn framleiðsla heldur líkaninu óbreyttu og gefur því rétta kafla á spurningarstund, sem hentar verð, birgðum og skilmálum betur.
Eru LLM örugg í notkun með gögnum viðskiptavina?
Það fer eftir skilmálum veitandans, hvar líkanið er hýst og hvernig forritið meðhöndlar persónuupplýsingar. Athugaðu hvort veitandinn noti gögnin þín til þjálfunar, hvar þau eru unnin, og hvort gögnavinnslusamningur sé í boði.