Suuri kielimalli (LLM)
Nopea määritelmä
Suuri kielimalli (LLM) on neuroverkko, joka on koulutettu erittäin suurilla tekstimäärillä ennustamaan seuraavaa sanaa, mikä mahdollistaa sen ymmärtää ja tuottaa luonnollista kieltä. Se on nykyaikaisten chatbotien ja tekoälyagenttien päättelymoottori.
Tällä sivulla
Kuinka LLM toimii
LLM lukee tekstiä tokeneina — sanojen osina — ja laskee jokaiselle paikalle todennäköisyyden jokaiselle mahdolliselle seuraavalle tokenille. Vastaamisen tuottaminen tarkoittaa tämän ennusteen toistamista tokenista tokeniin. Lähes kaikki nykyiset LLM:t käyttävät Vaswanin ja kollegoiden vuonna 2017 esittelemää Transformer-arkkitehtuuria, jonka huomio mekanismi antaa mallille mahdollisuuden punnita syötteen jokaista osaa sanan tuottamisen aikana.
Koulutus tapahtuu vaiheittain. Esikoulutus suurella tekstikorpuksella opettaa kieltä ja yleistä tietoa. Ohjeiden hienosäätö ja palautteet ihmisiltä opettavat mallia seuraamaan pyyntöjä, käymään keskustelua ja kieltäytymään joistakin tehtävistä. Vuonna 2020 julkaistu GPT-3-artikkeli osoitti, että tarpeeksi suuri malli voi suorittaa uusia tehtäviä muutamasta esimerkistä kehotteessa ilman uudelleenkoulutusta.
Mitä LLM ei tiedä
LLM:n tieto on jäädytetty sen koulutusdatassa, eikä se ole koskaan nähnyt yrityksesi yksityisiä tietoja: hintoja, varastoja, palautuskäytäntöjä, asiakastilauksia. Kysyttäessä niistä se tuottaa usein uskottavan arvauksen — hallusinaation. Sillä on myös rajoitettu konteksti-ikkuna, jonka verran tekstiä se voi ottaa huomioon kerralla.
Siksi hyödylliset liiketoiminta-assistentit harvoin luottavat pelkästään malliin. Hakuvoimalla parannettu generointi (RAG) syöttää siihen asiaankuuluvat katkelmat sisällöstäsi, ja työkalut antavat sen kysyä reaaliaikaisista järjestelmistä, kuten luettelosta tai tilausdatabasedsta.
Mallin valitseminen
Mallit eroavat toisistaan päättelyn laadussa, nopeudessa, hinnassa per token, kielissä, joita ne käsittelevät hyvin, kontekstikoolla ja sillä, missä ne on isännöity. Asiakaspalvelussa nopea, keskikokoinen malli riittää usein rutiinikysymyksiin, kun taas vaikeammissa tapauksissa — pitkät käytännöt, monivaiheiset pyynnöt — hyötyvät vahvemmasta mallista. Datan sijainti on myös tärkeä: eurooppalainen yritys saattaa suosia mallia, joka on isännöity EU:ssa.
Malli on vain yksi osa tulosta. Ohjeet, pohja-aineistot, työkalut ja arviointi todellisista keskusteluista ovat yleensä tärkeämpiä kuin siirtyminen yhdestä johtavasta mallista toiseen.
LLM:t AI SmartTalkissa
AI SmartTalk -assistentit on rakennettu LLM:ien ympärille ja käyttävät oletusarvoisesti EU:ssa isännöityjä malleja; asiakas voi valita käyttää muiden tarjoajien malleja. Assistentin vastaukset perustuvat liiketoiminnan indeksoituun sisältöön ja luetteloon, ja se käyttää työkaluja etsiäkseen reaaliaikaisia tietoja sen sijaan, että pyytäisi mallia muistamaan niitä.
Usein kysytyt kysymykset
Onko ChatGPT LLM?
ChatGPT on sovellus, joka on rakennettu LLM:ien päälle, ja sen on tehnyt OpenAI. Malli tuottaa tekstiä; sovellus lisää keskusteluliittymän, keskustelumuistin, työkaluja, kuten verkkohaku, ja turvallisuusohjeita.
Mitä tarkoittaa 'suuri' suuressa kielimallissa?
Se viittaa parametrien määrään — koulutuksessa opittuihin sisäisiin painoihin, jotka vaihtelevat miljardeista satoihin miljardeihin — ja koulutuskorpuksen kokoon. Tarkkaa rajaa ei ole.
Voiko LLM oppia yritykseni tiedoista?
Kaksi lähestymistapaa on olemassa. Hienosäätö kouluttaa mallia esimerkkiesi perusteella, mikä on kallista eikä pysy mukana muuttuvissa faktoissa. Hakuvoimalla parannettu generointi jättää mallin muuttumattomaksi ja antaa sille oikeat katkelmat kysymyshetkellä, mikä sopii paremmin hintoihin, varastoihin ja käytäntöihin.
Ovatko LLM:t turvallisia käyttää asiakastietojen kanssa?
Se riippuu tarjoajan ehdoista, siitä, missä malli on isännöity ja kuinka sovellus käsittelee henkilötietoja. Tarkista, käyttääkö tarjoaja tietojasi koulutuksessa, missä niitä käsitellään ja onko saatavilla tietojenkäsittelysopimus.