RAG-chatbotti
RAG-chatbotti on keskusteleva tekoäly, joka käyttää haulla rikastettua generointia: se hakee olennaisen tiedon tietolähteestä vastaushetkellä ja perustaa vastauksensa tähän haettuun sisältöön sen sijaan, että se nojaisi vain siihen, minkä malli oppi koulutuksensa aikana.
RAG tulee sanoista retrieval-augmented generation eli haulla rikastettu generointi. RAG-chatbotti yhdistää suuren kielimallin hakuvaiheeseen: kun käyttäjä esittää kysymyksen, järjestelmä etsii ensin tietolähteestä (ohjeartikkelit, tuotedokumentaatio, käytännöt, aiemmat tukipyynnöt) olennaisimmat tekstikohdat ja välittää ne sitten mallille kontekstina, jotta tuotettu vastaus perustuu todelliseen, ajantasaiseen tietoon eikä pelkästään mallin yleiseen koulutusdataan.
Teknisesti tietolähde pilkotaan tyypillisesti osiin, muunnetaan vektoriupotuksiksi ja tallennetaan vektoritietokantaan tai hakuindeksiin. Kyselyhetkellä käyttäjän kysymys upotetaan ja sitä verrataan kyseiseen indeksiin lähimpien tekstikohtien hakemiseksi. Nämä tekstikohdat lisätään kehotteeseen, ja malli tuottaa vastauksen, joka pohjautuu niihin, usein lähdeviittauksin takaisin alkuperäiseen lähteeseen.
RAG:n tärkein etu tavalliseen kielimalliin verrattuna on tarkkuus ja ajantasaisuus. Koska vastaukset on sidottu haettuun sisältöön, RAG-chatbotti voi heijastaa tietoa, jota ei ollut olemassa mallin kouluttamisen aikaan, pysyä linjassa omien käytäntöjesi kanssa ja vähentää harhoja antamalla mallille luotettavaa aineistoa työskentelyn pohjaksi. Tietokannan päivittäminen päivittää botin vastaukset. Mallia ei tarvitse kouluttaa uudelleen.
RAG ei ole taikakeino. Vastausten laatu riippuu vahvasti haun laadusta: jos indeksistä puuttuu sisältöä, se on huonosti pilkottu tai se palauttaa epäolennaisia tekstikohtia, malli voi silti tuottaa vääriä tai epämääräisiä vastauksia. Hyvät RAG-järjestelmät panostavat puhtaaseen lähdesisältöön, järkevään pilkkomiseen, vahvaan hakutulosten järjestämiseen ja perustustarkistuksiin, jotka estävät mallia harhautumasta haetun aineiston ulkopuolelle.
Mercateer on rakennettu tälle tieto edellä -periaatteelle. Jokainen tekoäly hakee tiedon omasta dokumentaatiostasi, usein kysytyistä kysymyksistä ja käytännöistäsi ja perustaa vastauksensa tähän aineistoon, joten vastaukset pysyvät tarkkoina ja käytäntöjesi mukaisina, lähempänä hyvin rakennettua RAG-järjestelmää kuin käsikirjoitettua päätöspuuta, joka tuntee vain etukäteen käsin kytketyt polut.
Aiheeseen liittyvät termit
