RAG četbot
RAG četbot je konverzaciona veštačka inteligencija koja koristi generisanje potpomognuto pretragom (retrieval-augmented generation): u trenutku odgovaranja pronalazi relevantne informacije iz izvora znanja i koristi taj pronađeni sadržaj da zasnuje svoj odgovor, umesto da se oslanja samo na ono što je model zapamtio tokom obuke.
RAG je skraćenica za retrieval-augmented generation (generisanje potpomognuto pretragom). RAG četbot kombinuje veliki jezički model sa korakom pretrage: kada korisnik postavi pitanje, sistem prvo pretražuje izvor znanja (članke za pomoć, dokumentaciju proizvoda, politike, prethodne tikete) tražeći najrelevantnije odlomke, a zatim te odlomke prosleđuje modelu kao kontekst tako da se generisani odgovor zasniva na stvarnim, aktuelnim informacijama, a ne samo na opštim podacima iz obuke modela.
Mehanički, izvor znanja se obično deli na delove, pretvara u vektorske ugradnje i čuva u vektorskoj bazi podataka ili indeksu za pretragu. U trenutku upita korisnikovo pitanje se ugrađuje i upoređuje sa tim indeksom kako bi se pronašli najbliži odlomci. Ti odlomci se ubacuju u prompt, a model generiše odgovor koji se na njih oslanja, često uz citate koji upućuju na izvor.
Glavna prednost RAG-a u odnosu na običan jezički model jeste tačnost i aktuelnost. Pošto su odgovori vezani za pronađeni sadržaj, RAG četbot može da odražava informacije koje nisu postojale kada je model obučavan, da ostane usklađen sa vašim konkretnim politikama i da smanji halucinacije time što modelu daje merodavan materijal sa kojim radi. Ažuriranje baze znanja ažurira odgovore bota. Bez ponovne obuke modela.
RAG nije čarobno rešenje. Kvalitet odgovora u velikoj meri zavisi od kvaliteta pretrage: ako indeksu nedostaje sadržaj, ako je loše podeljen na delove ili vraća nebitne odlomke, model i dalje može da daje pogrešne ili nejasne odgovore. Dobri RAG sistemi ulažu u čist izvorni sadržaj, smisleno deljenje na delove, snažno rangiranje pretrage i provere zasnovanosti koje sprečavaju model da skreće izvan onoga što je pronađeno.
Mercateer je izgrađen na ovom obrascu orijentisanom na znanje. Svaki agent pretražuje vašu sopstvenu dokumentaciju, najčešća pitanja i politike i zasniva svoje odgovore na tom materijalu, pa odgovori ostaju tačni i u skladu sa politikama, bliži dobro izgrađenom RAG sistemu nego skriptovanom stablu odluka koje poznaje samo putanje koje je neko unapred ručno postavio.
