Oparcie AI na źródłach

Oparcie AI na źródłach oznacza połączenie wyniku modelu z zaufanym źródłem prawdy, tak aby to, co mówi, można było prześledzić aż do rzeczywistych informacji. Zamiast generować odpowiedź wyłącznie na podstawie wzorców wyuczonych podczas trenowania, system oparty na źródłach buduje odpowiedź na konkretnych, możliwych do pobrania dowodach: dokumentach firmy, bazie wiedzy, rekordzie w bazie danych lub wyniku z API na żywo.

Oparcie na źródłach bezpośrednio rozwiązuje jedno z największych ryzyk generatywnej AI: zmyślanie, gdy model stwierdza coś płynnie i pewnie, co jest po prostu błędne. Ograniczając model do odpowiadania na podstawie dostarczonych dowodów (i najlepiej powołując się na nie), oparcie na źródłach sprawia, że odpowiedzi są trafniejsze, łatwiejsze do zweryfikowania i bardziej godne zaufania w sytuacjach o wysokiej stawce, takich jak obsługa klienta, gdzie zmyślona zasada lub cena może wyrządzić realną szkodę.

Generowanie wspomagane wyszukiwaniem (RAG) to najczęstszy sposób oparcia modelu na źródłach: istotne fragmenty są pobierane ze źródła wiedzy i dostarczane jako kontekst w momencie udzielania odpowiedzi. Oparcie na źródłach może też korzystać z danych ustrukturyzowanych i wywołań narzędzi: na przykład wyszukania konkretnego zamówienia lub konta, dzięki czemu odpowiedź odzwierciedla rzeczywistą sytuację danego klienta, a nie ogólny domysł.

Mocne oparcie na źródłach łączy wyszukiwanie z zabezpieczeniami: system powinien raczej przyznać, że nie wie, lub przekazać rozmowę człowiekowi, niż zmyślać odpowiedź, gdy brakuje dowodów. Odwołania do źródeł, sygnały pewności i jasne rozwiązania awaryjne pomagają utrzymać agenta opartego na źródłach uczciwym co do granic tego, co jest w stanie obsłużyć.

Oparcie na źródłach to fundament projektu Mercateer stawiającego wiedzę na pierwszym miejscu. Każdy agent odpowiada w oparciu o Twoją własną dokumentację pomocy, FAQ i regulaminy, a także działania na żywo, takie jak wyszukiwanie zamówień, dzięki czemu odpowiedzi pozostają powiązane z Twoimi rzeczywistymi informacjami, a agent bez problemu przekazuje rozmowę dalej, zamiast zgadywać, gdy nie jest pewny.