ביסוס AI

ביסוס AI פירושו חיבור הפלט של המודל למקור אמת מהימן כך שניתן לעקוב אחר מה שהוא אומר חזרה למידע אמיתי. במקום לייצר תשובה אך ורק מתבניות שנלמדו במהלך האימון, מערכת מבוססת מסתמכת בתשובתה על ראיות ספציפיות וברות-אחזור: מסמכי חברה, מאגר ידע, רשומה במסד נתונים, או תוצאת API חיה.

הביסוס מתמודד ישירות עם אחד הסיכונים הגדולים ביותר של בינה מלאכותית יוצרת: הזיה, שבה מודל מצהיר משהו רהוט ובטוח שהוא פשוט שגוי. על ידי הגבלת המודל לענות מתוך הראיות שסופקו (ורצוי תוך ציטוטן), הביסוס הופך את התשובות למדויקות יותר, ניתנות לביקורת יותר, וקלות יותר לבטוח בהן במצבים בעלי סיכון גבוה כמו תמיכת לקוחות, שבהם מדיניות או מחיר מומצאים עלולים לגרום נזק אמיתי.

יצירה מועשרת-אחזור (RAG) היא הדרך הנפוצה ביותר לבסס מודל: קטעים רלוונטיים נשלפים ממקור ידע ומסופקים כהקשר בזמן המענה. הביסוס יכול גם להסתמך על נתונים מובנים וקריאות לכלים: למשל, איתור הזמנה או חשבון ספציפיים כך שהתשובה משקפת את המצב האמיתי של אותו לקוח ולא ניחוש כללי.

ביסוס חזק משלב אחזור עם גבולות גזרה: המערכת צריכה להעדיף לומר שהיא לא יודעת, או להעביר לאדם, במקום להמציא תשובה כשהראיות אינן קיימות. ציטוטים, אותות ביטחון ומסלולי גיבוי ברורים, כולם עוזרים לשמור על סוכן מבוסס כן לגבי גבולות מה שהוא יכול לתמוך בו.

הביסוס הוא היסוד של העיצוב מבוסס-הידע של Mercateer. כל סוכן עונה ממסמכי העזרה, השאלות הנפוצות והמדיניות שלכם, בנוסף לפעולות חיות כמו איתור הזמנות, כך שהתשובות נשארות קשורות למידע האמיתי שלכם, והסוכן מעביר בצורה מסודרת במקום לנחש כשהוא לא בטוח.