Θεμελίωση τεχνητής νοημοσύνης
Η θεμελίωση τεχνητής νοημοσύνης είναι η πρακτική της σύνδεσης των απαντήσεων ενός μοντέλου τεχνητής νοημοσύνης με επαληθεύσιμες, έγκυρες πληροφορίες, όπως τα δικά σας έγγραφα ή ζωντανά δεδομένα, ώστε οι απαντήσεις του να αντικατοπτρίζουν πραγματικά δεδομένα αντί για εικασίες, μειώνοντας τις παραισθήσεις.
Η θεμελίωση τεχνητής νοημοσύνης σημαίνει τη σύνδεση της εξόδου ενός μοντέλου με μια αξιόπιστη πηγή αλήθειας, ώστε όσα λέει να μπορούν να ανιχνευθούν πίσω σε πραγματικές πληροφορίες. Αντί να παράγει μια απάντηση αποκλειστικά από μοτίβα που έμαθε κατά την εκπαίδευση, ένα θεμελιωμένο σύστημα βασίζει την απάντησή του σε συγκεκριμένα, ανακτήσιμα στοιχεία: έγγραφα της εταιρείας, μια βάση γνώσεων, μια εγγραφή βάσης δεδομένων ή ένα ζωντανό αποτέλεσμα API.
Η θεμελίωση αντιμετωπίζει άμεσα έναν από τους μεγαλύτερους κινδύνους της παραγωγικής τεχνητής νοημοσύνης: την παραίσθηση, όπου ένα μοντέλο δηλώνει κάτι ρέον και με αυτοπεποίθηση που είναι απλώς λάθος. Περιορίζοντας το μοντέλο να απαντά από τα παρεχόμενα στοιχεία (και ιδανικά παραθέτοντάς τα), η θεμελίωση κάνει τις απαντήσεις πιο ακριβείς, πιο ελέγξιμες και πιο αξιόπιστες σε περιβάλλοντα υψηλού διακυβεύματος, όπως η εξυπηρέτηση πελατών, όπου μια επινοημένη πολιτική ή τιμή μπορεί να προκαλέσει πραγματική ζημιά.
Η παραγωγή ενισχυμένη με ανάκτηση (RAG) είναι ο πιο συνηθισμένος τρόπος θεμελίωσης ενός μοντέλου: σχετικά αποσπάσματα ανακτώνται από μια πηγή γνώσης και παρέχονται ως πλαίσιο τη στιγμή της απάντησης. Η θεμελίωση μπορεί επίσης να αντλεί από δομημένα δεδομένα και κλήσεις εργαλείων: για παράδειγμα, την αναζήτηση μιας συγκεκριμένης παραγγελίας ή ενός λογαριασμού, ώστε η απάντηση να αντικατοπτρίζει την πραγματική κατάσταση εκείνου του πελάτη αντί για μια γενικόλογη εικασία.
Η ισχυρή θεμελίωση συνδυάζει την ανάκτηση με δικλείδες ασφαλείας: το σύστημα θα πρέπει να προτιμά να λέει ότι δεν γνωρίζει ή να παραδίδει σε άνθρωπο, αντί να επινοεί μια απάντηση όταν τα στοιχεία δεν υπάρχουν. Οι παραπομπές, τα σήματα εμπιστοσύνης και οι σαφείς εναλλακτικές βοηθούν όλα να κρατούν έναν θεμελιωμένο πράκτορα ειλικρινή σχετικά με τα όρια του τι μπορεί να υποστηρίξει.
Η θεμελίωση είναι το θεμέλιο της σχεδίασης της Mercateer που δίνει προτεραιότητα στη γνώση. Κάθε πράκτορας απαντά από τα δικά σας έγγραφα βοήθειας, τις συχνές ερωτήσεις και τις πολιτικές σας, καθώς και από ζωντανές ενέργειες όπως οι αναζητήσεις παραγγελιών, ώστε οι απαντήσεις να παραμένουν συνδεδεμένες με τις πραγματικές σας πληροφορίες, και ο πράκτορας παραδίδει καθαρά αντί να μαντεύει όταν δεν είναι σίγουρος.
