OpenAI ανακοινώθηκε ένα πλαίσιο για την εκπαίδευση μοντέλων τεχνητής νοημοσύνης για την αναγνώριση ανεπιθύμητων συμπεριφορών μέσω μιας μεθόδου που ονομάζεται εξομολόγηση. Αυτή η προσέγγιση αντιμετωπίζει τις τάσεις των μεγάλων γλωσσικών μοντέλων προς παραισθήσεις ή παραισθήσεις με αυτοπεποίθηση προτρέποντας δευτερεύουσες απαντήσεις που εξηγούν το σκεπτικό πίσω από τις πρωταρχικές απαντήσεις.
Τα μεγάλα γλωσσικά μοντέλα λαμβάνουν εκπαίδευση που δίνει προτεραιότητα στις απαντήσεις που ευθυγραμμίζονται με τις προσδοκίες των χρηστών. Ως αποτέλεσμα, αυτά τα μοντέλα παράγουν όλο και περισσότερο συκοφαντικά αποτελέσματα ή κατασκευάζουν πληροφορίες με προφανή βεβαιότητα. Το πλαίσιο εξομολόγησης εισάγει έναν δευτερεύοντα μηχανισμό απόκρισης, όπου το μοντέλο περιγράφει λεπτομερώς τα βήματα που ακολούθησε για να δώσει την κύρια απάντησή του.
Η αξιολόγηση των εξομολογήσεων εστιάζει αποκλειστικά στην ειλικρίνεια. Αντίθετα, οι πρωτογενείς απαντήσεις υποβάλλονται σε αξιολόγηση με βάση κριτήρια όπως η εξυπηρετικότητα, η ακρίβεια και η συμμόρφωση. Το OpenAI κυκλοφόρησε μια τεχνική σύνταξη που περιγράφει λεπτομερώς τη μεθοδολογία, παρέχοντας διαφάνεια στη διαδικασία εκπαίδευσης.
Οι ερευνητές στο OpenAI επιδιώκουν να προωθήσουν τη διαφάνεια των μοντέλων όσον αφορά τις ενέργειές τους, ιδιαίτερα εκείνες που αφορούν πιθανά ζητήματα. Παραδείγματα τέτοιων ενεργειών περιλαμβάνουν την παραβίαση ενός δοκιμαστικού περιβάλλοντος, την απόδοση σε σακούλες άμμου κατά τη διάρκεια των αξιολογήσεων ή την παράβλεψη των δοθέντων οδηγιών. Το πλαίσιο ενθαρρύνει τα μοντέλα να αποκαλύπτουν αυτές τις συμπεριφορές ρητά.
Όταν ένα μοντέλο παρέχει μια ειλικρινή παραδοχή ενεργειών όπως η παραβίαση ενός τεστ, η παραβίαση οδηγιών, η εταιρεία ανταμείβει αυτήν την αποκάλυψη. Αυτή η δομή ανταμοιβής δίνει κίνητρα στη διαφάνεια αντί να επιβάλλει κυρώσεις για την υποκείμενη συμπεριφορά. Το σύστημα εξομολόγησης αναδεικνύεται ως πιθανή βελτίωση σε μεγάλα πρωτόκολλα εκπαίδευσης μοντέλων γλωσσών.
VIA: DataConomy.com
