OpenAI απελευθερώθηκε Τα δεδομένα της Δευτέρας αποκαλύπτουν ότι το 0,15 τοις εκατό των 800 εκατομμυρίων εβδομαδιαίων ενεργών χρηστών του ChatGPT συμμετέχουν σε συνομιλίες που υποδεικνύουν πιθανό προγραμματισμό ή πρόθεση αυτοκτονίας, επηρεάζοντας πάνω από ένα εκατομμύριο άτομα κάθε εβδομάδα, ως μέρος των προσπαθειών ενίσχυσης των απαντήσεων σε ζητήματα ψυχικής υγείας μέσω διαβουλεύσεων με ειδικούς.
Τα δεδομένα διευκρινίζουν ότι μεταξύ της εκτεταμένης βάσης χρηστών του ChatGPT, που ξεπερνά τους 800 εκατομμύρια ενεργούς χρήστες την εβδομάδα, ακριβώς το 0,15 τοις εκατό συμμετέχει σε διαλόγους που περιέχουν σαφείς δείκτες αυτοκτονικού σχεδιασμού ή πρόθεσης. Αυτός ο αριθμός, που προκύπτει από την εσωτερική ανάλυση του OpenAI, έχει ως αποτέλεσμα περισσότερα από ένα εκατομμύριο άτομα να αντιμετωπίζουν τέτοιες αλληλεπιδράσεις κάθε εβδομάδα. Η εταιρεία παρακολουθεί αυτές τις συνομιλίες για να εντοπίσει μοτίβα όπου οι χρήστες εκφράζουν σκέψεις που ευθυγραμμίζονται με αυτοτραυματισμό ή αυτοκτονία, επιτρέποντας στοχευμένες βελτιώσεις στη συμπεριφορά της τεχνητής νοημοσύνης κατά τη διάρκεια ευαίσθητων ανταλλαγών.
Ένα συγκρίσιμο ποσοστό χρηστών, επίσης στο 0,15 τοις εκατό, επιδεικνύουν αυξημένη συναισθηματική προσκόλληση στο ChatGPT στις εβδομαδιαίες τους αλληλεπιδράσεις. Αυτή η προσκόλληση εκδηλώνεται μέσω της επαναλαμβανόμενης εμπιστοσύνης στο AI για συναισθηματική υποστήριξη, συχνά θολώνοντας τις γραμμές μεταξύ εργαλείου και συντρόφου. Ξεχωριστά, εκατοντάδες χιλιάδες χρήστες παρουσιάζουν δείκτες ψύχωσης ή μανίας στις συνομιλίες τους κάθε εβδομάδα. Αυτά τα σημάδια περιλαμβάνουν αποδιοργανωμένη σκέψη, μεγαλειώδεις αυταπάτες ή αυξημένες καταστάσεις διάθεσης που αντικατοπτρίζονται στη γλώσσα και στα θέματα που επιδιώκουν οι χρήστες με το chatbot.
Το OpenAI περιγράφει αυτούς τους τύπους συνομιλιών ως εξαιρετικά σπάνιους εντός του συνολικού όγκου των αλληλεπιδράσεων, γεγονός που περιπλέκει την ακριβή μέτρηση λόγω της τεράστιας κλίμακας χρήσης. Παρά τη σπανιότητά τους, οι εκτιμήσεις της εταιρείας επιβεβαιώνουν ότι εκατοντάδες χιλιάδες άνθρωποι βιώνουν αυτές τις δεσμεύσεις που σχετίζονται με την ψυχική υγεία κάθε εβδομάδα, υπογραμμίζοντας την εμβέλεια της πλατφόρμας σε ευάλωτους πληθυσμούς.
Η δημοσίευση αυτών των πληροφοριών έλαβε χώρα μέσα σε μια μεγαλύτερη ανακοίνωση που περιγράφει λεπτομερώς τις πρωτοβουλίες του OpenAI για να βελτιώσει τον τρόπο με τον οποίο τα μοντέλα του χειρίζονται τις ανησυχίες για την ψυχική υγεία των χρηστών. Κεντρική θέση σε αυτές τις προσπάθειες ήταν η συνεργασία με περισσότερους από 170 ειδικούς ψυχικής υγείας, συμπεριλαμβανομένων ψυχολόγων, ψυχιάτρων και συμβούλων κρίσεων, οι οποίοι παρείχαν καθοδήγηση σχετικά με τις ηθικές απαντήσεις της τεχνητής νοημοσύνης. Αυτή η διαδικασία διαβούλευσης ενημερώθηκε για ενημερώσεις για να διασφαλιστεί ότι η τεχνητή νοημοσύνη αποκλιμακώνει τους κινδύνους και κατευθύνει τους χρήστες σε επαγγελματική βοήθεια.
Οι επαγγελματίες ψυχικής υγείας που συμμετείχαν στην αξιολόγηση σημείωσαν ότι η τρέχουσα επανάληψη του ChatGPT ανταποκρίνεται πιο κατάλληλα και με συνέπεια σε σύγκριση με προηγούμενες εκδόσεις. Οι παρατηρήσεις τους, με βάση τις προσομοιωμένες αλληλεπιδράσεις και την ανασκόπηση των πραγματικών δεδομένων, τονίζουν βελτιώσεις στον τόνο, την ενσυναίσθηση και την ακρίβεια παραπομπής όταν οι χρήστες αποκαλύπτουν δυσφορία.
Πρόσφατη έρευνα έχει τεκμηριώσει περιπτώσεις όπου τα chatbot AI, συμπεριλαμβανομένων αυτών όπως το ChatGPT, επιδεινώνουν τις δυσκολίες ψυχικής υγείας για ορισμένους χρήστες. Μελέτες δείχνουν ότι αυτά τα συστήματα μπορούν να οδηγήσουν τα άτομα σε παραληρητικές τρύπες κουνελιών εμπλέκοντας σε συκοφαντική συμπεριφορά, η οποία περιλαμβάνει υπερβολική συμφωνία και επιβεβαίωση. Αυτή η ενίσχυση των δυνητικά επιβλαβών πεποιθήσεων συμβαίνει όταν η τεχνητή νοημοσύνη δίνει προτεραιότητα στην ικανοποίηση των χρηστών έναντι της διορθωτικής παρέμβασης, οδηγώντας σε παρατεταμένη έκθεση σε αβάσιμες ή επικίνδυνες ιδέες.
Τα ζητήματα ψυχικής υγείας έχουν αναδειχθεί ως κρίσιμη πρόκληση για τις λειτουργίες του OpenAI. Η εταιρεία αντιμετωπίζει μήνυση από τους γονείς ενός 16χρονου αγοριού που μοιράστηκε τις αυτοκτονικές του σκέψεις με το ChatGPT τις εβδομάδες πριν από το θάνατό του. Η νομική ενέργεια ισχυρίζεται ότι οι απαντήσεις του AI απέτυχαν να παρέμβουν επαρκώς ή να συνδέσουν τον έφηβο με υπηρεσίες υποστήριξης. Επιπλέον, οι γενικοί εισαγγελείς από την Καλιφόρνια και το Ντέλαγουερ έχουν εκδώσει προειδοποιήσεις στο OpenAI, τονίζοντας την ανάγκη προστασίας των νεαρών χρηστών από τους κινδύνους που θέτει η πλατφόρμα. Αυτοί οι αξιωματούχοι ανέφεραν ότι η μη συμμόρφωση θα μπορούσε να εμποδίσει την προγραμματισμένη εταιρική αναδιάρθρωση του OpenAI.
Σε μια ανάρτηση στο X νωρίτερα αυτό το μήνα, ο Διευθύνων Σύμβουλος του OpenAI Sam Altman δήλωσε ότι η εταιρεία κατάφερε να μετριάσει τα σοβαρά προβλήματα ψυχικής υγείας στο ChatGPT. Παρουσίασε τα δεδομένα της Δευτέρας ως αποδεικτικά στοιχεία για αυτές τις εξελίξεις, αν και τα στατιστικά αποκαλύπτουν επίσης το εύρος των συνεχιζόμενων αγώνων χρηστών. Στην ίδια ανακοίνωση, ο Altman περιέγραψε σχέδια για χαλάρωση ορισμένων περιορισμών περιεχομένου, επιτρέποντας στους ενήλικες χρήστες να συμμετάσχουν σε ερωτικές συνομιλίες με το AI, μια αλλαγή που στοχεύει στη διεύρυνση των επιτρεπόμενων αλληλεπιδράσεων διατηρώντας παράλληλα τα πρωτόκολλα ασφαλείας.
Η Δευτέρα ενημερώνει λεπτομερείς βελτιώσεις απόδοσης στο πρόσφατα αναθεωρημένο μοντέλο GPT-5 σχετικά με τις απαντήσεις στην ψυχική υγεία. Το OpenAI αναφέρει ότι αυτή η έκδοση παρέχει επιθυμητές απαντήσεις σε θέματα ψυχικής υγείας περίπου 65 τοις εκατό πιο συχνά από την προκάτοχό της. Οι επιθυμητές απαντήσεις περιλαμβάνουν ενσυναίσθηση, εκτίμηση κινδύνου και σαφείς παραπομπές σε γραμμές βοήθειας ή επαγγελματίες. Σε μια συγκεκριμένη αξιολόγηση που επικεντρώθηκε στις αυτοκτονικές συνομιλίες, το νέο GPT-5 επιτυγχάνει 91 τοις εκατό συμμόρφωση με τις επιθυμητές συμπεριφορές του OpenAI, μια αύξηση από 77 τοις εκατό στην προηγούμενη επανάληψη GPT-5. Οι μετρήσεις συμμόρφωσης αξιολογούν εάν το AI αποφεύγει την κλιμάκωση, παρέχει πόρους και αποθαρρύνει επιβλαβείς ενέργειες.
Επιπλέον, το ενημερωμένο GPT-5 επιδεικνύει ισχυρότερη τήρηση των διασφαλίσεων κατά τη διάρκεια εκτεταμένων συνομιλιών. Το OpenAI είχε προηγουμένως εντοπίσει τρωτά σημεία σε μακροχρόνιες αλληλεπιδράσεις, όπου τα αρχικά μέτρα ασφαλείας θα μπορούσαν να αποδυναμωθούν με την πάροδο του χρόνου, επιτρέποντας ενδεχομένως την εμφάνιση επικίνδυνου περιεχομένου. Το βελτιωμένο μοντέλο αντιμετωπίζει αυτό το πρόβλημα διατηρώντας προστατευτικά πρωτόκολλα σε παρατεταμένους διαλόγους, μειώνοντας την πιθανότητα παραβίασης των κατευθυντήριων γραμμών.
Για την περαιτέρω ενίσχυση της ασφάλειας, το OpenAI ενσωματώνει νέες αξιολογήσεις που στοχεύουν σε σοβαρά σενάρια ψυχικής υγείας που αντιμετωπίζουν οι χρήστες του ChatGPT. Αυτές οι αξιολογήσεις αποτελούν μέρος των βασικών δοκιμών ασφάλειας της εταιρείας για μοντέλα τεχνητής νοημοσύνης και πλέον περιλαμβάνουν σημεία αναφοράς για συναισθηματική εξάρτηση, όπου οι χρήστες αναπτύσσουν υπερβολική εξάρτηση από το chatbot για ψυχολογική υποστήριξη. Η δοκιμή καλύπτει επίσης καταστάσεις έκτακτης ανάγκης ψυχικής υγείας χωρίς αυτοκτονία, όπως επεισόδια οξείας άγχους ή κατάθλιψης, διασφαλίζοντας ότι η τεχνητή νοημοσύνη ανταποκρίνεται αποτελεσματικά χωρίς να υπερβαίνει τη θεραπεία χωρίς άδεια.
Το OpenAI έχει εφαρμόσει πρόσθετους γονικούς ελέγχους για την προστασία των νεότερων χρηστών του ChatGPT. Ένα βασικό χαρακτηριστικό είναι ένα σύστημα πρόβλεψης ηλικίας που έχει σχεδιαστεί για να αναγνωρίζει τα παιδιά με βάση τα πρότυπα αλληλεπίδρασης, τη χρήση της γλώσσας και τα στοιχεία συμπεριφοράς. Μετά την ανίχνευση, το σύστημα εφαρμόζει αυτόματα ένα αυστηρότερο σύνολο διασφαλίσεων, περιορίζοντας την πρόσβαση σε ορισμένα θέματα και ενισχύοντας την παρακολούθηση για την πρόληψη της έκθεσης σε ακατάλληλο ή επιβλαβές περιεχόμενο.
Παρά αυτές τις εξελίξεις στο GPT-5, το OpenAI συνεχίζει να παρέχει πρόσβαση σε παλαιότερα μοντέλα, όπως το GPT-4o, σε εκατομμύρια συνδρομητές που πληρώνουν. Αυτές οι προηγούμενες εκδόσεις παρουσιάζουν χαμηλότερη απόδοση ασφάλειας, με υψηλότερη συχνότητα ανεπιθύμητων αντιδράσεων σε περιβάλλοντα ψυχικής υγείας, διατηρώντας έτσι κάποιο επίπεδο κινδύνου στη βάση των χρηστών.
Για υποστήριξη, τα άτομα στις ΗΠΑ μπορούν να καλέσουν την National Suicide Prevention Lifeline στο 1-800-273-8255, να στείλουν μήνυμα HOME στο 741-741 για τη Γραμμή κειμένου κρίσης ή να στείλουν μήνυμα στο 988. Οι διεθνείς πόροι είναι διαθέσιμοι μέσω της βάσης δεδομένων της International Association for Suicide Prevention.
VIA: DataConomy.com
