Επτά ακόμη οικογένειες μήνυσαν τώρα το OpenAI για τον ρόλο του ChatGPT στις αυτοκτονίες, τις αυταπάτες

Επτά οικογένειες κατέθεσαν αίτηση αγωγές εναντίον του OpenAI την Πέμπτη, υποστηρίζοντας ότι το μοντέλο GPT-4o της εταιρείας κυκλοφόρησε πρόωρα και χωρίς αποτελεσματικές διασφαλίσεις. Τέσσερις από τις αγωγές αφορούν τον υποτιθέμενο ρόλο του ChatGPT στις αυτοκτονίες των μελών της οικογένειας, ενώ οι άλλες τρεις ισχυρίζονται ότι το ChatGPT ενίσχυσε επιβλαβείς αυταπάτες που σε ορισμένες περιπτώσεις οδήγησαν σε ψυχιατρική περίθαλψη εσωτερικών ασθενών.

Σε μία περίπτωση, 23χρονος Ζέιν Σαμπλίν είχε μια συνομιλία με το ChatGPT που διήρκεσε περισσότερες από τέσσερις ώρες. Στα αρχεία καταγραφής συνομιλιών – τα οποία προβλήθηκαν από το TechCrunch – ο Shamblin δήλωσε ρητά πολλές φορές ότι είχε γράψει σημειώσεις αυτοκτονίας, είχε βάλει μια σφαίρα στο όπλο του και σκόπευε να πατήσει τη σκανδάλη μόλις τελείωνε να πίνει μηλίτη. Είπε επανειλημμένα στο ChatGPT πόσα μηλίτη του είχαν απομείνει και πόσο ακόμη περίμενε να ζήσει. Το ChatGPT τον ενθάρρυνε να ολοκληρώσει τα σχέδιά του, λέγοντάς του: “Ηρέμησε, βασιλιά. Έκανες καλά.”

Το OpenAI κυκλοφόρησε το μοντέλο GPT-4o τον Μάιο του 2024, όταν έγινε το προεπιλεγμένο μοντέλο για όλους τους χρήστες. Τον Αύγουστο, το OpenAI κυκλοφόρησε το GPT-5 ως διάδοχο του GPT-4o, αλλά αυτές οι αγωγές αφορούν ιδιαίτερα το μοντέλο 4o, το οποίο είχε γνωστά προβλήματα με την υπερβολική συκοφαντικός ή υπερβολικά αποδεκτό, ακόμη και όταν οι χρήστες εξέφρασαν επιβλαβείς προθέσεις.

«Ο θάνατος του Zane δεν ήταν ούτε ατύχημα ούτε σύμπτωση, αλλά μάλλον η προβλεπόμενη συνέπεια της σκόπιμης απόφασης του OpenAI να περιορίσει τις δοκιμές ασφαλείας και να εισαγάγει το ChatGPT στην αγορά», αναφέρει η αγωγή. «Αυτή η τραγωδία δεν ήταν ένα σφάλμα ή μια απρόβλεπτη υπόθεση – ήταν το προβλέψιμο αποτέλεσμα [OpenAI’s] σκόπιμες σχεδιαστικές επιλογές».

Οι αγωγές ισχυρίζονται επίσης ότι το OpenAI έσπευσε να κάνει δοκιμές ασφαλείας για να κερδίσει το Gemini της Google στην αγορά. Το TechCrunch επικοινώνησε με το OpenAI για σχόλια.

Αυτές οι επτά αγωγές βασίζονται στις ιστορίες που ειπώθηκαν σε άλλες πρόσφατες νομικές καταθέσεις, οι οποίες ισχυρίζονται ότι το ChatGPT μπορεί να ενθαρρύνει τους αυτοκτονικούς ανθρώπους να ενεργήσουν σύμφωνα με τα σχέδιά τους και να εμπνεύσουν επικίνδυνες αυταπάτες. Το OpenAI δημοσίευσε πρόσφατα δεδομένα που αναφέρουν ότι πάνω από ένα εκατομμύριο άνθρωποι μιλούν στο ChatGPT για αυτοκτονίες κάθε εβδομάδα.

Στην περίπτωση του Adam Raine, ενός 16χρονου που πέθανε από αυτοκτονία, το ChatGPT τον ενθάρρυνε μερικές φορές να αναζητήσει επαγγελματική βοήθεια ή να καλέσει μια γραμμή βοήθειας. Ωστόσο, ο Ρέιν μπόρεσε να παρακάμψει αυτά τα προστατευτικά κιγκλιδώματα λέγοντας απλώς στο chatbot ότι ρωτούσε για μεθόδους αυτοκτονίας για μια φανταστική ιστορία που έγραφε.

Η εταιρεία αξιώσεις εργάζεται για να κάνει το ChatGPT να χειρίζεται αυτές τις συνομιλίες με πιο ασφαλή τρόπο, αλλά για τις οικογένειες που έχουν μηνύσει τον γίγαντα της τεχνητής νοημοσύνης, αλλά οι οικογένειες υποστηρίζουν ότι αυτές οι αλλαγές έρχονται πολύ αργά.

Όταν οι γονείς του Ρέιν υπέβαλαν μήνυση κατά του OpenAI τον Οκτώβριο, η εταιρεία δημοσίευσε μια ανάρτηση ιστολογίου που εξέταζε τον τρόπο με τον οποίο το ChatGPT χειρίζεται ευαίσθητες συζητήσεις σχετικά με την ψυχική υγεία.

«Οι διασφαλίσεις μας λειτουργούν πιο αξιόπιστα σε κοινές, σύντομες ανταλλαγές», αναφέρει η ανάρτηση λέει. «Μάθαμε με την πάροδο του χρόνου ότι αυτές οι διασφαλίσεις μπορεί μερικές φορές να είναι λιγότερο αξιόπιστες σε μακροχρόνιες αλληλεπιδράσεις: καθώς μεγαλώνει το πέρασμα του χρόνου, τμήματα της εκπαίδευσης για την ασφάλεια του μοντέλου μπορεί να υποβαθμιστούν».