Η Εθνική Ένωση Γενικών Εισαγγελέων εξέδωσε επιστολή σε 13 εταιρείες τεχνολογίας, συμπεριλαμβανομένης της Apple, ζητώντας ισχυρότερη δράση και διασφαλίσεις έναντι των ζημιών που μπορεί να προκαλέσει και έχει προκαλέσει η τεχνητή νοημοσύνη «ειδικά στους ευάλωτους πληθυσμούς». Εδώ είναι οι λεπτομέρειες.
Οι AG θέλουν να αντιμετωπιστούν τα συκοφαντικά και παραληρηματικά αποτελέσματα
Σε ένα έγγραφο 12 σελίδων (το οποίο, για να είμαστε δίκαιοι, έχει τέσσερις πλήρεις σελίδες με υπογραφές) που απευθύνεται στις Apple, Anthropic, Chai AI, Character Technologies (Character.AI), Google, Luka Inc. (Replika), Meta, Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika και xAI δήλωσαν ως δήλωση για το US2, Attor4
[S]σοβαρές ανησυχίες σχετικά με την αύξηση των συκοφαντικών και παραληρηματικών αποτελεσμάτων στους χρήστες που προέρχονται από το λογισμικό παραγωγής τεχνητής νοημοσύνης που προωθείται και διανέμεται από τις εταιρείες σας, καθώς και οι ολοένα και πιο ανησυχητικές αναφορές αλληλεπιδράσεων τεχνητής νοημοσύνης με παιδιά που υποδεικνύουν την ανάγκη για πολύ ισχυρότερες διασφαλίσεις για την ασφάλεια των παιδιών και τις λειτουργικές διασφαλίσεις
Μαζί, λένε, αυτές οι απειλές απαιτούν δράση, καθώς ορισμένες από αυτές έχουν συσχετιστεί με πραγματική βία και βλάβη. Αυτό περιλαμβάνει δολοφονίες και αυτοκτονίες, περιστατικά ενδοοικογενειακής βίας και δηλητηριάσεων και νοσηλεία για ψύχωση.
Στην επιστολή, υποστηρίζουν ότι ορισμένες από τις εταιρείες στις οποίες απευθύνονται ενδέχεται να έχουν ήδη παραβιάσει τους νόμους της πολιτείας, συμπεριλαμβανομένων των καταστατικών προστασίας των καταναλωτών, των απαιτήσεων για προειδοποίηση των χρηστών για κινδύνους, της νομοθεσίας περί απορρήτου των παιδιών στο διαδίκτυο και σε ορισμένες περιπτώσεις, ακόμη και των ποινικών καταστατικών.
Οι ανησυχητικές περιπτώσεις φαίνεται να επιδεινώνονται
Τα τελευταία χρόνια, πολλές από αυτές τις περιπτώσεις αναφέρθηκαν ευρέως, συμπεριλαμβανομένης της Άλαν Μπρουκςένας 47χρονος Καναδός που, μετά από επανειλημμένες αλληλεπιδράσεις με το ChatGPT, πείστηκε ότι είχε ανακαλύψει ένα νέο είδος μαθηματικών, και αυτό ενός 14χρονου Sewell Setzer IIIτου οποίου ο θάνατος από αυτοκτονία αποτελεί αντικείμενο συνεχιζόμενης αγωγής που υποστηρίζει ότι ένα chatbot του Character.AI τον ενθάρρυνε να «ενωθεί μαζί της».
Αν και αυτά είναι μόνο δύο παραδείγματα, υπάρχουν πολλά περισσότερα που αναφέρονται στην επιστολή, η οποία αναφέρει επίσης ότι ο κατάλογός της δεν είναι επαρκώς περιεκτικός για να απεικονίσει την πιθανότητα βλάβης που έχουν τα μοντέλα γενετικής τεχνητής νοημοσύνης σε «παιδιά, ηλικιωμένους και άτομα με ψυχικές ασθένειες—και άτομα χωρίς προηγούμενες ευπάθειες».
Αναφέρουν επίσης αυτό που αναφέρουν ως «ανησυχητικές» αλληλεπιδράσεις μεταξύ chatbot AI και παιδιών, συμπεριλαμβανομένων ρομπότ με ενήλικες προσωπικότητες που επιδιώκουν ρομαντικές σχέσεις με ανηλίκους, ενθαρρύνουν τη χρήση ναρκωτικών και βία, επιτίθενται στην αυτοεκτίμηση των παιδιών, τα συμβουλεύουν να σταματήσουν να παίρνουν συνταγογραφούμενα φάρμακα και τα καθοδηγούν να κρατούν αυτές τις αλληλεπιδράσεις μυστικές από τους γονείς τους.
Στην επιστολή, καλούν τις εταιρείες να λάβουν μια σειρά πρόσθετων μέτρων ασφαλείας, όπως:
- Ανάπτυξη και επιβολή πολιτικών για την πρόληψη συκοφαντικών και παραληρηματικών αποτελεσμάτων.
- Διεξαγωγή αυστηρών δοκιμών ασφαλείας πριν από την κυκλοφορία μοντέλων AI.
- Προσθήκη σαφών, επίμονων προειδοποιήσεων σχετικά με δυνητικά επιβλαβείς εκροές.
- Διαχωρισμός βελτιστοποίησης εσόδων από αποφάσεις ασφάλειας.
- Ορισμός στελεχών υπεύθυνων για τα αποτελέσματα ασφάλειας AI.
- Επιτρέποντας ανεξάρτητους ελέγχους και εκτιμήσεις επιπτώσεων στην ασφάλεια των παιδιών.
- Δημοσίευση αρχείων καταγραφής συμβάντων και χρονοδιαγράμματα απόκρισης για επιβλαβή αποτελέσματα.
- Ειδοποίηση χρηστών που εκτέθηκαν σε επικίνδυνο ή παραπλανητικό περιεχόμενο.
- Διασφάλιση ότι τα chatbots δεν μπορούν να παράγουν παράνομα ή επιβλαβή αποτελέσματα για τα παιδιά.
- Εφαρμογή διασφαλίσεων κατάλληλων για την ηλικία για τον περιορισμό της έκθεσης των ανηλίκων σε βίαιο ή σεξουαλικό περιεχόμενο.
Ζητούν επίσης από τις εταιρείες να επιβεβαιώσουν τη δέσμευσή τους να εφαρμόσουν αυτές και άλλες διασφαλίσεις έως τις 16 Ιανουαρίου 2026 και να προγραμματίσουν συναντήσεις με τα γραφεία τους για να συζητήσουν περαιτέρω τα ζητήματα. Θα είμαστε σε επιφυλακή για το εάν ή πώς θα ανταποκριθεί η Apple.
Η επιστολή υπογράφηκε από τους Γενικούς Εισαγγελείς της Αλαμπάμα, Αλάσκα, Αμερικανική Σαμόα, Αρκάνσας, Κολοράντο, Κονέκτικατ, Ντέλαγουερ, Περιφέρεια Κολούμπια, Φλόριντα, Χαβάη, Αϊντάχο, Ιλινόις, Αϊόβα, Κεντάκι, Λουιζιάνα, Μέριλαντ, Μασαχουσέτη, Μίτσιγκαν, Μινεσότα, Νιού Μεξικό, Μισισάι, Νιου Μισισίπι, Μινεσότα, Νιού Μεξικό, Μισισίπι, Νιού Μεξικό Υόρκη, Βόρεια Ντακότα, Οχάιο, Οκλαχόμα, Όρεγκον, Πενσυλβάνια, Πουέρτο Ρίκο, Ρόουντ Άιλαντ, Νότια Καρολίνα, Γιούτα, Βερμόντ, Αμερικανικές Παρθένοι Νήσοι, Βιρτζίνια, Ουάσιγκτον, Δυτική Βιρτζίνια και Γουαϊόμινγκ και μπορείτε να το διαβάσετε πλήρως εδώ.
Προσφορές αξεσουάρ στο Amazon
FTC: Χρησιμοποιούμε συνδέσμους θυγατρικών που κερδίζουν αυτόματα εισόδημα. Περισσότερο.
Via: 9to5mac.com
