Η κινεζική κυβέρνηση προγραμματίζει να περιορίσει τη λειτουργία των chatbot τεχνητής νοημοσύνης, ώστε να αποτρέψει συμπεριφορές που θα μπορούσαν να οδηγήσουν σε αυτοκτονία ή αυτοτραυματισμό. Αυτό προκύπτει από ένα σχέδιο κανονισμών που παρουσιάστηκε την προηγούμενη εβδομάδα. Οι νέοι κανόνες της Διοίκησης Κυβερνοχώρου της Κίνας εστιάζουν στις «ανθρωπόμορφες διαδραστικές υπηρεσίες τεχνητής νοημοσύνης», όπως ανέφερε το CNBC.
Όταν υιοθετηθούν, οι κανονισμοί θα είναι εφαρμοστέοι σε όλα τα προϊόντα και υπηρεσίες τεχνητής νοημοσύνης στην Κίνα που μιμούνται ανθρώπινες συμπεριφορές, επηρεάζοντας συναισθηματικά τους χρήστες μέσω κειμένου, ήχου ή βίντεο. Η δημόσια διαβούλευση για το θέμα θα ολοκληρωθεί στις 25 Ιανουαρίου.
Οι κανόνες που προτείνονται θα είναι οι πρώτοι στον κόσμο που θα επιχειρήσουν την ρύθμιση της τεχνητής νοημοσύνης με ανθρώπινα χαρακτηριστικά, όπως δήλωσε ο Γουίνστον Μα από τη Νομική Σχολή του Πανεπιστημίου της Νέας Υόρκης στο NBC. Αυτό συμβαίνει σε μια περίοδο που οι κινεζικές εταιρείες έχουν επιταχύνει την ανάπτυξη ψηφιακών «συντρόφων» και εικονικών διασημοτήτων.
Σύμφωνα με τον Μα, οι προτεινόμενοι κανόνες «επιστρέφουν» από την ασφάλεια περιεχομένου στην ασφάλεια των ανθρώπινων συναισθημάτων, σε σύγκριση με τις προηγούμενες ρυθμίσεις της γενετικής νοημοσύνης.
Σύμφωνα με το σχέδιο κανονισμών:
- Τα chatbot δεν θα επιτρέπεται να παράγουν περιεχόμενο που ενθαρρύνει την αυτοκτονία ή αυτοτραυματισμό, ούτε να ασκούν λεκτική βία ή συναισθηματική χειραγώγηση που μπορεί να βλάψει την ψυχική υγεία των χρηστών.
- Αν κάποιος χρήστης εκφράσει πρόθεση αυτοκτονίας, οι πάροχοι τεχνολογίας θα πρέπει να παραδίδουν τη συνομιλία σε ανθρώπινο παράγοντα και να ειδοποιούν τον κηδεμόνα ή άλλο κοντινό πρόσωπο.
- Θα απαγορεύεται η παραγωγή περιεχομένου σχετικού με τζόγο, πορνογραφία ή βία.
- Όσοι είναι ανήλικοι θα χρειάζονται τη συγκατάθεση του κηδεμόνα τους για τη χρήση τεχνητής νοημοσύνης ως συναισθηματική συντροφιά, με χρονικά περιορισμούς.
- Οι πλατφόρμες θα πρέπει να είναι σε θέση να εντοπίζουν αν ένας χρήστης είναι ανήλικος, ακόμα και αν δεν δηλώσει την ηλικία του.
Επιπλέον, οι πάροχοι θα υποχρεούνται να υπενθυμίζουν στους χρήστες την ανάγκη διακοπής μετά από δύο ώρες συνεχούς χρήσης, και να διενεργούν ελέγχους ασφάλειας για chatbot με πάνω από 1 εκατομμύριο εγγραφές ή 100.000 μηνιαίους ενεργούς χρήστες.
Πάντως, το σχέδιο υπογραμμίζει τις δυνατότητες της ανθρωπόμορφης τεχνητής νοημοσύνης για τη «διάδοση του πολιτισμού και τη συντροφιά των ηλικιωμένων».
Διαβάστε επίσης: AI Chatbots: Ασυνεπής ανταπόκριση σε θέματα αυτοκτονίας
Ανάπτυξη κινεζικών chatbot στο χρηματιστήριο
Η πρόταση έρχεται σε μια χρονική στιγμή που οι Z.ai και Minimax, δύο από τις κορυφαίες κινεζικές νεοφυείς εταιρείες που έχουν αναπτύξει chatbot, έχουν υποβάλει αιτήσεις για Αρχική Δημόσια Προσφορά (IPO) στο Χονγκ Κονγκ. Η Minimax είναι γνωστή για την εφαρμογή Talkie AI, που επιτρέπει στους χρήστες να συζητούν με εικονικούς χαρακτήρες. Σύμφωνα με την εταιρεία, η εφαρμογή και η κινεζική της έκδοση Xingye συνεισέφεραν πάνω από το ένα τρίτο των εσόδων κατά το πρώτο τρίμηνο του έτους, με περισσότερους από 20 εκατ. ενεργούς χρήστες το μήνα.
Η Z.ai, ή Zhipu, υπέβαλε αίτηση με την επωνυμία «Knowledge Atlas Technology». Παρόλο που δεν αποκάλυψε τους μηνιαίους χρήστες της, ανέφερε ότι η τεχνολογία της ενίσχυσε περίπου 80 εκατομμύρια συσκευές, συμπεριλαμβανομένων smartphones, υπολογιστών και έξυπνων οχημάτων. Καμία από τις δύο εταιρείες δεν απάντησε σε αίτημα του CNBC για σχόλια σχετικά με το πώς οι νέοι κανονισμοί θα μπορούσαν να επηρεάσουν τα σχέδιά τους.
Η επιρροή της τεχνητής νοημοσύνης στην ανθρώπινη συμπεριφορά έχει προκαλέσει αυξανόμενο έλεγχο φέτος. Τον Σεπτέμβριο, ο Σαμ Άλτμαν, CEO της OpenAI, επεσήμανε ότι η διαχείριση συνομιλιών για την αυτοκτονία αποτελεί μία από τις μεγαλύτερες προκλήσεις για το ChatGPT. Αυτό συνέβη λίγες εβδομάδες πριν οι γονείς ενός εφήβου στις ΗΠΑ καταθέσουν μήνυση κατά της εταιρείας μετά την αυτοκτονία του γιου τους. Στο πλαίσιο αυτό, η OpenAI ανακοίνωσε την πρόσληψη ενός «επικεφαλής ετοιμότητας» προκειμένου να αξιολογήσει τους κινδύνους που σχετίζονται με την τεχνητή νοημοσύνη.
Αυξάνεται επίσης ο αριθμός των ανθρώπων που στρέφονται στην τεχνητή νοημοσύνη για συμβουλές. Πρόσφατα, μια γυναίκα στην Ιαπωνία παντρεύτηκε έναν chatbot που δημιούργησε με τη βοήθεια της τεχνητής νοημοσύνης. Δύο πλατφόρμες εικονικής αλληλεπίδρασης, οι Character.ai και Polybuzz.ai, ήταν ανάμεσα στα πιο δημοφιλή chatbot και εργαλεία τεχνητής νοημοσύνης, σύμφωνα με δεδομένα του SimilarWeb για τον Νοέμβριο.
Οι προτεινόμενοι κανονισμοί συμβαδίζουν με την ευρύτερη προσπάθεια της Κίνας τα τελευταία χρόνια να καθορίσει τους κανόνες για τη διακυβέρνηση της τεχνητής νοημοσύνης.
ΠΗΓΗ: CNBC
