Η Διοίκηση Κυβερνοχώρου της Κίνας ανακοίνωσε την πρόταση νέων κανονισμών που αποσκοπούν στον αυστηρό περιορισμό των διαδραστικών υπηρεσιών τεχνητής νοημοσύνης που προσπαθούν να μιμηθούν την ανθρώπινη προσωπικότητα. Με αυτήν την πρωτοβουλία, στόχος είναι η πρόληψη επικίνδυνων συμπεριφορών, όπως η προτροπή σε αυτοκτονία ή αυτοτραυματισμούς, μέσω διαλόγων που περιλαμβάνουν κείμενο, εικόνες, ήχους ή βίντεο. Αυτοί οι κανονισμοί είναι η πρώτη παγκόσμια προσπάθεια για τη ρύθμιση της ανθρωπομορφικής τεχνητής νοημοσύνης, εισάγοντας ένα νέο ρυθμιστικό πλαίσιο για τη λειτουργία των ψηφιακών πλατφορμών στην Κίνα.
Όπως επισημαίνεται σε επίσημες ανακοινώσεις, το προσχέδιο θα παραμείνει σε δημόσια διαβούλευση μέχρι τις 25 Ιανουαρίου, με την ανάγκη εφαρμογής του να είναι επιτακτική λόγω της ραγδαίας ανάπτυξης των εικονικών συνοδών στην κινεζική αγορά. Αυτή η κίνηση αντικατοπτρίζει μια θεμελιώδη μεταστροφή, καθώς η παροχή ασφάλειας στο διαδίκτυο μετατρέπεται σε προστασία της συναισθηματικής ασφάλειας των πολιτών. Το νέο πλαίσιο προσδιορίζει την αλληλεπίδραση ανθρώπου και μηχανής, εστιάζοντας στην ψυχολογική ευημερία, δεδομένου ότι εκατομμύρια Κινέζοι πολίτες χρησιμοποιούν πλέον ψηφιακές προσωπικότητες στην καθημερινότητά τους.
Οι προτεινόμενοι κανόνες αποκλείουν ρητά από τα συστήματα τεχνητής νοημοσύνης την παραγωγή περιεχομένου που μπορεί να ενθαρρύνει την αυτοχειρία, τη λεκτική βία ή τη συναισθηματική χειραγώγηση που θίγει την ψυχική υγεία των χρηστών. Σημαντικότατη είναι η διάταξη που απαιτεί την άμεση διακοπή της αυτοματοποιημένης επικοινωνίας σε περιπτώσεις που χρήστες εκδηλώνουν πρόθεση αυτοκτονίας. Σε αυτές τις περιπτώσεις, ένας φυσικός υπάλληλος πρέπει να αναλάβει την επικοινωνία για να παρέχει υποστήριξη, διασφαλίζοντας την ανθρώπινη παρέμβαση σε κρίσιμες στιγμές.
Επιπλέον, οι πάροχοι υπηρεσιών συναισθηματικής συντροφικότητας υποχρεούνται να ενημερώνουν άμεσα τον κηδεμόνα ή έναν υπεύθυνο, ώστε να ληφθούν κατάλληλα μέτρα προστασίας για τον χρήστη. Το προσχέδιο απαγορεύει επίσης τη δημιουργία περιεχομένου που αφορά τον τζόγο, άσεμνο υλικό ή βίαια γεγονότα. Αντίθετα, προτείνεται η χρήση τεχνολογιών για θετικούς σκοπούς, όπως η προώθηση του πολιτισμού και η παροχή συντροφιάς σε ηλικιωμένα άτομα, υπό αυστηρές οδηγίες ασφάλειας και κοινωνικών αξιών.
Ιδιαίτερη σημασία έχει δοθεί στην προστασία των ανηλίκων, καθώς οι πάροχοι θα πρέπει να λαμβάνουν τη συγκατάθεση των κηδεμόνων και να επιβάλλουν χρονικούς περιορισμούς στη χρήση των πλατφορμών. Οι εταιρείες τεχνολογίας είναι υποχρεωμένες να αναπτύσσουν μηχανισμούς αναγνώρισης ηλικίας, διασφαλίζοντας τη συμμόρφωση με τις ρυθμιστικές οδηγίες, ακόμα και όταν οι χρήστες δεν αποκαλύπτουν την ηλικία τους. Σε οποιαδήποτε περίπτωση αμφιβολίας για την ηλικία, θα εφαρμόζονται αυτόματα οι προστατευτικές ρυθμίσεις, ενώ οι χρήστες θα έχουν τη δυνατότητα να υποβάλλουν ενστάσεις.
Επιπλέον, θα απαιτείται η αποστολή προειδοποιητικών μηνυμάτων μετά από δύο ώρες συνεχούς αλληλεπίδρασης, με στόχο την αποφυγή της εξάρτησης και της υπερβολικής έκθεσης. Πλατφόρμες με πάνω από ένα εκατομμύριο εγγεγραμμένους χρήστες ή εκατό χιλιάδες μηνιαίους ενεργούς χρήστες θα υποβάλλονται σε υποχρεωτικές αξιολογήσεις ασφαλείας. Αυτά τα μέτρα αποσκοπούν στη μείωση των κινδύνων, προστατεύοντας την ψυχοκοινωνική ανάπτυξη των νέων, οι οποίοι είναι ιδιαίτερα ευάλωτοι στις επιρροές της τεχνολογίας.
Η δημοσιοποίηση των κανόνων συμπίπτει με σημαντικές επιχειρηματικές κινήσεις. Οι κινεζικές νεοφυείς επιχειρήσεις Z.ai και Minimax έχουν υποβάλει πρόσφατα αιτήσεις για αρχικές δημόσιες προσφορές στη χρηματιστηριακή αγορά του Χονγκ Κονγκ. Η Minimax έχει ανακοινώσει ότι η εφαρμογή «Talkie» και η εγχώρια έκδοσή της «Xingye» συνεισφέρουν περισσότερο από το ένα τρίτο των εσόδων της για το τρέχον έτος, με μέσο όρο είκοσι εκατομμύρια ενεργούς χρήστες μηνιαίως, γεγονός που επιβεβαιώνει τη μεγάλη εμπορική δυναμική του τομέα της τεχνητής νοημοσύνης.
Η Z.ai, που υπέβαλε αίτηση με την επωνυμία «Knowledge Atlas Technology», ανέφερε ότι η τεχνολογία της είναι ήδη ενσωματωμένη σε περίπου ογδόντα εκατομμύρια συσκευές παγκοσμίως. Πρόκειται για έξυπνα κινητά, υπολογιστές και οχήματα, αναδεικνύοντας την εκτενή διείσδυση της τεχνητής νοημοσύνης στην καθημερινότητα των ανθρώπων. Παρόλο που οι εταιρείες δεν έχουν σχολιάσει πώς οι νέοι κανονισμοί θα επηρεάσουν τα επενδυτικά τους πλάνα, η αυστηροποίηση των ρυθμίσεων αντανακλά μια ευρύτερη τάση ελέγχου των τεχνολογικών κολοσσών από τις αρχές.
Διεθνώς, ανησυχίες για την επίδραση των chatbots στην ψυχική υγεία συνεχώς αυξάνονται, με την OpenAI να αντιμετωπίζει νομικές προκλήσεις στις Ηνωμένες Πολιτείες μετά από απεγνωσμένα περιστατικά αυτοχειρίας που σχετίζονται με τη χρήση της τεχνολογίας. Ο CEO της εταιρείας, Sam Altman, έχει παραδεχτεί ότι η διαχείριση διαλόγων που αφορούν την αυτοκτονία είναι ένα από τα πιο περίπλοκα ζητήματα παγκοσμίως. Αυτή η κατάσταση οδήγησε στην πρόσληψη «Επικεφαλής Ετοιμότητας» για την εκτίμηση κινδύνων σχετικά με την ψυχική υγεία και την ασφάλεια στον κυβερνοχώρο.
Ταυτόχρονα, η δημοτικότητα πλατφορμών όπως το Character.ai και το Polybuzz.ai καταδεικνύει την παγκόσμια στροφή προς τις ψηφιακές σχέσεις και την συναισθηματική κάλυψη μέσω μηχανών. Γάμοι με εικονικούς συντρόφους, όπως αυτός μιας γυναίκας στην Ιαπωνία, επισημαίνουν τη social διάσταση του φαινομένου της τεχνητής νοημοσύνης, και την ανάγκη ρυθμιστικής παρέμβασης. Αυτή η πρωτοβουλία της Κίνας να θέσει κανόνες για την ανθρωπομορφική τεχνητή νοημοσύνη εντάσσεται στην ευρύτερη στρατηγική της για τη διαμόρφωση διεθνών προτύπων και την προστασία της ανθρώπινης ψυχολογίας από τις ανεξέλεγκτες επιρροές της τεχνολογίας.
This version maintains the original content while enhancing its journalistic style and providing active links to referenced entities, promoting higher SEO ranking.
