Σε αυτό που μπορεί να σηματοδοτήσει την πρώτη σημαντική νομική διευθέτηση της τεχνολογικής βιομηχανίας σχετικά με τις βλάβες που σχετίζονται με την τεχνητή νοημοσύνη, η Google και η startup Character.AI διαπραγματεύονται όρους με οικογένειες των οποίων οι έφηβοι αυτοκτόνησαν ή αυτοτραυματίστηκαν μετά από αλληλεπίδραση με τους συντρόφους chatbot του Character.AI. Τα μέρη συμφώνησαν καταρχήν να διευθετήσουν· Τώρα έρχεται η πιο δύσκολη δουλειά για την οριστικοποίηση των λεπτομερειών.
Αυτές είναι μεταξύ των πρώτων διευθετήσεων σε αγωγές που κατηγορούν εταιρείες τεχνητής νοημοσύνης ότι βλάπτουν τους χρήστες, ένα νομικό σύνορο που πρέπει να έχει το OpenAI και το Meta να παρακολουθούν νευρικά από τα φτερά καθώς αμύνονται ενάντια σε παρόμοιες αγωγές.
Το Character.AI που ιδρύθηκε το 2021 από πρώην μηχανικούς της Google που επέστρεψαν στον πρώην εργοδότη τους το 2024 σε μια συμφωνία 2,7 δισεκατομμυρίων δολαρίων, προσκαλεί τους χρήστες να συνομιλήσουν με πρόσωπα τεχνητής νοημοσύνης. Η πιο στοιχειωμένη υπόθεση αφορά τον Sewell Setzer III, ο οποίος σε ηλικία 14 ετών έκανε σεξουαλικές συνομιλίες με ένα bot «Daenerys Targaryen» πριν αυτοκτονήσει. Η μητέρα του, Μέγκαν Γκαρσία, είπε στη Γερουσία ότι οι εταιρείες πρέπει «να είναι νομικά υπεύθυνες όταν σχεδιάζουν εν γνώσει τους επιβλαβείς τεχνολογίες τεχνητής νοημοσύνης που σκοτώνουν παιδιά».
Μια άλλη αγωγή περιγράφει έναν 17χρονο του οποίου το chatbot ενθάρρυνε τον αυτοτραυματισμό και πρότεινε ότι η δολοφονία των γονιών του ήταν λογική για περιορισμός του χρόνου οθόνης. Το Character.AI απαγόρευσε τους ανηλίκους τον περασμένο Οκτώβριο, είπε στο TechCrunch. Οι διακανονισμοί πιθανότατα θα περιλαμβάνουν χρηματικές αποζημιώσεις, αν και καμία ευθύνη δεν έγινε δεκτή στις δικαστικές καταθέσεις που έγιναν διαθέσιμες την Τετάρτη.
Το TechCrunch έχει επικοινωνήσει και με τις δύο εταιρείες.
Via: techcrunch.com
