Εντάξει, τι συμβαίνει με το algo του LinkedIn;

Μια μέρα τον Νοέμβριο, μια στρατηγός προϊόντων που θα αποκαλούμε Michelle (όχι το πραγματικό της όνομα), συνδέθηκε στον λογαριασμό της στο LinkedIn και άλλαξε το φύλο της σε αρσενικό. Άλλαξε επίσης το όνομά της σε Michael, είπε στο TechCrunch.

Συμμετείχε σε ένα πείραμα που ονομάζεται #WearthePants όπου γυναίκες που δοκιμάστηκαν την υπόθεση ότι ο νέος αλγόριθμος του LinkedIn ήταν προκατειλημμένος κατά των γυναικών.

Για μήνες, κάποιο βαρύ LinkedIn Οι χρήστες παραπονέθηκαν ότι είδαν πτώση στην αφοσίωση και τις εντυπώσεις στο κοινωνικό δίκτυο που είναι προσανατολισμένο στην καριέρα. Αυτό έγινε μετά από τον αντιπρόεδρο μηχανικής της εταιρείας, Tim Jurka, είπε τον Αύγουστο ότι η πλατφόρμα είχε «πιο πρόσφατα» εφαρμόσει LLM για να βοηθήσει στην προβολή περιεχομένου χρήσιμου στους χρήστες.

Η Michelle (η ταυτότητα της οποίας είναι γνωστή στο TechCrunch) ήταν καχύποπτη για τις αλλαγές επειδή έχει περισσότερους από 10.000 ακόλουθους και γράφει ghostwrites αναρτήσεις για τον σύζυγό της, ο οποίος έχει μόνο περίπου 2.000. Ωστόσο, αυτή και ο σύζυγός της τείνουν να έχουν τον ίδιο αριθμό εμφανίσεων ανάρτησης, είπε, παρά τους μεγαλύτερους ακόλουθούς της.

«Η μόνη σημαντική μεταβλητή ήταν το φύλο», είπε.

Η Marilynn Joyner, ιδρύτρια, άλλαξε επίσης το φύλο του προφίλ της. Δημοσιεύει συνεχώς στο LinkedIn εδώ και δύο χρόνια και παρατήρησε τους τελευταίους μήνες ότι η προβολή των αναρτήσεών της μειώθηκε. «Άλλαξα το φύλο μου στο προφίλ μου από γυναίκα σε άνδρα και οι εντυπώσεις μου αυξήθηκαν κατά 238% μέσα σε μια μέρα», είπε στο TechCrunch.

Η Megan Cornish ανέφερε παρόμοια αποτελέσματα, όπως και η Rosie Taylor, η Jessica Doyle Mekkes, η Abby Nydam, η Felicity Menzies, η Lucy Ferguson και ούτω καθεξής.

LinkedIn είπε ότι «Ο αλγόριθμος και τα συστήματα τεχνητής νοημοσύνης δεν χρησιμοποιούν δημογραφικές πληροφορίες όπως ηλικία, φυλή ή φύλο ως σήμα για τον προσδιορισμό της ορατότητας του περιεχομένου, του προφίλ ή των αναρτήσεων στη ροή» και ότι «ένα στιγμιότυπο από τις δικές σας ενημερώσεις ροής που δεν είναι απολύτως αντιπροσωπευτικές ή ισότιμες, δεν συνεπάγεται αυτόματα άδικη μεταχείριση ή μεροληψία στη ροή».

Οι ειδικοί των κοινωνικών αλγορίθμων συμφωνούν ότι ο ρητός σεξισμός μπορεί να μην ήταν αιτία, αν και η σιωπηρή προκατάληψη μπορεί να λειτουργεί.

Οι πλατφόρμες είναι «μια περίπλοκη συμφωνία αλγορίθμων που έλκουν συγκεκριμένους μαθηματικούς και κοινωνικούς μοχλούς, ταυτόχρονα και συνεχώς». Brandeis Marshallσύμβουλος δεοντολογίας δεδομένων, είπε στο TechCrunch.

«Η αλλαγή της φωτογραφίας προφίλ και του ονόματος κάποιου είναι μόνο ένας τέτοιος μοχλός», είπε, προσθέτοντας ότι ο αλγόριθμος επηρεάζεται επίσης, για παράδειγμα, από το πώς ένας χρήστης έχει και αλληλεπιδρά αυτήν τη στιγμή με άλλο περιεχόμενο.

“Αυτό που δεν γνωρίζουμε είναι όλοι οι άλλοι μοχλοί που κάνουν αυτόν τον αλγόριθμο να δίνει προτεραιότητα στο περιεχόμενο ενός ατόμου έναντι ενός άλλου. Αυτό είναι ένα πιο περίπλοκο πρόβλημα από ό,τι υποθέτουν οι άνθρωποι”, είπε ο Μάρσαλ.

Bro-coded

Ο #WearthePants Το πείραμα ξεκίνησε με δύο επιχειρηματίες – τη Σίντι Γκάλοπ και την Τζέιν Έβανς.

Ζήτησαν από δύο άντρες να δημιουργήσουν και να δημοσιεύσουν το ίδιο περιεχόμενο με αυτούς, με περιέργεια να μάθουν αν το φύλο ήταν ο λόγος που τόσες πολλές γυναίκες ένιωθαν μια βουτιά στον αρραβώνα. Ο Γκάλοπ και ο Έβανς και οι δύο έχουν μεγάλους ακόλουθους — περισσότεροι από 150.000 μαζί σε σύγκριση με τους δύο άνδρες που είχαν περίπου 9.400 εκείνη την εποχή.

Η Gallop ανέφερε ότι η ανάρτησή της έφτασε μόνο 801 άτομα, ενώ ο άνθρωπος που δημοσίευσε το ίδιο ακριβώς περιεχόμενο έφτασε τα 10.408 άτομα, πάνω από το 100% των followers του. Στη συνέχεια συμμετείχαν και άλλες γυναίκες. Κάποιοι, όπως η Joyner, που χρησιμοποιεί το LinkedIn για να προωθήσει την επιχείρησή της, ανησύχησαν.

«Θα ήθελα πολύ να δω το LinkedIn να αναλαμβάνει την ευθύνη για οποιαδήποτε προκατάληψη που μπορεί να υπάρχει στον αλγόριθμό του», είπε ο Joyner.

Ωστόσο, το LinkedIn, όπως και άλλες πλατφόρμες αναζήτησης και κοινωνικών μέσων που εξαρτώνται από το LLM, προσφέρει ελάχιστες λεπτομέρειες σχετικά με τον τρόπο εκπαίδευσης των μοντέλων επιλογής περιεχομένου.

Ο Marshall είπε ότι οι περισσότερες από αυτές τις πλατφόρμες «έχουν ενσωματώσει από τη φύση τους μια λευκή, αρσενική, δυτικοκεντρική άποψη» λόγω του ποιος εκπαίδευσε τα μοντέλα. Οι ερευνητές βρίσκουν στοιχεία ανθρώπινων προκαταλήψεων όπως ο σεξισμός και ο ρατσισμός σε δημοφιλή μοντέλα LLM, επειδή τα μοντέλα εκπαιδεύονται σε περιεχόμενο που δημιουργείται από τον άνθρωπο και οι άνθρωποι συχνά εμπλέκονται άμεσα στη μετεκπαίδευση ή στην ενισχυτική μάθηση.

Ωστόσο, ο τρόπος με τον οποίο μια μεμονωμένη εταιρεία εφαρμόζει τα συστήματα AI της καλύπτεται από τη μυστικότητα του αλγοριθμικού μαύρου κουτιού.

Το LinkedIn λέει ότι το πείραμα #WearthePants δεν θα μπορούσε να έχει αποδείξει μεροληψία φύλου έναντι των γυναικών. Η δήλωση του Jurka τον Αύγουστο είπε — και ο επικεφαλής του τμήματος Υπεύθυνης Τεχνητής Νοημοσύνης και Διακυβέρνησης του LinkedIn, Sakshi Jain, επανέλαβε σε άλλη ανάρτηση τον Νοέμβριο — ότι τα συστήματά της δεν χρησιμοποιούν δημογραφικές πληροφορίες ως σήμα για ορατότητα.

Αντίθετα, το LinkedIn είπε στο TechCrunch ότι δοκιμάζει εκατομμύρια δημοσιεύσεις για να συνδέσει τους χρήστες με ευκαιρίες. Είπε ότι τα δημογραφικά δεδομένα χρησιμοποιούνται μόνο για τέτοιες δοκιμές, όπως για να δούμε αν οι αναρτήσεις “από διαφορετικούς δημιουργούς ανταγωνίζονται επί ίσοις όροις και ότι η εμπειρία κύλισης, αυτό που βλέπετε στη ροή, είναι συνεπής σε όλα τα είδη κοινού”, είπε η εταιρεία στο TechCrunch.

Το LinkedIn έχει σημειωθεί για έρευνα και προσαρμογή τον αλγόριθμό του να προσπαθήσει να προσφέρει μια λιγότερο προκατειλημμένη εμπειρία για τους χρήστες.

Είναι οι άγνωστες μεταβλητές, είπε ο Marshall, που πιθανώς εξηγούν γιατί ορισμένες γυναίκες είδαν αυξημένες εντυπώσεις αφού άλλαξαν το φύλο του προφίλ τους σε αρσενικό. Η συμμετοχή σε μια τάση ιού, για παράδειγμα, μπορεί να οδηγήσει σε ώθηση της δέσμευσης. Ορισμένοι λογαριασμοί αναρτούσαν για πρώτη φορά μετά από πολύ καιρό και ο αλγόριθμος θα μπορούσε ενδεχομένως να τους είχε ανταμείψει γι’ αυτό.

Ο τόνος και το στυλ γραφής μπορεί επίσης να παίξουν ρόλο. Η Michelle, για παράδειγμα, είπε την εβδομάδα που δημοσίευσε ως «Michael», προσάρμοσε ελαφρώς τον τόνο της, γράφοντας με πιο απλοϊκό, άμεσο ύφος, όπως κάνει για τον σύζυγό της. Τότε ήταν που είπε ότι οι εμφανίσεις αυξήθηκαν 200% και οι δεσμεύσεις αυξήθηκαν 27%.

Κατέληξε στο συμπέρασμα ότι το σύστημα δεν ήταν «ρητά σεξιστικό», αλλά φαινόταν να θεωρεί τα στυλ επικοινωνίας που συνήθως συνδέονται με τις γυναίκες «αντιπρόσωπο για χαμηλότερη αξία».

Στερεοτυπικό αρσενικό Τα στυλ γραφής πιστεύεται ότι είναι πιο συνοπτικάενώ το στερεότυπα στυλ γραφής για γυναίκες φαντάζονται ότι είναι πιο ήπιες και πιο συναισθηματικές. Εάν ένας LLM εκπαιδεύεται για να ενισχύσει τη γραφή που συμμορφώνεται με τα ανδρικά στερεότυπα, αυτό είναι μια λεπτή, σιωπηρή προκατάληψη. Και όπως αναφέραμε προηγουμένως, οι ερευνητές έχουν διαπιστώσει ότι τα περισσότερα LLM είναι γεμάτα με αυτά.

Η Sarah Dean, επίκουρη καθηγήτρια επιστήμης υπολογιστών στο Cornell, είπε ότι πλατφόρμες όπως το LinkedIn χρησιμοποιούν συχνά ολόκληρα προφίλ, εκτός από τη συμπεριφορά των χρηστών, όταν καθορίζουν το περιεχόμενο για ενίσχυση. Αυτό περιλαμβάνει εργασίες στο προφίλ ενός χρήστη και τον τύπο περιεχομένου με τον οποίο συνήθως αλληλεπιδρούν.

«Τα δημογραφικά στοιχεία κάποιου μπορεί να επηρεάσουν «και τις δύο πλευρές» του αλγορίθμου — αυτό που βλέπει και ποιος βλέπει αυτό που δημοσιεύει», είπε ο Ντιν.

Το LinkedIn είπε στο TechCrunch ότι τα συστήματα τεχνητής νοημοσύνης του εξετάζουν εκατοντάδες σήματα για να προσδιορίσουν τι προωθείται σε έναν χρήστη, συμπεριλαμβανομένων πληροφοριών από το προφίλ, το δίκτυο και τη δραστηριότητα ενός ατόμου.

«Εκτελούμε συνεχείς δοκιμές για να κατανοήσουμε τι βοηθά τους ανθρώπους να βρουν το πιο σχετικό, έγκαιρο περιεχόμενο για την καριέρα τους», είπε ο εκπρόσωπος. “Η συμπεριφορά των μελών διαμορφώνει επίσης τη ροή, τις αλλαγές που κάνουν οι χρήστες, τις αποθηκεύουν και τις αλληλεπιδρούν καθημερινά, καθώς και ποιες μορφές τους αρέσουν ή δεν τους αρέσουν. Αυτή η συμπεριφορά διαμορφώνει επίσης φυσικά τι εμφανίζεται στις ροές μαζί με τυχόν ενημερώσεις από εμάς.”

Ο Τσαντ Τζόνσον, ειδικός στις πωλήσεις που δραστηριοποιείται στο LinkedIn, περιγράφεται τις αλλαγές όπως η κατάργηση των προτιμήσεων, τα σχόλια και οι αναδημοσιεύσεις. Το σύστημα LLM «δεν ενδιαφέρεται πλέον πόσο συχνά δημοσιεύετε ή ποια ώρα της ημέρας», έγραψε ο Johnson σε μια ανάρτηση. «Ενδιαφέρεται αν η γραφή σας δείχνει κατανόηση, σαφήνεια και αξία».

Όλα αυτά καθιστούν δύσκολο τον προσδιορισμό της πραγματικής αιτίας οποιωνδήποτε αποτελεσμάτων #WearthePants.

Οι άνθρωποι απλώς αντιπαθούν το algo

Ωστόσο, φαίνεται ότι πολλοί άνθρωποι, μεταξύ των δύο φύλων, είτε δεν τους αρέσει είτε δεν κατανοούν τον νέο αλγόριθμο του LinkedIn — όποιος κι αν είναι αυτός.

Η Shailvi Wakhulu, επιστήμονας δεδομένων, είπε στο TechCrunch ότι έχει κατά μέσο όρο τουλάχιστον μία ανάρτηση την ημέρα για πέντε χρόνια και συνήθιζε να βλέπει χιλιάδες εντυπώσεις. Τώρα αυτή και ο σύζυγός της έχουν την τύχη να δουν μερικές εκατοντάδες. «Είναι αποθαρρυντικό για τους δημιουργούς περιεχομένου με μεγάλους πιστούς ακόλουθους», είπε.

Ένας άνδρας είπε στο TechCrunch ότι είδε περίπου μια πτώση 50% στην αφοσίωση τους τελευταίους μήνες. Ωστόσο, ένας άλλος άνδρας είπε ότι είδε τις αναρτήσεις εμφανίσεων και την προσέγγιση χρηστών να αυξάνονται περισσότερο από 100% σε παρόμοιο χρονικό διάστημα. «Αυτό οφείλεται σε μεγάλο βαθμό επειδή γράφω για συγκεκριμένα θέματα για συγκεκριμένο κοινό, κάτι που ανταμείβει ο νέος αλγόριθμος», είπε στο TechCrunch, προσθέτοντας ότι οι πελάτες του βλέπουν παρόμοια αύξηση.

Αλλά σύμφωνα με την εμπειρία της Marshall, αυτή, η οποία είναι Μαύρη, πιστεύει ότι οι αναρτήσεις σχετικά με τις εμπειρίες της έχουν πιο κακή απόδοση από τις δημοσιεύσεις που σχετίζονται με τη φυλή της. «Εάν οι μαύρες γυναίκες έχουν αλληλεπιδράσεις μόνο όταν μιλούν για μαύρες γυναίκες, αλλά όχι όταν μιλούν για την ιδιαίτερη τεχνογνωσία τους, τότε αυτό είναι μια προκατάληψη», είπε.

Ο ερευνητής, Dean, πιστεύει ότι ο αλγόριθμος μπορεί απλώς να ενισχύει «όποια σήματα υπάρχουν ήδη». Θα μπορούσε να ανταμείβει ορισμένες αναρτήσεις, όχι λόγω των δημογραφικών στοιχείων του συγγραφέα, αλλά επειδή υπάρχει περισσότερο ιστορικό ανταπόκρισης σε αυτές σε όλη την πλατφόρμα. Ενώ η Μάρσαλ μπορεί να έχει σκοντάψει σε μια άλλη περιοχή σιωπηρής προκατάληψης, τα ανέκδοτα στοιχεία της δεν είναι αρκετά για να το προσδιορίσουν με βεβαιότητα.

Το LinkedIn πρόσφερε κάποιες πληροφορίες για το τι λειτουργεί καλά τώρα. Η εταιρεία είπε ότι η βάση χρηστών έχει αυξηθεί και ως αποτέλεσμα, οι αναρτήσεις αυξάνονται κατά 15% από έτος σε έτος, ενώ τα σχόλια αυξάνονται κατά 24% σε ετήσια βάση. «Αυτό σημαίνει περισσότερο ανταγωνισμό στη ροή», είπε η εταιρεία. Οι αναρτήσεις σχετικά με επαγγελματικές γνώσεις και μαθήματα καριέρας, ειδήσεις και αναλύσεις του κλάδου, καθώς και εκπαιδευτικό ή ενημερωτικό περιεχόμενο σχετικά με την εργασία, τις επιχειρήσεις και την οικονομία πάνε καλά, ανέφερε.

Αν μη τι άλλο, οι άνθρωποι είναι απλώς μπερδεμένοι. «Θέλω διαφάνεια», είπε η Μισέλ.

Ωστόσο, καθώς οι αλγόριθμοι επιλογής περιεχομένου φυλάσσουν πάντα στενά τα μυστικά από τις εταιρείες τους και η διαφάνεια μπορεί να οδηγήσει στο παιχνίδι τους, αυτό είναι ένα μεγάλο ερώτημα. Είναι κάτι που είναι απίθανο να ικανοποιηθεί ποτέ.