Το δαχτυλίδι της Amazon λανσάρει μια αμφιλεγόμενη λειτουργία αναγνώρισης προσώπου με τεχνητή νοημοσύνη στα κουδούνια βίντεο

Δυστοπικό ή χρήσιμο; Τα κουδούνια Ring της Amazon θα μπορούν πλέον να αναγνωρίζουν τους επισκέπτες σας μέσω μιας νέας λειτουργίας αναγνώρισης προσώπου με τεχνητή νοημοσύνη, δήλωσε η εταιρεία την Τρίτη. Το αμφιλεγόμενο χαρακτηριστικό, που ονομάστηκε “Familiar Faces”, ανακοινώθηκε νωρίτερα αυτόν τον Σεπτέμβριο και τώρα διατίθεται στους κατόχους συσκευών Ring στις Ηνωμένες Πολιτείες.

Η Amazon λέει ότι η λειτουργία σάς επιτρέπει να αναγνωρίζετε τα άτομα που έρχονται τακτικά στην πόρτα σας δημιουργώντας έναν κατάλογο με έως και 50 πρόσωπα. Αυτά μπορεί να περιλαμβάνουν μέλη της οικογένειας, φίλους και γείτονες, οδηγούς παράδοσης, οικιακό προσωπικό και άλλα. Αφού προσθέσετε ετικέτα σε κάποιον στην εφαρμογή Ring, η συσκευή θα τον αναγνωρίσει καθώς πλησιάζει την κάμερα του Ring.

Στη συνέχεια, αντί να σας ειδοποιήσουμε ότι «ένα άτομο είναι στην πόρτα σας», θα λάβετε μια εξατομικευμένη ειδοποίηση, όπως «Η μαμά στην μπροστινή πόρτα», εξηγεί η εταιρεία στην ανακοίνωση κυκλοφορίας της.

Το χαρακτηριστικό έχει ήδη λάβει απώθηση από οργανισμούς προστασίας των καταναλωτών, όπως το EFFκαι γερουσιαστής των ΗΠΑ.

Οι ιδιοκτήτες του Amazon Ring μπορούν να χρησιμοποιήσουν τη δυνατότητα για να τους βοηθήσουν να απενεργοποιήσουν τις ειδοποιήσεις που δεν θέλουν να βλέπουν – όπως αυτές οι ειδοποιήσεις που αναφέρονται στις δικές τους ερμηνείες, για παράδειγμα, λέει η εταιρεία. Και μπορούν να ορίσουν αυτές τις ειδοποιήσεις ανά πρόσωπο.

Η δυνατότητα δεν είναι ενεργοποιημένη από προεπιλογή. Αντίθετα, οι χρήστες θα πρέπει να το ενεργοποιήσουν στις ρυθμίσεις της εφαρμογής τους.

Εν τω μεταξύ, τα πρόσωπα μπορούν να ονομαστούν στην εφαρμογή απευθείας από την ενότητα Ιστορικό συμβάντων ή από τη νέα βιβλιοθήκη Familiar Faces. Μόλις επισημανθεί, το πρόσωπο θα ονομαστεί σε όλες τις ειδοποιήσεις, στο χρονικό πλαίσιο της εφαρμογής και στο Ιστορικό συμβάντων. Αυτές οι ετικέτες μπορούν να επεξεργαστούν ανά πάσα στιγμή και υπάρχουν εργαλεία για τη συγχώνευση διπλότυπων ή τη διαγραφή προσώπων.

Η Amazon ισχυρίζεται ότι τα δεδομένα προσώπου είναι κρυπτογραφημένα και δεν κοινοποιούνται ποτέ με άλλους. Επιπλέον, λέει ότι τα πρόσωπα που δεν κατονομάζονται αφαιρούνται αυτόματα μετά από 30 ημέρες.

Ανησυχίες για το απόρρητο σχετικά με την αναγνώριση προσώπου AI

Παρά τις διαβεβαιώσεις απορρήτου της Amazon, η προσθήκη της δυνατότητας εγείρει ανησυχίες.

Η εταιρεία έχει ιστορικό συνεργασιών με τις αρχές επιβολής του νόμου και ακόμη και μια φορά έδωσε στην αστυνομία και την πυροσβεστική τη δυνατότητα να ζητούν δεδομένα από την εφαρμογή Ring Neighbors, ζητώντας απευθείας από την Amazon το βίντεο από το κουδούνι των ανθρώπων. Πιο πρόσφατα, η Amazon συνεργάστηκε με τον Flock, τον κατασκευαστή των καμερών παρακολούθησης με τεχνητή νοημοσύνη που χρησιμοποιούνται από την αστυνομία, ομοσπονδιακή επιβολή του νόμου και ICE.

Οι προσπάθειες ασφαλείας του ίδιου του Ring απέτυχαν στο παρελθόν.

Η Ring έπρεπε να πληρώσει πρόστιμο 5,8 εκατομμυρίων δολαρίων το 2023, αφού η Ομοσπονδιακή Επιτροπή Εμπορίου των ΗΠΑ διαπίστωσε ότι οι υπάλληλοι και οι εργολάβοι της Ring είχαν ευρεία και απεριόριστη πρόσβαση στα βίντεο των πελατών για χρόνια. Η εφαρμογή Neighbors εξέθεσε επίσης τις διευθύνσεις των κατοικιών και τις ακριβείς τοποθεσίες των χρηστών και οι κωδικοί πρόσβασης Ring των χρηστών κυκλοφορούν στον σκοτεινό ιστό εδώ και χρόνια.

Δεδομένης της προθυμίας της Amazon να συνεργαστεί με υπηρεσίες επιβολής του νόμου και παρόχους ψηφιακής επιτήρησης, σε συνδυασμό με το ανεπαρκές ιστορικό ασφαλείας της, προτείνουμε στους ιδιοκτήτες Ring, τουλάχιστον, να είναι προσεκτικοί όσον αφορά την ταυτοποίηση οποιουδήποτε χρησιμοποιεί το σωστό όνομά τους. ακόμα καλύτερα, διατηρήστε τη δυνατότητα απενεργοποιημένη και απλώς κοιτάξτε να δείτε ποιος είναι. Δεν χρειάζονται όλα αναβάθμιση AI.

Ως αποτέλεσμα των ανησυχιών περί απορρήτου, το Δαχτυλίδι της Amazon έχει ήδη αντιμετωπίσει κλήσεις από τον Αμερικανό γερουσιαστή Ed Markey (D-Mass.) εγκαταλείψουν αυτό το χαρακτηριστικόκαι αντιμετωπίζει αντιδράσεις από οργανώσεις προστασίας των καταναλωτών, όπως το EFF. Οι νόμοι περί απορρήτου εμποδίζουν την Amazon από το να ξεκινήσει τη λειτουργία Ιλινόις, Τέξαςκαι το Πόρτλαντ του Όρεγκον, είχε επίσης σημειώσει το EFF.

Σε απάντηση σε ερωτήματα που θέτει ο οργανισμόςη Amazon είπε ότι τα βιομετρικά δεδομένα των χρηστών θα υποβληθούν σε επεξεργασία στο cloud και ισχυρίστηκε ότι δεν χρησιμοποιεί τα δεδομένα για την εκπαίδευση μοντέλων AI. Ισχυρίστηκε επίσης ότι δεν θα μπορούσε να προσδιορίσει όλες τις τοποθεσίες όπου εντοπίστηκε ένα άτομο, από τεχνική άποψη, ακόμη κι αν οι αρχές επιβολής του νόμου ζητούσαν αυτά τα δεδομένα.

Ωστόσο, δεν είναι σαφές γιατί αυτό δεν συμβαίνει, δεδομένης της ομοιότητας με τη λειτουργία “Search Party” που κοιτάζει στο δίκτυο καμερών Ring μιας γειτονιάς για να βρει χαμένους σκύλους και γάτες.