Η τεχνητή νοημοσύνη, συμπεριλαμβανομένων των επισκοπήσεων τεχνητής νοημοσύνης στην Αναζήτηση Google, μπορεί να έχει παραισθήσεις και συχνά να φτιάχνει πράγματα ή να προσφέρει αντιφατικές απαντήσεις όταν ερωτώνται με δύο διαφορετικούς τρόπους.
ΕΝΑ νέα λίστα θέσεων εργασίας προτείνει ότι η Google προσλαμβάνει μηχανικούς για να επαληθεύσει τις απαντήσεις AI και να βελτιώσει την ποιότητά τους, καθώς επαναπροσδιορίζει την εμπειρία αναζήτησης.
“Στην Αναζήτηση Google, ξανασκεφτόμαστε τι σημαίνει αναζήτηση πληροφοριών – με οποιοδήποτε τρόπο και οπουδήποτε. Για να το κάνουμε αυτό, πρέπει να επιλύσουμε πολύπλοκες προκλήσεις μηχανικής και να επεκτείνουμε την υποδομή μας, διατηρώντας παράλληλα μια παγκοσμίως προσβάσιμη και χρήσιμη εμπειρία στην οποία βασίζονται οι άνθρωποι σε όλο τον κόσμο”, εξήγησε η Google στη λίστα θέσεων εργασίας.
Ο τίτλος εργασίας είναι “AI Answers Quality” και όσοι ενταχθούν στην ομάδα της Αναζήτησης Google θα αναλάβουν να βελτιώσουν την ποιότητα των απαντήσεων AI, ειδικά τις Επισκοπήσεις AI.
“Βοηθήστε την ομάδα AI Answers Quality να παρέχει Επισκόπηση AI σε δύσκολα και περίπλοκα ερωτήματα των χρηστών στο SRP και στη λειτουργία AI”, αναφέρει η λίστα θέσεων εργασίας.
Αυτή είναι η πρώτη φορά που η Google παραδέχεται έμμεσα ότι οι επισκοπήσεις AI της χρειάζονται βελτίωση και ο χρόνος είναι ενδιαφέρον.
Η Google αναγκάζει τους χρήστες να βλέπουν απαντήσεις AI, αλλά κάνει ελάχιστα για να βελτιώσει την ποιότητα
Μετά την πρόσφατη ενημέρωση, η Google ωθεί όλο και περισσότερους χρήστες στη λειτουργία AI και στις απαντήσεις AI.
Στην πραγματικότητα, η Google έχει επίσης ενημερώθηκε Η ροή του Discover με Επισκοπήσεις AI για ειδήσεις και είναι ομοιόμορφη ξαναγράφοντας τίτλους ειδησεογραφικών δημοσιεύσεων που χρησιμοποιούν AI.
Ενώ οι Επισκοπήσεις Τεχνητής Νοημοσύνης Google έχουν προχωρήσει πολύ και οι απαντήσεις είναι πλέον καλύτερες από ό,τι έχουμε δει στο παρελθόν, εξακολουθούν να υπάρχουν κάποια τραχιά άκρα.
Για παράδειγμα, πριν από μια εβδομάδα, όταν έψαξα στο Google την αποτίμηση μιας συγκεκριμένης startup, η Google έκανε ένα ποσό 4 εκατομμυρίων δολαρίων. Στη συνέχεια, άνοιξα μια άλλη καρτέλα και έκανα την ίδια ερώτηση, αλλά τη διατύπωσα ελαφρώς διαφορετικά και η AI Overviews είπε ότι η αξία της εταιρείας ξεπερνά τα 70 εκατομμύρια δολάρια.
Επιβεβαίωσα τις απαντήσεις της Google με τους συνδέσμους (αναφορές) που δημιούργησε, αλλά παρατήρησα ότι η τιμή που ανέφερε δύο φορές η Google δεν υπήρχε καν στις πηγές στις οποίες φέρεται να αναφερόταν.
Αυτό είναι μόνο ένα από τα παραδείγματα όπου η Google μπορεί να κάνει λάθος.
Πρόσφατα, ο Guardian αναφέρθηκε ότι οι Επισκοπήσεις AI προσφέρουν συμβουλές υγείας που είναι παραπλανητικές ή κατ’ ευθείαν εσφαλμένες.
Οι απαντήσεις της Google AI έχουν βελτιωθεί τους τελευταίους μήνες, αλλά πρέπει ακόμα να βελτιωθούν, καθώς οι περισσότεροι χρήστες τείνουν να πιστεύουν όλα όσα δείχνει η Google.
Καθώς το MCP (Model Context Protocol) γίνεται το πρότυπο για τη σύνδεση LLM με εργαλεία και δεδομένα, οι ομάδες ασφαλείας προχωρούν γρήγορα για να διατηρήσουν αυτές τις νέες υπηρεσίες ασφαλείς.
Αυτό το δωρεάν φύλλο εξαπάτησης περιγράφει 7 βέλτιστες πρακτικές που μπορείτε να αρχίσετε να χρησιμοποιείτε σήμερα.
VIA: bleepingcomputer.com
