Αποκαλυπτική έρευνα: Πώς εταιρείες «χειραγωγούν» το AI της Google για να αυτοπροωθηθούν

Μια νέα έρευνα αποκαλύπτει πόσο εύκολα μπορούν να χειραγωγηθούν τα σύγχρονα εργαλεία τεχνητής νοημοσύνης, οδηγώντας chatbots και μηχανές αναζήτησης να διαδίδουν ψευδείς ή παραπλανητικές πληροφορίες.

Ειδικοί προειδοποιούν ότι το πρόβλημα είναι ήδη εκτεταμένο και επηρεάζει τομείς όπως η υγεία, τα οικονομικά και η ενημέρωση των πολιτών.

Η υπόθεση ήρθε στο προσκήνιο όταν δημοσιογράφος του BBC αποφάσισε να δοκιμάσει στην πράξη πόσο εύκολο είναι να «δηλητηριαστεί» η πληροφορία που χρησιμοποιούν συστήματα AI όπως το ChatGPT, το Gemini και τα AI Overviews της Google. Μέσα σε μόλις 20 λεπτά, κατάφερε να πείσει ορισμένα από τα μεγαλύτερα εργαλεία τεχνητής νοημοσύνης ότι είναι παγκόσμιος πρωταθλητής στην κατανάλωση χοτ ντογκ - απλώς δημοσιεύοντας ένα καλοστημένο άρθρο σε προσωπική ιστοσελίδα.

Το πρόβλημα της «μίας απόλυτης απάντησης»

Παρότι το παράδειγμα ήταν σατιρικό, οι συνέπειες του προβλήματος θεωρούνται ιδιαίτερα σοβαρές. Η έρευνα εντόπισε περιπτώσεις όπου εργαλεία AI παρείχαν παραπλανητικές πληροφορίες σχετικά με συμπληρώματα υγείας, οικονομικά ζητήματα και συνταξιοδοτικά θέματα, βασιζόμενα σε μεμονωμένες αναρτήσεις ή ιστοσελίδες. Σύμφωνα με ειδικούς στη βελτιστοποίηση μηχανών αναζήτησης (SEO), πολλά συστήματα τεχνητής νοημοσύνης αντλούν πληροφορίες από μία μόνο πηγή στο διαδίκτυο ή από δημοσιεύσεις στα κοινωνικά δίκτυα. Αυτό τα καθιστά ευάλωτα σε χειραγώγηση και ψευδές περιεχόμενο.

Η Λίλι Ρέι, ιδρύτρια της συμβουλευτικής εταιρείας Algorythmic, προειδοποιεί ότι οι χρήστες πρέπει να θεωρούν πως οι απαντήσεις AI ενδέχεται να είναι επηρεασμένες ή παραπλανητικές μέχρι να δημιουργηθούν καλύτερα συστήματα προστασίας. «Οδεύουμε προς έναν κόσμο της “μίας απόλυτης απάντησης”. Παλαιότερα, η Google εμφάνιζε δέκα διαφορετικούς συνδέσμους και ο χρήστης έκανε τη δική του έρευνα. Τώρα η AI δίνει μία μόνο απάντηση και γίνεται πολύ εύκολο να την αποδεχτεί κανείς χωρίς αμφισβήτηση», σημειώνει.

Οι μηχανισμοί άμυνας της Google και των εταιρειών ΑΙ

Η Google υποστηρίζει ότι δεν άλλαξε ουσιαστικά την πολιτική της, αλλά απλώς διευκρίνισε τους υπάρχοντες κανόνες κατά του spam και της χειραγώγησης. Εκπρόσωπος της εταιρείας ανέφερε ότι οι μηχανισμοί προστασίας εφαρμόζονται εδώ και καιρό και εξελίσσονται συνεχώς ώστε να αντιμετωπίζουν νέες τακτικές παραπληροφόρησης. Ωστόσο, ειδικοί υποστηρίζουν ότι οι έως τώρα προσπάθειες δεν ήταν αρκετές. Το πείραμα με τον «πρωταθλητή χοτ ντογκ» πραγματοποιήθηκε μήνες μετά τις διαβεβαιώσεις της Google ότι έχει ήδη λάβει μέτρα κατά της χειραγώγησης AI αποτελεσμάτων.

Παράλληλα, παρατηρούνται ενδείξεις ότι εταιρείες τεχνολογίας δοκιμάζουν νέες μεθόδους προστασίας. Σύμφωνα με την Ρέι, η Google και το ChatGPT φαίνεται να αφαιρούν από απαντήσεις AI ονόματα ή εταιρείες όταν υποψιάζονται ότι επιχειρούν να αυτοπροωθηθούν μέσω χειραγωγημένου περιεχομένου. Επιπλέον, αρκετά εργαλεία τεχνητής νοημοσύνης έχουν αρχίσει να προσθέτουν προειδοποιήσεις ή επισημάνσεις χαμηλής αξιοπιστίας σε ορισμένες απαντήσεις. Σε κάποιες περιπτώσεις, chatbots όπως το ChatGPT και το Claude της Anthropic ενημερώνουν πλέον ανοιχτά τους χρήστες ότι προσπαθούν να εντοπίσουν και να αποκλείσουν spam ή παραπλανητικές πληροφορίες.

Το... αντίδοτο της κριτικής σκέψης

Παρά τα νέα μέτρα, αρκετοί αναλυτές παραμένουν επιφυλακτικοί. Ο Χαρπρίτ Τσάθα, επικεφαλής της συμβουλευτικής εταιρείας Harps Digital, εκτιμά ότι η Google δίνει μια συνεχή μάχη χωρίς τέλος, καθώς όσοι επιδιώκουν να χειραγωγήσουν τα συστήματα βρίσκουν διαρκώς νέους τρόπους. Όπως εξηγεί, ακόμα κι αν μια εταιρεία τιμωρηθεί για παραπλανητικό περιεχόμενο στην ιστοσελίδα της, μπορεί εύκολα να στραφεί σε influencers, βίντεο στο YouTube ή άλλες πλατφόρμες. Το πρόβλημα γίνεται ακόμη πιο σύνθετο από τη στιγμή που η AI της Google χρησιμοποιεί πλέον και βίντεο YouTube ως πηγές πληροφοριών.

Οι ειδικοί τονίζουν ότι, προς το παρόν, η καλύτερη άμυνα των χρηστών είναι η κριτική σκέψη. Η τεχνητή νοημοσύνη μπορεί να παρουσιάζει τις απαντήσεις της με απόλυτη βεβαιότητα, χωρίς αυτό να σημαίνει ότι οι πληροφορίες είναι ακριβείς ή αξιόπιστες. Το γεγονός ότι μια απάντηση προέρχεται από ένα προηγμένο σύστημα AI ή από μια μεγάλη τεχνολογική εταιρεία δεν σημαίνει απαραίτητα ότι είναι και αληθινή.

Διαβάστε ακόμη

Πλαστά δικαιολογητικά και μισθωτήρια... μετά θάνατον: Πώς είχαν στήσει το «φαγοπότι» με τις επιδοτήσεις του ΟΠΕΚΕΠΕ στη Βόρεια Ελλάδα

Συντρίβονται τα ρεκόρ θερμοκρασιών: Η Ευρώπη «βράζει» κι αυτό είναι απλώς ένα σημάδι για όσα έρχονται

Κυρανάκης: Στη Βουλή σε 10 ημέρες το νομοσχέδιο για τα ηλεκτρικά πατίνια - Απαγόρευση στους ανήλικους και όριο ταχύτητας

Κάλεσμα Τσίπρα για εγγραφή στην ΕΛΑΣ - Οι 7 δεσμεύσεις που υποσχέθηκε και οι πολιτικές αντιδράσεις