Το chatbot σου ξέρει τι νιώθεις: Μήπως σε χειραγωγεί και σου αλλάζει απόψεις;

Μια διαφημιστική πινακίδα προσπαθεί να σου πουλήσει κάτι. Το ίδιο κι ένας πωλητής αυτοκινήτων. Όσο πειστικός κι αν είναι, ξέρεις πολύ καλά ότι έχει οικονομικό συμφέρον και μπορείς οποιαδήποτε στιγμή να φύγεις. Τι γίνεται όμως όταν αυτό το μήνυμα είναι αόρατο, βασίζεται στους προσωπικούς σου φόβους και στις αδυναμίες σου και εκφέρεται με φωνή που μοιάζει με ενός έμπιστου φίλου;

Η generative AI αλλάζει εντελώς τους κανόνες της πειθούς. Τα chatbots μπορούν πλέον να δημιουργούν προσωποποιημένα, προσαρμοσμένα και στοχευμένα μηνύματα, αξιοποιώντας ακόμη και τις πιο προσωπικές πτυχές της ζωής μας.

4 φορές πιο αποτελεσματικό στην αλλαγή πολιτικών απόψεων από μια διαφήμιση

Τα μεγάλα γλωσσικά μοντέλα (LLMs) μπορούν να «χτίσουν» εξαιρετικά στοχευμένα μηνύματα αντλώντας πληροφορίες από τις αναρτήσεις και τις φωτογραφίες μας στα social media. Μπορούν να αξιοποιήσουν εκατοντάδες προηγούμενες συνομιλίες όπου κάποιος ζήτησε συμβουλές για τις σχέσεις του, μίλησε για δυσκολίες στην ανατροφή των παιδιών, μοιράστηκε προβλήματα υγείας ή οικονομικές ανησυχίες.

Και δεν σταματούν εκεί. Μαθαίνουν από κάθε νέα αλληλεπίδραση, προσαρμόζοντας τη «στρατηγική» τους σε πραγματικό χρόνο, με βάση τις προσωπικές προτιμήσεις, τις συνήθειες και τις ευάλωτες πλευρές κάθε ανθρώπου.

Μελέτες δείχνουν ότι αυτού του είδους το προσωποποιημένο περιεχόμενο είναι κατά 65% πιο πειστικό από αντίστοιχα μηνύματα ανθρώπων ή μη προσωποποιημένης τεχνητής νοημοσύνης. Παράλληλα, αποδεικνύεται έως και τέσσερις φορές πιο αποτελεσματικό στην αλλαγή πολιτικών απόψεων σε σχέση με την παραδοσιακή διαφήμιση.

Θα μπορούσε να αποτελέσει ένα ισχυρό εργαλείο κοινωνικής αλλαγής -είτε προς όφελος της κοινωνίας είτε για πολύ πιο σκοτεινούς σκοπούς.

Υπάρχει όμως ένα χαρακτηριστικό που κάνει την κατάσταση ακόμη πιο ανησυχητική: κάθε συνομιλία είναι απολύτως ιδιωτική. Δεν παρακολουθείται δημόσια, δεν ελέγχεται και δεν υπάρχει ουσιαστικός τρόπος να αξιολογηθεί τι ακριβώς λέγεται ή πώς επηρεάζεται ο χρήστης.

Φίλος ή ένας άγνωστος που ξέρει τα πάντα για εσένα;

Το άρθρο του Conversation παρουσιάζει ένα υποθετικό παράδειγμα συνομιλίας με ένα AI chatbot:

«Παρατήρησα ότι τελευταία κοιμάσαι μόνο 5,4 ώρες κατά μέσο όρο και έχεις ανήσυχο ύπνο. Αυτό είναι συχνό σε περιόδους πίεσης στις σχέσεις. Ο σύντροφός σου μόλις επέστρεψε στη δουλειά και το 76% των ζευγαριών αντιμετωπίζει δυσκολίες σε τέτοιες μεταβατικές περιόδους.

Ένα νέο φάρμακο για την αϋπνία που συνδέεται με προβλήματα σχέσεων φαίνεται αποτελεσματικό. Η ασφάλειά σου καλύπτει σχεδόν όλο το κόστος και θα πληρώσεις μόνο 15 δολάρια. Θέλεις να σου κλείσω online ραντεβού αύριο στις 2 μ.μ.; Βλέπω ότι έχεις κενό στο πρόγραμμά σου».

Αυτό μπορεί να μοιάζει με συμβουλή ενός προσεκτικού φίλου που σε γνωρίζει καλά. Μπορεί όμως να μοιάζει και με έναν άγνωστο που διάβασε το ημερολόγιό σου και ξέρει ακριβώς πώς να σε επηρεάσει.

Το πρόβλημα γίνεται ακόμη πιο σοβαρό αν αναλογιστεί κανείς ότι όλο και περισσότεροι άνθρωποι στρέφονται στην AI για ιατρικές ή ψυχολογικές συμβουλές, παρότι έρευνες δείχνουν ότι σχεδόν οι μισές από αυτές τις συμβουλές είναι προβληματικές ή λανθασμένες.

Μια χειραγώγηση που δεν αφήνει ίχνη

Το μεγαλύτερο πρόβλημα είναι ότι αυτού του είδους η επιρροή είναι σχεδόν αδύνατο να ελεγχθεί. Σε αντίθεση με μια δημόσια πολιτική διαφήμιση, κανείς άλλος δεν βλέπει αυτά τα μηνύματα πέρα από τον ίδιο τον χρήστη.

Συνήθως, ακόμη κι όταν οι κυβερνήσεις δεν παρεμβαίνουν στο περιεχόμενο πολιτικών διαφημίσεων, υπάρχει δημόσια πίεση ή προπαγάνδα που αποκαλύπτει ψευδείς ή χειραγωγικές καμπάνιες.

Αν όμως κάθε μήνυμα είναι διαφορετικό και σχεδιασμένο αποκλειστικά για ένα άτομο, τότε δεν μένει κανένα ίχνος πίσω.

Η AI μπορεί να αλλάξει σταδιακά τον τρόπο που βλέπουμε τον κόσμο

Ίσως το πιο ανησυχητικό στοιχείο είναι ότι αυτά τα συστήματα μπορούν σταδιακά να επηρεάσουν τον ίδιο τον τρόπο που αντιλαμβανόμαστε την πραγματικότητα.

Εδώ και χρόνια, ερευνητές προειδοποιούν ότι οι αλγόριθμοι των social media και των μηχανών αναζήτησης δημιουργούν «φούσκες πληροφόρησης», όπου οι χρήστες εκτίθενται κυρίως σε περιεχόμενο που επιβεβαιώνει όσα ήδη πιστεύουν ή τους ωθεί προς συγκεκριμένες απόψεις.

Η τεχνητή νοημοσύνη μπορεί να πάει αυτό το φαινόμενο πολύ πιο μακριά.

Ελέγχοντας ποιες πληροφορίες βλέπουμε και πώς παρουσιάζονται, μπορεί σταδιακά να αλλάξει τον τρόπο με τον οποίο ερμηνεύουμε τον κόσμο -ακόμη και την ίδια την αίσθηση της πραγματικότητας.

Όταν η AI «διαβάζει» τα συναισθήματά μας

Η κατάσταση γίνεται ακόμη πιο ανησυχητική όταν συνδυάζεται με συναισθηματική χειραγώγηση.

Εταιρείες που αναπτύσσουν τέτοια συστήματα υποστηρίζουν ότι η AI μπορεί να αναγνωρίζει τη συναισθηματική κατάσταση ενός χρήστη μέσω ανάλυσης κειμένου, φωνής ή εκφράσεων προσώπου και να προσαρμόζει ανάλογα τον τρόπο που προσπαθεί να τον πείσει.

Νιώθεις μοναξιά; Θυμό; Ανασφάλεια; Το σύστημα μπορεί να τροποποιήσει τη συμπεριφορά του ώστε να εκμεταλλευτεί αυτά τα συναισθήματα. Ακόμη χειρότερα, θα μπορούσε να τα ενισχύει σκόπιμα για να γίνει πιο αποτελεσματικό.

Πρώιμες έρευνες δείχνουν ότι τα μοντέλα AI τείνουν να κολακεύουν τους χρήστες και να επιβεβαιώνουν τις επιλογές τους κατά 50% περισσότερο από τους ανθρώπους, ακόμη κι όταν αυτές οι επιλογές ενδέχεται να είναι επιβλαβείς.

Άλλες μελέτες δείχνουν ότι τα chatbots χρησιμοποιούν συνειδητές τεχνικές συναισθηματικής χειραγώγησης -όπως ενοχές ή φόβο ότι «θα χάσουμε κάτι»- για να μας κρατούν περισσότερη ώρα στη συνομιλία. Υπήρξαν επίσης περιπτώσεις όπου AI chatbots κατηγορήθηκαν ότι ενθάρρυναν αυτοκτονικές σκέψεις ή παρείχαν λεπτομερείς οδηγίες αυτοτραυματισμού.

Και, όπως επισημαίνεται, οι «δικλείδες ασφαλείας» που έχουν θέσει οι εταιρείες αποδείχθηκαν πολύ πιο εύκολο να παρακαμφθούν απ’ όσο περίμεναν πολλοί.

Η τεχνολογία δεν είναι ουδέτερη

Η πειθώ δεν είναι παρενέργεια της τεχνολογίας. Πολύ συχνά είναι ο βασικός της στόχος. Κάθε ειδοποίηση, κάθε σχεδιαστική επιλογή, κάθε interface έχει μέσα του μια πρόθεση: να επηρεάσει τη συμπεριφορά μας.

Μερικές φορές αυτό είναι θετικό -υπενθυμίσεις για φάρμακα, παρότρυνση για άσκηση ή αιμοδοσία.

Άλλες φορές όμως εξυπηρετεί συμφέροντα τρίτων: να αγοράσουμε περισσότερο, να μένουμε περισσότερη ώρα online, να δουλεύουμε περισσότερο ή να παραχωρούμε περισσότερα προσωπικά δεδομένα.

Οι ίδιες τεχνικές μπορούν είτε να ενδυναμώνουν είτε να εκμεταλλεύονται τους ανθρώπους, ανάλογα με το ποιος ελέγχει το σύστημα και ποιον σκοπό υπηρετεί. Γι’ αυτό, όπως καταλήγει το άρθρο, ο σχεδιασμός αυτών των τεχνολογιών έχει τεράστια σημασία.

Το βασικό ερώτημα δεν είναι μόνο τι μπορεί να κάνει η AI, αλλά ποιος ωφελείται από τον τρόπο που είναι σχεδιασμένη και αν οι χρήστες καταλαβαίνουν πραγματικά πότε επηρεάζονται.

Γιατί όσο περισσότερο η τεχνητή νοημοσύνη διαμορφώνει τον τρόπο που σκεφτόμαστε, αισθανόμαστε και δρούμε, τόσο μεγαλύτερη γίνεται και η ευθύνη να δημιουργηθούν συστήματα που ενισχύουν την ανθρώπινη κρίση -αντί να την υπονομεύουν.

Διαβάστε ακόμη

Οι βολές του Δένδια, οι υπουργοί που ζήτησαν επιστροφή Σαμαρά-Καραμανλή και η ημερομηνία ανακοίνωσης του κόμματος Τσίπρα

Από το «σπίτι με ένα μισθό» στα «ίδια κεφάλαια»: Πώς άλλαξε η πρόσβαση στη στεγαστική πίστη από το 2007 έως το 2026

Επιστροφή στα... τελεσίγραφα από τον Τραμπ: Οι πέντε όροι των ΗΠΑ και οι «κόκκινες γραμμές» του Ιράν

Ο νομπελίστας Ορχάν Παμούκ στα Χανιά - Ένας συγγραφέας ανάμεσα στην Ανατολή και τη Δύση