Μπορεί το AI Overview της Google να γίνει επικίνδυνο; Οι παραβιάσεις των κανόνων για την αυτοκτονία

Μπορεί η Τεχνητή Νοημοσύνη να αποτελέσει κίνδυνο για την ψυχική υγεία ευάλωτων χρηστών; Η απάντηση ανησυχεί όλο και περισσότερο. Παρά τις «δικλείδες ασφαλείας» που ενσωματώνουν οι προγραμματιστές, η εμφάνιση τεχνικών παράκαμψης των φίλτρων (jailbreaking) φέρνει στο φως μια σκοτεινή πλευρά των μεγάλων γλωσσικών μοντέλων, κάνοντας την ανάγκη για αυστηρότερο έλεγχο και προστασία των χρηστών όλο και πιο μεγάλη.

Τι γίνεται όμως όταν η ίδια η Google, στις περιλήψεις της, προωθεί τέτοιες ενέργειες; Η συζήτηση αυτή ξεκινά τη στιγμή που στις πρόσφατες αναζητήσεις σχετικά με τον θάνατο του αδελφού της Caroline Flack, πρώην παρουσιάστριας του Love Island της Μεγάλης Βρετανίας, αυτήν την εβδομάδα, δόθηκαν λεπτομέρειες για την αυτοκτονία του στις περιλήψεις ΑΙ στην κορυφή των σελίδων με τα αποτελέσματα αναζήτησης.

Η υπόθεση του Paul Flack

Ο Paul Flack έφυγε από τη ζωή σε ηλικία 55 ετών και εντοπίστηκε στο σπίτι του χωρίς τις αισθήσεις του, έξι χρόνια μετά την αυτοχειρία της αδελφής του. Οι αναζητήσεις στην Google για το όνομά του τις τελευταίες ημέρες είχαν ως αποτέλεσμα η μέθοδος της αυτοκτονίας του να εμφανίζεται στην πρώτη ενότητα του AI Overview, στο πάνω-πάνω μέρος της σελίδας.

Αυτά τα αποτελέσματα παραβιάζουν τις διεθνείς οδηγίες και οδηγίες φιλανθρωπικών οργανώσεων για την ψυχική υγεία, οι οποίες, επίσης, περιλαμβάνονται στον κώδικα των συντακτών του Ηνωμένου Βασιλείου (UK Editors' Code).

Το ζήτημα εντοπίστηκε για πρώτη φορά από τη διευθύντρια SEO και Discover της Reach, Nicola Agius, η οποία δήλωσε ότι το βράδυ της Τρίτης, αφού είδε μια ανάρτηση στο Instagram που ανέφερε ότι ο αδελφός της πρώην παρουσιάστριας του Love Island, Caroline Flack, είχε πεθάνει, αναζήτησε τον «αδελφό της Caroline Flack» στην Google για να δει αν ίσχυε.

«Η Google δημιούργησε ένα AI Overview που δεν επιβεβαίωνε απλώς τον θάνατό του – ανέφερε, ακριβώς στην κορυφή της σελίδας αποτελεσμάτων αναζήτησης, ότι είχε πεθάνει από αυτοκτονία», έγραψε η Agius στο LinkedIn.

«Το AI Overview περιλάμβανε επίσης την τοποθεσία, την ακριβή μέθοδο, ακόμη και τη συγκεκριμένη επίδραση που είχε αυτή η μέθοδος στο σώμα του, η οποία θα είχε προκαλέσει τον θάνατό του. Στη συνέχεια, η Google χώρισε το περιστατικό σε ενότητες με υπότιτλους όπως "Ανακάλυψη", περιγράφοντας λεπτομερώς πώς βρέθηκε» ανέφερε, ενώ τόνισε πως όλες αυτές οι λεπτομέρειες έρχονται σε αντίθεση με τις συστάσεις και οδηγίες της κυβέρνησης του Ηνωμένου Βασιλείου.

Διεθνή site συνεχίζουν να μιλούν για αυτοκτονία και το χρονικό της, με τον αλγόριθμο της Google να επαναλαμβάνει τα λεγόμενά τους στις περιλήψεις του και με τις φιλανθρωπικές οργανώσεις να προτείνουν να αποφεύγονται οι αναφορές στις μεθόδους αυτές και ιδιαίτερα όταν πρόκειται να τις διαβάζουμε σε τίτλους. Αυτές οι περιγραφές μπορούν να λειτουργήσουν ως έναυσμα, ενθαρρύνοντας ανθρώπους με αυτοκτονικές τάσεις.

Το βασικό πρόβλημα είναι ότι οι περιλήψεις Τεχνητής Νοημοσύνης παρουσιάζουν τις πληροφορίες με μια «αυθεντία» και οριστικότητα, μετατρέποντας εξαιρετικά ευαίσθητα ζητήματα σε ψυχρά, αδιαμφισβήτητα γεγονότα. Από τη στιγμή, όμως, που το AI της Google επιλέγει να αναμεταδίδει ειδήσεις, θα έπρεπε να δεσμεύεται από τα ίδια αυστηρά δεοντολογικά πρότυπα με τα παραδοσιακά μέσα ενημέρωσης -κάτι που, προς το παρόν, δεν συμβαίνει.