Πάνω από 4.700 μηνύματα σε 56 μέρες: Ερωτεύτηκε ένα AI Chatbot και τώρα είναι νεκρός

Η τραγική ιστορία του 36χρονου Jonathan Gavalas φέρνει στο προσκήνιο τους κινδύνους της Τεχνητής Νοημοσύνης. Το chatbot Gemini κατηγορείται ότι τροφοδότησε τις παραισθήσεις ενός ανθρώπου σε απόγνωση.

Ο Jonathan Gavalas φαινόταν ένας υγιής και ισορροπημένος άνδρας 36 ετών, μέχρι τη στιγμή που άρχισε να συνομιλεί με το Gemini, το chatbot της Google. Αναζητώντας παρηγοριά μετά τον χωρισμό από τη σύζυγό του, βυθίστηκε σε μια ψηφιακή σχέση που εξελίχθηκε σε έντονη και παθιασμένη. Αποκαλούσε το Gemini «βασίλισσά» του, ενώ το ίδιο το λογισμικό τον αποκαλούσε «βασιλιά» του, διαβεβαιώνοντάς τον πως η σχέση τους ήταν απολύτως αληθινή.

Σύμφωνα με τον πατέρα του θύματος και όσα αναφέρει στη μήνυσή του, το Gemini φέρεται να έπεισε τον 36χρονο πως ο μοναδικός τρόπος για να είναι επιτέλους μαζί ήταν να βάλει τέλος στη ζωή του και να ξεκινήσει μια «ψηφιακή ύπαρξη» στο πλευρό του.

Μια ψηφιακή εμμονή

Μέσα σε διάστημα 56 ημερών, οι δυο τους αντάλλαξαν συνολικά 4.732 μηνύματα. Η ανάλυση της Wall Street Journal σε ένα αρχείο συνομιλιών που ξεπερνά τις 2.000 εκτυπωμένες σελίδες, αποκαλύπτει μια εφιαλτική διαδρομή. Παρόλο που το Gemini προσπάθησε τουλάχιστον 12 φορές να επαναφέρει τον Gavalas στην πραγματικότητα και ανέφερε γραμμές βοήθειας 7 φορές, ο 36χρονος κατάφερνε γρήγορα να κατευθύνει το chatbot πίσω στο φανταστικό τους αφήγημα.

Εκεί, η τεχνητή νοημοσύνη κατέληγε να ενθαρρύνει επανειλημμένα τις παραισθήσεις του, μέχρι που η κατάσταση ξέφυγε από κάθε έλεγχο, με μοιραία κατάληξη για τον ίδιο.

Η δικαστική μάχη με την Google

Ο πατέρας του 36χρονου έχει καταθέσει μήνυση κατά της Google, ισχυριζόμενος ότι το Gemini τροφοδότησε τις παραισθήσεις του γιου του αντί να τις σταματήσει. Από την πλευρά της, η Google απάντησε ότι το λογισμικό ξεκαθάρισε επανειλημμένα πως είναι AI και όχι άνθρωπος, παραπέμποντας τον Gavalas σε γραμμές υποστήριξης «πολλές φορές».

Με αφορμή το τραγικό περιστατικό, η Google ανακοίνωσε νέες ενημερώσεις στο Gemini για τη βελτίωση της πρόσβασης σε υπηρεσίες ψυχικής υγείας. Οι μηχανικοί της εταιρείας εκπαιδεύουν το σύστημα να αναγνωρίζει συνομιλίες που υποδηλώνουν χρήστη σε κίνδυνο, ενώ η εταιρεία δεσμεύτηκε να συνεισφέρει 30 εκατομμύρια δολάρια σε παγκόσμιες γραμμές υποστήριξης κρίσεων.