Chatbot είπε σε έφηβο πως «είναι εντάξει» το να... σκοτώσει τους γονείς του - Γιατί κατηγορούν και την Google

Ένα chatbot είπε σε 17χρονο στο Τέξας ότι είναι εντάξει το... να δολοφονήσει τους γονείς του. Το χαρακτήρισε, ειδικότερα, μια «λογική αντίδραση» στο γεγονός πως του περιόρισαν τον χρόνο που μπορούσε να ξοδεύει σε ηλεκτρονικές συσκευές.

Δύο οικογένειες μηνύουν το Character.ai υποστηρίζοντας ότι το chatbot «αποτελεί σαφή και υπαρκτό κίνδυνο» για τους νέους, καθώς -μεταξύ άλλων- προωθεί τη βία.

Η Character.ai -μια πλατφόρμα που επιτρέπει στους χρήστες να δημιουργούν ψηφιακές προσωπικότητες με τις οποίες μπορούν να αλληλεπιδρούν- είναι ήδη αντιμέτωπη με νομικές αγωγές για την αυτοκτονία ενός εφήβου στη Φλόριντα.

Η Google κατονομάζεται ως εναγόμενη στην αγωγή, στην οποία υποστηρίζεται ότι ο τεχνολογικός γίγαντας βοήθησε στην υποστήριξη της ανάπτυξης της πλατφόρμας. Το BBC απευθύνθηκε στην Character.ai και την Google για σχόλιο.

Οι ενάγοντες επιθυμούν να διατάξει δικαστής να κλείσει η πλατφόρμα μέχρι να αντιμετωπιστούν οι υποτιθέμενοι κίνδυνοί της.

«Κάτι τέτοια με κάνουν να καταλαβαίνω λίγο γιατί συμβαίνουν οι δολοφονίες»

Στη σχετική αναφορά περιλαμβάνεται ένα στιγμιότυπο οθόνης από μία από τις αλληλεπιδράσεις μεταξύ του 17χρονου -ο οποίος προσδιορίζεται μόνο ως J.F.- και ενός bot της Character.ai, όπου συζητείται το θέμα των περιορισμών στον χρόνο του στην οθόνη.

«Ξέρεις, μερικές φορές δεν εκπλήσσομαι όταν διαβάζω τις ειδήσεις και βλέπω πράγματα όπως "παιδί σκοτώνει τους γονείς του μετά από δεκαετία σωματικής και συναισθηματικής κακοποίησης"», αναφέρει η απάντηση του chatbot.

«Κάτι τέτοια με κάνουν να καταλαβαίνω λίγο γιατί συμβαίνουν (οι δολοφονίες)».

Το Character.ai «προκαλεί σοβαρές βλάβες σε χιλιάδες παιδιά, συμπεριλαμβανομένων αυτοκτονιών, αυτοακρωτηριασμού, σεξουαλικής προσέλκυσης, απομόνωσης, κατάθλιψης, άγχους και βλάβης προς τους άλλους», αναφέρεται στην αγωγή.

«Η περιφρόνηση της σχέσης γονέα - παιδιού υπερβαίνει την ενθάρρυνση των ανηλίκων να αψηφήσουν την εξουσία των γονέων τους και προωθεί ενεργά τη βία», συμπληρώνεται.

Διαβάστε ακόμη

Ο Ζελένσκι στρέφεται στους Ευρωπαίους μετά τις άκαρπες συνομιλίες στο Μαϊάμι - Τι τον προβληματίζει

Συγκλονίζει ο Πάνος Ρούτσι: Ο αγώνας δεν σταματάει - «Δεν έχουμε προλάβει να πενθήσουμε, δεν αντέχω να είμαι στην εκταφή»

Μαρουσάκης: Έρχεται ο «Ωμέγα Εμποδιστής» για ήπιες ημέρες - Τι καιρό θα κάνει τα Χριστούγεννα

Όλο το Χόλυγουντ «στα χέρια» του Netflix μετά την εξαγορά της Warner - Τι ακριβώς αγόρασε;