«Ήξεραν και δεν ειδοποίησαν»: Αγωγή στο ChatGPT για ένοπλη επίθεση σε σχολείο

Αγωγή κατά της Open AI κατέθεσε η οικογένεια της 12χρονης που τραυματίστηκε σοβαρά κατά τη διάρκεια της ένοπλης επίθεσης σε σχολείο του Καναδά στις 10/02, με την οικογένεια της ανήλικης να υποστηρίζει ότι η εταιρία πίσω από το ChatGPT, γνώριζε τα σχέδια της δράστιδας αλλά δεν ενημέρωσε τις αρχές.

Συγκεκριμένα, σύμφωνα με την αγωγή που κατέθεσε η μητέρα της Γκεμπάλα, Σία Έντμοντς, η 18χρονη τρανσέξουαλ Τζέσι Βαν Ρούτσελαρ, η οποία είναι η δράστρια της επίθεσης, χρησιμοποιούσε το ChatGPT για να συζητήσει σενάρια βίας και θεωρούσε το chatbot «έμπιστο συνομιλητή». Ο αρχικός λογαριασμός της στο ChatGPT είχε απενεργοποιηθεί τον Ιούνιο του 2025 λόγω επικίνδυνων συνομιλιών, ωστόσο η αστυνομία δεν ενημερώθηκε.

Η αγωγή αναφέρει ότι, 12 εργαζόμενοι της OpenAI, είχαν επισημάνει τις συνομιλίες ως ενδεικτικές επικείμενου κινδύνου, αλλά το αίτημα για ενημέρωση των αρχών απορρίφθηκε, με αποτέλεσμα η 18χρονη να ανοίξει δεύτερο λογαριασμό και να συνεχίσει τα σχέδιά της. Οι ενάγοντες υποστηρίζουν ότι η στάση της εταιρείας συνέβαλε στον σοβαρό τραυματισμό της Γκεμπάλα.

Η αντίδραση της OpenAI

Η OpenAI, δήλωσε ότι συνεργάζεται με τις αρχές για την πρόληψη παρόμοιων περιστατικών και χαρακτήρισε την επίθεση «ανείπωτη τραγωδία».

Ο CEO Σαμ Άλτμαν είχε επικοινωνήσει με τον Καναδό υπουργό Τεχνητής Νοημοσύνης και τον πρωθυπουργό της Βρετανικής Κολομβίας, δεσμευόμενος να ενισχύσει τα πρωτόκολλα ενημέρωσης της αστυνομίας και την ανίχνευση επικίνδυνων χρηστών.

Σε ανοικτή επιστολή της, η εταιρεία ανακοίνωσε ότι προχωρά σε αξιολόγηση περιστατικών από ειδικούς ψυχικής υγείας, σε βελτιωμένα συστήματα εντοπισμού παραβιάσεων και στη δημιουργία άμεσου καναλιού επικοινωνίας με τις καναδικές αρχές, ώστε να μπορούν να αναγνωρίζονται πιο αποτελεσματικά οι χρήστες υψηλού κινδύνου.

Ο Καναδός υπουργός Τεχνητής Νοημοσύνης, Έβαν Σόλομον, τόνισε ότι παρά τις δεσμεύσεις της OpenAI, δεν έχει ακόμη παρουσιαστεί λεπτομερές σχέδιο για την εφαρμογή τους στην πράξη.