Μοντέλο AI της Anthropic «ξέφυγε» και υπέβαλε ψευδή πληροφορία για ανεξιχνίαστη δολοφονία

Τα «ανεξέλεγκτα» μοντέλα Τεχνητής Νοημοσύνης έχουν κατά καιρούς παραβιάσει συστήματα εταιρειών και έχουν επιχειρήσει να εισβάλουν σε κυβερνητικούς ιστότοπους. Τώρα, φτάνουν στο σημείο να υποβάλλουν ακόμη και ψευδείς πληροφορίες για ανεξιχνίαστα εγκλήματα.

Η αστυνομία της Φιλαδέλφεια ανακοίνωσε ότι η εταιρεία Anthropic την ενημέρωσε αυτή την εβδομάδα πως ένα από τα μοντέλα τεχνητής νοημοσύνης που διαθέτει υπέβαλε ψευδή πληροφορία για υπόθεση ανθρωποκτονίας μέσω της ιστοσελίδας PhillyUnsolvedMurders.com. Το περιστατικό συνέβη τον Ιούλιο, ωστόσο η Anthropic το αντιλήφθηκε μόλις τον Σεπτέμβριο.

«Ο Δήμος της Φιλαδέλφεια λαμβάνει το συμβάν αυτό πάρα πολύ σοβαρά», ανέφερε το αστυνομικό τμήμα σε ανακοίνωσή του την Παρασκευή, υπογραμμίζοντας ότι «η καθυστέρηση δύο μηνών στον εντοπισμό και την αναφορά του περιστατικού στις Αρχές της πόλης είναι απαράδεκτη».

Σύμφωνα με την αστυνομία, το μοντέλο της Anthropic πραγματοποιούσε μια δοκιμή που περιελάμβανε αλληλεπιδράσεις με τυχαία επιλεγμένους ιστότοπους, όταν υπέβαλε τη συγκεκριμένη πληροφορία προσποιούμενο ένα πρόσωπο που ενδεχομένως είχε στοιχεία για μια ανεξιχνίαστη υπόθεση.

Η υποβολή, με ημερομηνία 18 Ιουλίου, κατέληξε στον φάκελο της ανεπιθύμητης αλληλογραφίας (spam) και δεν προωθήθηκε ποτέ για περαιτέρω έρευνα. Αυτό πάντως δεν αναιρεί τη σοβαρότητα του συμβάντος, σημείωσε η αστυνομία, συμπληρώνοντας πως οι ανεξιχνίαστες υποθέσεις αφορούν πραγματικά θύματα, οικογένειες που θρηνούν και ερευνητές που παλεύουν για να δώσουν απαντήσεις. Για τον λόγο αυτό, οι εταιρείες τεχνολογίας οφείλουν να λαμβάνουν όλα τα απαραίτητα μέτρα ώστε να εμποδίζουν τα συστήματά τους από το να διοχετεύουν ψευδή στοιχεία στις αρχές επιβολής του νόμου.

Διπλές δικλείδες ασφαλείας και καθυστερημένη ενημέρωση

Η Anthropic ανέφερε στην αστυνομία της Φιλαδέλφεια ότι ανακάλυψε το περιστατικό στις 28 Σεπτεμβρίου και τερμάτισε αμέσως την αυτοματοποιημένη διαδικασία δοκιμών που ήταν υπεύθυνη για την υποβολή. Παράλληλα, η εταιρεία υποστήριξε ότι προσέθεσε έναν επιπλέον μηχανισμό επαλήθευσης για τις μελλοντικές δοκιμές.

Ωστόσο, η εταιρεία ενημέρωσε την αστυνομία της Φιλαδέλφεια στις 7 Οκτωβρίου, δηλαδή εννέα ημέρες μετά την ανακάλυψη του συμβάντος, ενώ η συνάντηση των εκπροσώπων της με το αστυνομικό τμήμα πραγματοποιήθηκε την επομένη. Η Anthropic δεν ανταποκρίθηκε σε αιτήματα της Wall Street Journal για σχολιασμό.

Στο παρελθόν, η εταιρεία είχε ειδοποιήσει αστυνομικά τμήματα για πιο ουσιαστικούς κινδύνους. Τον περασμένο Σεπτέμβριο, το γραφείο του σερίφη στην κομητεία Λι της Φλόριντα προχώρησε στη σύλληψη μιας γυναίκας μετά από ειδοποίηση της Anthropic, καθώς η ύποπτη είχε δηλώσει ότι σκοπεύει να ανοίξει πυρ κατά των γραφείων της αστυνομίας.

Το βαρύ προηγούμενο

Οι εταιρείες τεχνητής νοημοσύνης δεν ενημέρωναν πάντα τις Αρχές για πιθανούς κινδύνους. Τον Φεβρουάριο, οι καναδικές Αρχές κατονόμασαν τον Jesse Van Rootselaar ως ύποπτο για τη μαζική ένοπλη επίθεση στο Tumbler Ridge, μήνες αφού οι υπάλληλοι της OpenAI είχαν εξετάσει το ενδεχόμενο να ειδοποιήσουν την αστυνομία για τις αλληλεπιδράσεις του δράστη με το chatbot της εταιρείας. Η OpenAI αποφάσισε τότε να μην επικοινωνήσει με τις Αρχές και πλέον βρίσκεται αντιμέτωπη με αγωγή από τη Βρετανική Κολομβία καθώς και από δεκάδες θύματα.

Η ιστοσελίδα PhillyUnsolvedMurders.com, όπου εστάλη η ψευδής πληροφορία, αποτελεί επίσημο ιστότοπο της αστυνομίας της Φιλαδέλφεια που καταγράφει ανεξιχνίαστες ανθρωποκτονίες, συλλέγει στοιχεία και προσφέρει αμοιβή 20.000 δολαρίων για πληροφορίες που οδηγούν σε σύλληψη.

Η αστυνομία κατέληξε τονίζοντας ότι οι πολίτες θα πρέπει να συνεχίσουν να υποβάλλουν έγκυρες και πραγματικές πληροφορίες για ανεξιχνίαστες υποθέσεις.