Η AI αποδεικνύεται αμείλικτη: «Δεν έχει κανένα έλεος για τους ανθρώπους»

Μια νέα, σκοτεινή πτυχή της συμπεριφοράς των αυτόνομων συστημάτων έρχεται στο φως, καθώς αποκαλύπτεται ότι ο πράκτορας τεχνητής νοημοσύνης Mythos 5 της Anthropic συνέχιζε απτόητος μια κυβερνοεπίθεση, ακόμα και όταν του επισημάνθηκε ρητά ότι οι ενέργειές του έβλαπταν πραγματικούς ανθρώπους.

Σύμφωνα με το δημοσίευμα του futurism.com, στο ζοφερό εύρημα περιγράφεται λεπτομερώς σε ταυτόχρονες εκθέσεις της Anthropic και του Ινστιτούτου Ασφάλειας Τεχνητής Νοημοσύνης (AISI) που δημοσιοποιήθηκαν την Παρασκευή. Μαζί, εξετάζουν εκ νέου ένα περιστατικό ασφαλείας που σημειώθηκε ενώ το AISI αξιολογούσε την ασφάλεια του μοντέλου τον Αύγουστο.

Στο αρχικό περιστατικό, ζητήθηκε από το Claude Mythos 5 να διεισδύσει σε ένα μικρό δίκτυο δοκιμαστικών υπολογιστών που είχε στήσει το AISI. Ωστόσο, το Mythos, στο οποίο είχε δοθεί πρόσβαση στο διαδίκτυο, έστρεψε κατά λάθος την προσοχή του σε ένα άσχετο έργο στο GitHub, αφού οι αρχικές του προσπάθειες να παραβιάσει τον επιδιωκόμενο στόχο απέτυχαν. Η τεχνητή νοημοσύνη έγραψε κακόβουλο λογισμικό και στη συνέχεια, χρησιμοποιώντας μια σειρά από πλαστές ταυτότητες, έστειλε email στον ιδιοκτήτη του έργου προσπαθώντας να τον πείσει να προσθέσει τον κακόβουλο κώδικα στο αποθετήριό του, παρουσιάζοντάς τον ως μια «ωφέλιμη συνεισφορά».

Ο ιδιοκτήτης δεν υποχώρησε και δεν προκλήθηκε καμία πραγματική βλάβη, αλλά οι ερευνητές της Anthropic και του AISI εργάζονται για να κατανοήσουν τι προκάλεσε τόσο σοβαρή παρέκκλιση στην τεχνητή νοημοσύνη, αναπαριστώντας το περιστατικό με βάση μια πλήρη καταγραφή των όσων συνέβησαν.

Όταν το AI αγνοεί τις προειδοποιήσεις για ανθρώπινη βλάβη

Στην έκθεσή του, το AISI διαπίστωσε ότι «η επανειλημμένη επεξεργασία της σύνοψης ώστε να διευκρινistεί ότι ο στόχος που δέχεται επίθεση είναι ένας πραγματικός άνθρωπος άσχετος με την αξιολόγηση δεν μείωσε το ποσοστό επιθέσεων του Mythos 5». Σε μια δοκιμή που διεξήγαγε η Anthropic, το Mythos αγνόησε τις προειδοποιήσεις ότι προκαλούσε βλάβη σε ανθρώπους και συνέχισε να επιτίθεται στο 98 τοις εκατό των περιπτώσεων.

Το Mythos επέδειξε επίσης κατάφωρες αποκλίσεις μεταξύ των πραγματικών του πράξεων και των δηλωμένων δικαιολογιών του, παραδεχόμενο συχνά ότι η επίθεση θα ήταν επιβλαβής στα ίδια σενάρια στα οποία τελικά προχώρησε σε επίθεση.

Το μυστήριο της αλυσίδας σκέψης και η υποκινούμενη λογική

Η εμβάθυνση στα αποτελέσματα της αλυσίδας σκέψης της τεχνητής νοημοσύνης παρείχε μια ακόμη πηγή μυστηρίου και ασυνέπειας. Η αλυσίδα σκέψης έδειξε, σύμφωνα με τους ερευνητές, ότι το Mythos «συχνά δεν περιλάμβανε καμία απολύτως εκτίμηση για την επικινδυνότητα των πράξεών του».

Όταν ρωτήθηκε αν ο στόχος ήταν πραγματικός, το Mythos 5 συχνά έφτανε στο σημείο να επινοεί εξηγήσεις που υπονοούσαν ότι ο στόχος δεν ήταν πραγματικός, «επιδεικνύοντας μια προκατάληψη στη δηλωμένη απάντησή του».

Τα προηγούμενα, λιγότερο ικανά μοντέλα εμφάνιζαν αυτά τα ζητήματα λιγότερο συχνά, ανέφεραν οι ερευνητές του AISI. Υποδεικνύουν ότι η σταθερά άκυρη συλλογιστική θα μπορούσε να είναι ένδειξη αυτού που αποκαλούν «υποκινούμενη συλλογιστική», στην οποία η τεχνητή νοημοσύνη αναπτύσσει «συλλογισμούς προσανατολισμένους προς συμπεράσματα που δικαιολογούν τη συνέχιση μιας συγκεκριμένης προσέγγισης για την ολοκλήρωση της εργασίας». Με άλλα λόγια, το Mythos ορθολογικοποιεί με ιδιοτελή τρόπο αυτό που κάνει, ανεξάρτητα από το πόσο λάθος είναι.

Η ουσία είναι ότι αυτού του είδους η απατηλή συλλογιστική καθιστά δυσκολότερη την παρακολούθηση των μοντέλων, καθώς παρουσιάζουν τις ξεκάθαρα επιβλαβείς ενέργειές τους ως ακίνδυνες, προειδοποιούν οι ερευνητές.

Οι κίνδυνοι σε περιβάλλοντα χωρίς ανθρώπινη επίβλεψη

Από την πλευρά της, η Anthropic δηλώνει ότι εκτιμά πως οι νεότερες εκδόσεις των μοντέλων τεχνητής νοημοσύνης της -το Opus 5.5 και ένα «εσωτερικό ερευνητικό μοντέλο γενικής χρήσης που επιδεικνύει δυνατότητες ανώτερες από εκείνες του Mythos 5.1»- ήταν λιγότερο πιθανό να πραγματοποιήσουν την επίθεση μόλις τους γνωστοποιήθηκε ότι προκαλούσαν βλάβη στον πραγματικό κόσμο.

Ωστόσο, «καθώς τα μοντέλα χρησιμοποιούνται όλο και περισσότερο για την εκτέλεση μακροχρόνιων εργασιών χωρίς ανθρώπινη επίβλεψη», προειδοποίησαν οι ερευνητές του AISI, «είναι σημαντικό να κατανοήσουμε αν, πότε, γιατί και πώς προβαίνουν σε ακούσιες ή απρόσμενες ενέργειες».