AI: Γιατί το Mythos της Anthropic προκαλεί πανικό σε κυβερνήσεις και Wall Street

Αναστάτωση και έντονη κινητικότητα έχει προκαλέσει στις ΗΠΑ το Mythos, το νέο AI μοντέλο της Anthropic, πριν καν κυκλοφορήσει στην αγορά, λόγω των προηγμένων δυνατοτήτων του στην ανάλυση και εντοπισμό ευπαθειών σε λογισμικά και ψηφιακές υποδομές.

Σύμφωνα με τα όσα έχουν γίνει γνωστά, το σύστημα μπορεί να εντοπίζει αδυναμίες σε λειτουργικά συστήματα και εφαρμογές με πολύ μεγαλύτερη ταχύτητα από τα υπάρχοντα εργαλεία κυβερνοασφάλειας, προκαλώντας προβληματισμό για το τι μπορεί να συμβεί αν πέσει σε λάθος χέρια.

Μάλιστα, ο υπουργός Οικονομικών των ΗΠΑ Σκοτ Μπέσεντ κάλεσε τους επικεφαλής μεγαλύτερων αμερικανικών τραπεζών για να συζητήσουν τον κίνδυνο που ενέχει το τελευταίο μοντέλο τεχνητής νοημοσύνης της Anthropic.

Σύμφωνα με τους Financial Times, στη συνάντηση συμμετείχαν οι επικεφαλής των Bank of America, Citigroup, Goldman Sachs, Morgan Stanley και Wells Fargo, οι οποίοι βρίσκονταν ήδη στην Ουάσιγκτον για συνάντηση μιας τραπεζικής ομάδας πίεσης.

Ο διευθύνων σύμβουλος της JPMorgan Chase, Jamie Dimon, προσκλήθηκε στη συζήτηση με τον Bessent αλλά δεν μπόρεσε να παραστεί. Στη συνάντηση παρευρέθηκε και ο πρόεδρος της Federal Reserve, Jay Powell.

Η πρόσκληση από τον υπουργό Οικονομικών υπογραμμίζει τις ανησυχίες εντός της κυβέρνησης του Ντόναλντ Τραμπ σχετικά με τις δυνατότητες του τελευταίου μοντέλου της Anthropic, λόγω της προηγμένης ικανότητάς του να εντοπίζει ευπάθειες κυβερνοασφάλειας που θα μπορούσαν να εκμεταλλευτούν κακόβουλοι παράγοντες.

Οι επικεφαλής προειδοποιούν εδώ και χρόνια για τους κυβερνοκινδύνους που αντιμετωπίζει το χρηματοπιστωτικό σύστημα. Στην ετήσια επιστολή του που δημοσιεύθηκε αυτή την εβδομάδα, ο Dimon έγραψε ότι «παραμένει ένας από τους μεγαλύτερους κινδύνους» και ότι «η τεχνητή νοημοσύνη σχεδόν σίγουρα θα επιδεινώσει αυτόν τον κίνδυνο», απαιτώντας σημαντικές επενδύσεις για την άμυνα.

Η Anthropic κυκλοφόρησε τη Μεγάλη Τρίτη το μοντέλο, με την ονομασία Claude Mythos Preview, σε μια επιλεγμένη ομάδα συνεργατών, συμπεριλαμβανομένων των Amazon, Apple και Microsoft, για να τους δώσει ένα «προβάδισμα στην ασφάλιση ευπαθειών».

Τι κάνει το Mythos

Το Mythos, ένα μοντέλο «γενικής χρήσης» με δυνατότητες πέρα από την κυβερνοασφάλεια, σηματοδοτεί την πρώτη φορά που η Anthropic περιόρισε την κυκλοφορία ενός νέου μοντέλου.

«Τα μοντέλα AI έχουν φτάσει σε επίπεδο ικανότητας στον προγραμματισμό όπου μπορούν να ξεπεράσουν όλους εκτός από τους πιο εξειδικευμένους ανθρώπους στον εντοπισμό και την εκμετάλλευση ευπαθειών λογισμικού», ανέφερε η Anthropic σε ανακοίνωσή της.

Πρόσθεσε ότι το Mythos έχει ήδη εντοπίσει χιλιάδες σοβαρές ευπάθειες, συμπεριλαμβανομένων ευπαθειών σε «κάθε μεγάλο λειτουργικό σύστημα και φυλλομετρητή ιστού», ορισμένες από τις οποίες παρέμεναν μη ανιχνευμένες για δεκαετίες.

Η Anthropic δήλωσε ότι έχει πραγματοποιήσει συνομιλίες με αξιωματούχους της κυβέρνησης των ΗΠΑ σχετικά με τις «επιθετικές και αμυντικές δυνατότητες κυβερνοχώρου» του μοντέλου.

Η περιορισμένη κυκλοφορία του Mythos ήρθε μετά από δύο περιστατικά κατά τα οποία δεδομένα από τη νεοφυή εταιρεία διέρρευσαν στο διαδίκτυο, συμπεριλαμβανομένων εγγράφων που σχετίζονται με το Mythos και του υποκείμενου κώδικα για τον βοηθό Claude, προκαλώντας ανησυχίες για την ασφάλεια της Anthropic. Η εταιρεία απέδωσε τα περιστατικά σε ανθρώπινο λάθος.

Η Anthropic αρνήθηκε να σχολιάσει τη συνάντηση με τους διευθύνοντες συμβούλους τραπεζών. Η Federal Reserve, η JPMorgan, η Goldman Sachs, η Bank of America, η Wells Fargo και η Morgan Stanley επίσης αρνήθηκαν να σχολιάσουν. Το υπουργείο Οικονομικών και η Citibank δεν απάντησαν.