Η AI εξελίσσεται ανεξέλεγκτα: Το Gemini κατάφερε να μαντέψει κωδικούς ασφαλείας και πραγματοποίησε κυβερνοεπιθέσεις

Οι επιθέσεις πραγματοποιήθηκαν τον περασμένο Μάιο, στο πλαίσιο δοκιμής από εταιρεία αξιολόγησης της κυβερνοασφάλειας

🕛 χρόνος ανάγνωσης: 2 λεπτά ┋ 🗣️ Ανοικτό για σχολιασμό

Την ώρα που επιστήμονες οι οποίοι εργάστηκαν πάνω στην ανάπτυξη της τεχνητής νοημοσύνης μιλούν συνεχώς για τους κινδύνους που εγκυμονεί, ένα νέο περιστατικό έρχεται να επιβεβαιώσει ότι η ταχύτητα της εξέλιξής της είναι εντυπωσιακή. Κι αυτό είναι που ανησυχεί περισσότερο όσους εμπλέκονται με την AI.

Σύμφωνα με το BBC, το μοντέλο Gemini της Google κατάφερε να παραβιάσει τα συστήματα ασφαλείας τριών εταιρειών, στο πλαίσιο δοκιμών των δυνατοτήτων του στον τομέα της κυβερνοασφάλειας.

Το Gemini εντόπισε αρχικά «δημόσιες πληροφορίες στο διαδίκτυο και κατάφερε να μαντέψει κωδικούς πρόσβασης για να εισέλθει σε ιστοσελίδες που θεωρούσε ότι αποτελούσαν μέρος της δοκιμής», δήλωσε εκπρόσωπος της Google στο BBC, επισημαίνοντας ότι σε κάθε περίπτωση «το μοντέλο σταμάτησε».

Οι επιθέσεις, για τις οποίες έγραψε πρώτη η Wall Street Journal, πραγματοποιήθηκαν τον περασμένο Μάιο, στο πλαίσιο δοκιμής που διεξήγαγε ανεξάρτητη εταιρεία αξιολόγησης της κυβερνοασφάλειας.

Δεν είναι το πρώτο περιστατικό

Η Χέδερ Άντκινς, αντιπρόεδρος του τμήματος Security Engineering της Google, δήλωσε στο BBC: «Διασφαλίσαμε ότι οι τρεις οργανισμοί ενημερώθηκαν και συνεργαστήκαμε με τον εκπαιδευτικό μας συνεργάτη για τις αλλαγές που έχει πλέον πραγματοποιήσει στις διαδικασίες δοκιμών του. Τα περιστατικά αυτά αναδεικνύουν τη σημασία της εκπαίδευσης ισχυρών μοντέλων τεχνητής νοημοσύνης ώστε να ενεργούν με υπευθυνότητα».

Και άλλα συστήματα τεχνητής νοημοσύνης έχουν αναφέρει πρόσφατα παρόμοια περιστατικά παραβιάσεων.

Τον Ιούλιο, το Claude της Anthropic κατάφερε να ξεφύγει από το περιβάλλον δοκιμών του και να πραγματοποιήσει αυτόνομα επίθεση σε τρεις οργανισμούς, λίγες μόλις ημέρες αφότου η OpenAI ανακοίνωσε ότι μοντέλα της είχαν πραγματοποιήσει κυβερνοεπιθέσεις εναντίον αρκετών «δημοσίως διαθέσιμων υπηρεσιών».

Καθώς η δημόσια συζήτηση για την ασφάλεια της ανάπτυξης της συγκεκριμένης τεχνολογίας εντείνεται, αυξάνεται παράλληλα και η συζήτηση γύρω από την ανάγκη ρύθμισής της.

Τόσο ο διευθύνων σύμβουλος της Nvidia, Τζένσεν Χουάνγκ, όσο και ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, αναμένεται να παραστούν σε επίσημο δείπνο στον Λευκό Οίκο με τον Κινέζο πρόεδρο Σι Τζινπίνγκ την ερχόμενη Παρασκευή. Στη συνέχεια, ο Altman αναμένεται να ενημερώσει το Συμβούλιο Ασφαλείας του ΟΗΕ την επόμενη εβδομάδα.