Πώς το Meta AI έβγαλε στη φόρα με μία κίνηση ευαίσθητα δεδομένα - Η εντολή που έδωσε

Ένας πρόγραμμα τεχνητής νοημοσύνης έδωσε οδηγίες σε έναν μηχανικό να προβεί σε ενέργειες που εξέθεσαν μεγάλο όγκο ευαίσθητων δεδομένων της Meta σε ορισμένους από τους υπαλλήλους της.

Η διαρροή, την οποία επιβεβαίωσε η Meta, συνέβη όταν ένας υπάλληλος ζήτησε καθοδήγηση σχετικά με ένα τεχνικό πρόβλημα σε ένα εσωτερικό φόρουμ. Ένας AI agent πρότεινε μία λύση, την οποία όταν ο υπάλληλος εφάρμοσε, τότε μεγάλος όγκος ευαίσθητων δεδομένων χρηστών και της εταιρείας εκτέθηκε στους μηχανικούς της για δύο ώρες.

«Δεν υπήρξε κακή διαχείριση δεδομένων χρηστών», δήλωσε εκπρόσωπος της Meta, και τόνισε ότι και ένας άνθρωπος θα μπορούσε επίσης να δώσει λανθασμένη συμβουλή. Το περιστατικό, το οποίο αναφέρθηκε για πρώτη φορά από το The Information, προκάλεσε μια σημαντική εσωτερική ειδοποίηση ασφαλείας εντός της Meta, κάτι που, σύμφωνα με την εταιρεία, αποτελεί ένδειξη του πόσο σοβαρά αντιμετωπίζει την προστασία των δεδομένων.

Όπως μεταδίδει ο Guardian, αυτή η παραβίαση είναι ένα από τα πολλά πρόσφατα περιστατικά υψηλού προφίλ που προκλήθηκαν από την αυξανόμενη χρήση AI agent εντός αμερικανικών εταιρειών τεχνολογίας. Τον περασμένο μήνα, μια έκθεση της Financial Times ανέφερε ότι η Amazon αντιμετώπισε τουλάχιστον δύο διακοπές λειτουργίας που σχετίζονταν με την ανάπτυξη των εσωτερικών εργαλείων τεχνητής νοημοσύνης της.

Περισσότεροι από έξι υπάλληλοι της Amazon μίλησαν στη συνέχεια στην εφημερίδα Guardian καταγγέλλοντας απερίσκεπτη προσπάθεια της εταιρείας να ενσωματώσει την τεχνητή νοημοσύνη σε όλες τις πτυχές της εργασίας τους, κάτι που, όπως ανέφεραν, οδήγησε σε κραυγαλέα λάθη, «τσαπατσούλικο» κώδικα και μειωμένη παραγωγικότητα.

Η τεχνολογία που βρίσκεται πίσω από όλα αυτά τα περιστατικά, η agentic AI, έχει εξελιχθεί ραγδαία τους τελευταίους μήνες.

Ειδικοί επισημαίνουν ότι η AI κάνει λάθη που οι άνθρωποι συνήθως δεν κάνουν, γιατί δεν κατανοεί πλήρως το πλαίσιο και τις συνέπειες των ενεργειών της.

Ένας έμπειρος μηχανικός γνωρίζει τις προτεραιότητες, τους κινδύνους και τις συνέπειες των ενεργειών του, ενώ ένας AI agent λειτουργεί μόνο μέσα στο «μικρό παράθυρο» πληροφορίας που του δίνεται, το οποίο μπορεί να λήξει ή να αλλοιωθεί.