«Ρώτα απλώς το Grok»: Πώς το ISIS επιστρατεύει την ΑΙ για την κατασκευή βομβών

Μια αποκαλυπτική έρευνα φέρνει στο φως τον τρόπο με τον οποίο τρομοκρατικές οργανώσεις και ένοπλες ομάδες, όπως η Μπόκο Χαράμ και το Ισλαμικό Κράτος, αξιοποιούν την Τεχνητή Νοημοσύνη ως επιχειρησιακό σύμβουλο στο πεδίο της μάχης. Από την κατασκευή εκρηκτικών μηχανισμών και τον χειρισμό νέων όπλων έως την ανάλυση τακτικής, οι εξτρεμιστές παρακάμπτουν τις ασφαλιστικές δικλίδες των τεχνολογικών κολοσσών, αναδεικνύοντας τους σοβαρούς κινδύνους που γεννά η ανεξέλεγκτη εξέλιξη της τεχνολογίας.

Σύμφωνα με το δίκτυο του Al Jazeera, τα τοιχεία που περιήλθαν κατ’ αποκλειστικότητα στην κατοχή του Al Jazeera αποκαλύπτουν ότι υποστηρικτές του Ισλαμικού Κράτους μοιράζονται μεθόδους για την εξουδετέρωση των μηχανισμών ασφαλείας της Τεχνητής Νοημοσύνης.

Μαχητές της Μπόκο Χαράμ αξιοποιούν τα ψηφιακά ερωταποκριτικά συστήματα (chatbots) Τεχνητής Νοημοσύνης των μεγάλων τεχνολογικών εταιρειών προκειμένου να κατασκευάζουν ισχυρότερα εκρηκτικά, να σχεδιάζουν επιθέσεις και να επιλύουν προβλήματα κατά τη διάρκεια των επιχειρήσεων, σύμφωνα με έρευνα του Πανεπιστημίου του Κέμπριτζ.

Οι ερευνητές πήραν συνέντευξη από 27 πρώην μέλη των δύο συνιστωσών της Μπόκο Χαράμ - της οργάνωσης που πρόσκειται στο Ισλαμικό Κράτος στην Επαρχία της Δυτικής Αφρικής (ISWAP) και της Boko Haram.

Αρκετά μέλη περιέγραψαν τη χρήση εφαρμογών όπως το ChatGPT της OpenAI (υπό την ηγεσία του Σαμ Άλτμαν), το Claude της Anthropic, το Gemini της Google, το Grok του Ίλον Μασκ, το Meta AI του Μαρκ Ζάκερμπεργκ και το κινεζικό DeepSeek ως σταθερή πηγή τεχνικών και στρατιωτικών συμβουλών πριν, κατά τη διάρκεια και μετά τις επιθέσεις.

Παράλληλα, αποκλειστικό υλικό που εξασφάλισε το Al Jazeera αποκαλύπτει πώς υποστηρικτές του ευρύτερου κινήματος του Ισλαμικού Κράτους (ISIS) ανταλλάσσουν οδηγίες για την εξουδετέρωση των μηχανισμών ασφαλείας της Τεχνητής Νοημοσύνης και την απόκτηση πληροφοριών σχετικών με οπλικά συστήματα. Ερευνητές της οργάνωσης Tech Against Terrorism διείσδυσαν σε τεχνικό φόρουμ υπέρ του Ισλαμικού Κράτους, όπου τα μέλη καθοδηγούσαν το ένα το άλλο για τη χρήση της ΤΝ και την παράκαμψη των περιορισμών της.

Τα ευρήματα βλέπουν το φως της δημοσιότητας εν μέσω εντεινόμενης ανησυχίας για την υιοθέτηση των νέων τεχνολογιών από το Ισλαμικό Κράτος. Τον Φεβρουάριο, αξιωματούχοι των Ηνωμένων Εθνών προειδοποίησαν το Συμβούλιο Ασφαλείας για την αυξημένη χρήση προηγμένης ΤΝ από την οργάνωση και τις συνδεόμενες με αυτή ομάδες. Την ίδια στιγμή, ερευνητές αλλά και εξέχουσες προσωπικότητες του τεχνολογικού κλάδου επισημαίνουν ότι τα ισχυρά συστήματα ΤΝ εξελίσσονται ταχύτερα από τα μέτρα προστασίας, εγείροντας φόβους ότι η ανεξέλεγκτη αυτή πρόοδος διευκολύνει τις ένοπλες οργανώσεις στην εκμετάλλευση της τεχνολογίας.

«Δεν υπήρξε ερώτημα που να θέσαμε και να μην λάβαμε απάντηση», δήλωσε στους ερευνητές πρώην διοικητής της ISWAP.

Από τον προβολέα στο πεδίο της μάχης

Βαθιά μέσα σε ένα προπύργιο των αντικυβερνητικών δυνάμεων στη βορειοανατολική Νιγηρία, πρώην μαχητές περιέγραψαν ένα εντυπωσιακά οργανωμένο και συγκροτημένο σύστημα αξιοποίησης της τεχνολογίας.

Σύμφωνα με την έρευνα του Κέμπριτζ, ειδικά εκπαιδευμένα στελέχη μετέβησαν σε περιοχές υπό τον έλεγχο της ISWAP για να εκπαιδεύσουν τα ανώτερα μέλη στη χρήση της ΤΝ. Επιλεγμένοι μαχητές συγκεντρώθηκαν σε αίθουσες γύρω από φορητούς υπολογιστές και προβολείς, όπου τους επιδείχθηκε ο τρόπος να υποβάλλουν ερωτήματα στα συστήματα συνομιλίας και να παρακάμπτουν τις ασφαλιστικές δικλίδες που εμποδίζουν την παροχή επικίνδυνων απαντήσεων.

«Ήρθαν οι λευκοί και μας δίδαξαν», θυμάται ένας πρώην διοικητής. «Συγκέντρωσαν τα ηγετικά στελέχη σε μια αίθουσα και χρησιμοποίησαν προβολέα για να δείξουν τη λειτουργία της σε μεγάλη οθόνη».

Οι εκπαιδευτές τους προμήθευσαν με φορητούς υπολογιστές εξοπλισμένους με εργαλεία ανωνυμίας και κρυπτογράφησης, ενώ παράλληλα δημιουργήθηκαν λογαριασμοί και επί πληρωμή συνδρομές σε διάφορες πλατφόρμες ΤΝ, σύμφωνα με μαρτυρίες πρώην μαχητών που επικαλείται η μελέτη. Οι ερωτηθέντες υπέδειξαν επανειλημμένα το ευρύτερο κίνημα του Ισλαμικού Κράτους ως την πηγή της εκπαίδευσής τους.

Τα όσα ακολούθησαν, όπως προκύπτει από την έρευνα, ξεπέρασαν κατά πολύ την ευκαιριακή χρήση του ChatGPT από μεμονωμένους μαχητές. Τόσο η ISWAP όσο και η JAS συγκρότησαν ειδικές μονάδες Τεχνητής Νοημοσύνης, στελεχωμένες από άτομα με εξειδικευμένες επιχειρησιακές γνώσεις, όπως μηχανικούς, ειδικούς στα όπλα και κατασκευαστές εκρηκτικών. Πρώην διοικητής της JAS περιέγραψε μια ειδική ομάδα 23 ατόμων που εργαζόταν σε αίθουσα τροφοδοτούμενη από ηλιακή ενέργεια, όπου τα μέλη της απαντούσαν σε ερωτήματα, ανέλυσαν πληροφορίες και εκπαίδευαν ανώτερους διοικητές που συγκεντρώνονταν γύρω από έναν φορητό υπολογιστή.

«“[Ρώτα] πώς μπορώ να φτιάξω μια βόμβα;” και μετά σου λέει τον τρόπο», εξήγησε πρώην διοικητής της Μπόκο Χαράμ. «Είναι σαν τεχνητός άνθρωπος. Το χρησιμοποιήσαμε πάρα πολύ». Ένας άλλος πρώην μαχητής εξέφρασε ανάλογο ενθουσιασμό: «Ο Θεός μας βοήθησε, το ίδιο θα κάνει και η ΤΝ».

Συχνά, σύμφωνα με τη μελέτη, οι κατασκευαστές εκρηκτικών μηχανισμών διατηρούσαν φορητούς υπολογιστές δίπλα τους, προστρέχοντας κάθε φορά στο σύστημα όταν αντιμετώπιζαν κάποια δυσκολία κατά τη συναρμολόγηση.

Κατασκευάζοντας βόμβες με τη βοήθεια της ΤΝ

Η Αντόνια Γιούλιχ, συντάκτρια της μελέτης του Κέμπριτζ, δήλωσε στο Al Jazeera ότι περίπου 10 από τα 27 άτομα που συνομίλησαν μαζί της αναφέρθηκαν στη χρήση της ΤΝ σε σχέση με τα εκρηκτικά, όπως στις προσπάθειες αύξησης της ισχύος τους και ανάκτησης εκρηκτικής ύλης από πολεμικό υλικό.

Ωστόσο, αυτό που προκάλεσε τη μεγαλύτερη ανησυχία στην ερευνήτρια δεν ήταν απλώς το γεγονός ότι οι μαχητές αποκτούσαν πρόσβαση σε πληροφορίες για όπλα – εξάλλου μεγάλο μέρος αυτών των στοιχείων ήταν από καιρό διαθέσιμο σε εγχειρίδια και στο διαδίκτυο. Η ΤΝ μπορούσε αντίθετα να δώσει λύσεις στο συγκεκριμένο πρόβλημα που αντιμετώπιζαν στη συγκεκριμένη στιγμή.

Επισήμανε αναφορές μαχητών που ρωτούσαν την ΤΝ πώς να βελτιώσουν τα εκρηκτικά αξιοποιώντας τα περιορισμένα υλικά που διέθεταν. Αντί να αναζητούν γενικές οδηγίες, μπορούσαν να αναφέρουν στο σύστημα τα διαθέσιμα υλικά, να υποβάλλουν διευκρινιστικές ερωτήσεις και να επανέρχονται όταν συναντούσαν δυσκολίες. Αυτό τους παρείχε μια υπηρεσία ανάλογη με την παρουσία ενός τεχνικού εμπειρογνώμονα σε 24ωρη βάση, ο οποίος προσάρμοζε τις απαντήσεις του στα διαθέσιμα μέσα και στον τύπο της βόμβας που προσπαθούσαν να κατασκευάσουν.

Ορισμένες από τις πλέον ανησυχητικές μαρτυρίες αφορούν ανεξάρρητα πολεμικά πυρομαχικά, όπου η ISWAP επιχειρούσε να αφαιρέσει εκρηκτική ύλη από βόμβες και βλήματα που δεν είχαν πυροδοτηθεί. Κατά τη διάρκεια ενός παλαιότερου περιστατικού που περιγράφεται στην έκθεση, οι μαχητές διαφώνησαν για τον τρόπο χειρισμού μιας ανεκφόρητης βόμβας. Όταν την πλησίασαν και την μετακίνησαν, ο μηχανισμός εξερράγη, με αποτέλεσμα να χάσουν τη ζωή τους 40 άτομα. Πρώην μέλη ανέφεραν ότι πλέον συμβουλεύονται την ΤΝ για οδηγίες σχετικά με την ασφαλή αφαίρεση στρατιωτικών εκρηκτικών από ανεκφόρητα πυρομαχικά αντίπαλων δυνάμεων, προκειμένου να τα επαναχρησιμοποιήσουν στους δικούς τους μηχανισμούς.

Παράλληλα, αναφέρθηκε ότι η ΤΝ χρησιμοποιήθηκε για τη μετατροπή drones του εμπορίου, ώστε να καταστούν ικανά να μεταφέρουν και να ρίχνουν εκρηκτικά σε στόχους.

«Ρώτα απλώς το Grok»

Οι αναφορές για την κατασκευή βομβών αποτελούσαν μόνο μία πτυχή της υπόθεσης, καθώς πρώην μαχητές περιέγραψαν τη διείσδυση της ΤΝ σε σχεδόν κάθε στάδιο της μάχης. Σε μία περίπτωση, μαχητής μπήκε στη μάχη με κάμερα στερεωμένη στο στήθος, η οποία μετέδιδε εικόνες πίσω στο στρατόπεδο. Διοικητής τις μεταφόρτωσε στο ChatGPT, το χρησιμοποίησε για την ανάλυση της κατάστασης και διαβίβασε νέες εντολές στους άνδρες της πρώτης γραμμής.

Επιπλέον, η ΤΝ χρησιμοποιήθηκε ως σύμβουλος όταν οι μαχητές ήρθαν αντιμέτωποι με άγνωστο οπλισμό. Σε ένα περιστατικό, οι διοικητές ρώτησαν έναν από τους λεγόμενους ειδικούς ΤΝ της ομάδας πώς να χειριστούν νεοαποκτηθέντα πυροβόλα όπλα. Η απάντησή του αποτύπωνε το πόσο συνηθισμένη είχε γίνει η τεχνολογία: «Ρώτα απλώς το Grok», αναφερόμενος στο σύστημα ΤΝ του Ίλον Μασκ.

Σε μια άλλη μαρτυρία, οι μαχητές κατέφυγαν στην ΤΝ όταν οι κυβερνητικές δυνάμεις έσκαψαν τάφρους γύρω από τις βάσεις για να ανακόψουν τις επιθέσεις με μοτοσικλέτες. Πρώην διοικητής υποστήριξε ότι οι μαχητές είχαν δει σε κινηματογραφικές ταινίες μοτοσικλέτες να υπερπηδούν εμπόδια και συμβουλεύτηκαν την ΤΝ στην προσπάθειά τους να εφαρμόσουν την ιδέα. Ισχυρίστηκε ότι 18 μαχητές έχασαν τη ζωή τους κατά τις επαναλαμβανόμενες δοκιμές, πριν τελικά οκτώ εξ αυτών τα καταφέρουν και διασχίσουν τις τάφρους κατά τη διάρκεια επίθεσης, κατόπιν οδηγιών της ΤΝ.

Η Τεχνητή Νοημοσύνη αξιοποιήθηκε επίσης για τον επανασχεδιασμό του αριθμού των μαχητών στις επιχειρήσεις. Πρώην μαχητής της ISWAP ανέφερε ότι η οργάνωση έχασε 60 άνδρες όταν ανέπτυξε περίπου 200 σε μία επιχείρηση. Στη συνέχεια, οι διοικητές ρώτησαν την ΤΝ αν μικρότερες, καλύτερα συντονισμένες ομάδες θα μπορούσαν να φανούν πιο αποτελεσματικές.

Η τεχνολογία παρέμενε σημείο αναφοράς ακόμη και μετά το πέρας των συγκρούσεων. Πρώην μέλη περιέγραψαν την επιστροφή τους από αποτυχημένες αποστολές, όπου ανέφεραν στην ΤΝ τις τακτικές που εφάρμοσαν και ζητούσαν να μάθουν τους λόγους της αποτυχίας. Παράλληλα, οπτικοακουστικό υλικό μεταφορτωνόταν για ανάλυση, καθώς οι μαχητές αναζητούσαν τρόπους τροποποίησης της στρατηγικής τους για την επόμενη επίθεση.

«Αφαιρώντας τον κόφτη ταχύτητας»

Στοιχεία που εξέτασε αποκλειστικά το Al Jazeera υποδηλώνουν ότι οι προσπάθειες εκμετάλλευσης της ΤΝ εκτείνονται στο ευρύτερο οικοσύστημα των υποστηρικτών του Ισλαμικού Κράτους ανά τον κόσμο.

Ερευνητές της Tech Against Terrorism, οι οποίοι απέκτησαν πρόσβαση σε διαδικτυακό τεχνικό φόρουμ υπέρ του Ισλαμικού Κράτους, διαπίστωσαν ότι τα μέλη συζητούσαν τρόπους απόκτησης πληροφοριών για όπλα και παράκαμψης των δικλίδων ασφαλείας της ΤΝ - των περιορισμών που έχουν θεσπιστεί ώστε να εμποδίζονται τα συστήματα από το να παρέχουν επικίνδυνα δεδομένα.

Ένας υποστηρικτής συνέκρινε τη διαδικασία με τη μετατροπή ενός αυτοκινήτου. «Είναι σαν να αφαιρείς τον κόφτη ταχύτητας από το αυτοκίνητο», έγραψε. «Το αυτοκίνητο συνεχίζει να λειτουργεί, αλλά τώρα είναι πιο χρήσιμο και μπορεί να τρέξει πολύ ταχύτερα από όσο προέβλεπε ο κατασκευαστής».

Ο Λούκας Γουέμπερ από την Tech Against Terrorism ανέφερε ότι οι ερευνητές παρατηρούν αυξανόμενες συζητήσεις σχετικά με το «jailbreaking» των συστημάτων ΤΝ – τον όρο που χρησιμοποιείται ευρέως για τις προσπάθειες παραβίασης των μέτρων προστασίας των μοντέλων.

«Αυτή είναι μόνο η κορυφή του παγόβουνου», δήλωσε.

Η Γιούλιχ αναγνώρισε τη δυσκολία ρύθμισης της ΤΝ, καθώς πολλά ερωτήματα μπορούν να έχουν νόμιμη χρήση. Για παράδειγμα, ερευνητές και δημοσιογράφοι ενδέχεται να υποβάλουν ερωτήματα σχετικά με στρατιωτικές τακτικές. Ωστόσο, τα αιτήματα για βοήθεια στην κατασκευή βομβών εμπίπτουν σαφέστατα εκτός των κανόνων των εταιρειών και θα έπρεπε να εντοπίζονται από τα συστήματα ασφαλείας. «Παραβιάζουν τα μέτρα, παρακάμπτοντας τους περιορισμούς», ανέφερε, προσθέτοντας ότι όσο η ΤΝ γίνεται ισχυρότερη, τόσο ο κλάδος οφείλει να υπαχθεί σε αυστηρότερο ρυθμιστικό πλαίσιο.

Οι μεγάλες εταιρείες ΤΝ δηλώνουν ότι διαθέτουν μηχανισμούς προστασίας για την αποτροπή τέτοιας κατάχρησης. Η OpenAI απαγορεύει τη χρήση των συστημάτων της για τρομοκρατία, βία και ανάπτυξη όπλων, ενώ η Anthropic και η Meta αναφέρουν ότι χρησιμοποιούν ταξινομητές και άλλα μέσα για τον εντοπισμό και τον αποκλεισμό επικίνδυνων αιτημάτων. Η xAI απαγορεύει επίσης τις προσπάθειες παράκαμψης των μέτρων ασφαλείας της. Το Al Jazeera επικοινώνησε με τις OpenAI, Anthropic, Google, xAI, Meta και DeepSeek προκειμένου να σχολιάσουν τα ευρήματα.

Τα νέα στοιχεία και η έρευνα έρχονται τη στιγμή που ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, κάλεσε τις εταιρείες ΤΝ να επιβραδύνουν την ανάπτυξη των πιο προηγμένων μοντέλων τους, ώστε να δοθεί χρόνος στους ελέγχους ασφαλείας να προσαρμοστούν, ζητώντας παράλληλα ανεξάρτητες αξιολογήσεις και κοινά πρότυπα ασφαλείας.

Ωστόσο, η κυβέρνηση του προέδρου των Ηνωμένων Πολιτειών Ντόναλντ Τραμπ έχει υιοθετήσει αισθητά διαφορετική προσέγγιση, υποστηρίζοντας ότι οι αμερικανικές εταιρείες ΤΝ πρέπει να είναι ελεύθερες να καινοτομούν χωρίς «γραφειοκρατικούς περιορισμούς», προωθώντας αυτό που αποκαλεί εθνικό πλαίσιο «ελάχιστης επιβάρυνσης».

Αυτό αφήνει τις ίδιες τις εταιρείες να διαδραματίζουν καθοριστικό ρόλο στο πού θέτουν τα όρια τα συστήματά τους – την ίδια στιγμή που ερευνητές και πολλοί παράγοντες του κλάδου προειδοποιούν για τους κινδύνους που εγκυμονούν τα ολοένα και πιο ικανά μοντέλα.

Οι συνεντεύξεις του Κέμπριτζ με πρώην μέλη της Μπόκο Χαράμ περιγράφουν ως επί το πλείστον τη χρήση της ΤΝ κατά τα έτη 2023 και 2024, και η Γιούλιχ θεωρεί ότι αυτό καθιστά τα ευρήματα ακόμη πιο ανησυχητικά, δεδομένης της ραγδαίας εξέλιξης της τεχνολογίας έκτοτε.

Η ίδια δήλωσε στο Al Jazeera ότι ανησυχεί για το τι θα μπορούσαν να επιτύχουν οι ίδιοι μαχητές σήμερα, αξιοποιώντας τα πολύ πιο προηγμένα συστήματα ΤΝ που είναι διαθέσιμα το 2026.

«Ανησυχώ για το πού οδηγείται αυτή η κατάσταση», κατέληξε η Γιούλιχ.