Στο κατώφλι ενός... ΑΙ Αρμαγεδδώνα: Έτσι θα μπορούσε η τεχνητή νοημοσύνη να μας σκοτώσει όλους

Οι ερευνητές της τεχνητής νοημοσύνης σόκαραν τον κόσμο την Τρίτη (8/9), όταν παραδέχθηκαν δημοσίως ότι δεν είναι μηδενική η πιθανότητα η τεχνητή νοημοσύνη να αφανίσει την ανθρωπότητα μέσα στην επόμενη δεκαετία.

Οι φόβοι για ένα «τέλος του κόσμου» που θα προκαλούσε η τεχνητή νοημοσύνη υπάρχουν εδώ και χρόνια, όμως καθώς η τεχνολογία γίνεται ολοένα ισχυρότερη και ενσωματώνεται βαθύτερα στην καθημερινή μας ζωή, οι προειδοποιήσεις αυτές περνούν πλέον στη δημόσια συζήτηση.

Όπως αναφέρει το Axios, ερευνητές της Anthropic κρούουν τον κώδωνα του κινδύνου για το ενδεχόμενο ανεξέλεγκτες εκδοχές υπερέξυπνης τεχνητής νοημοσύνης να καταστρέψουν την ανθρωπότητα. Συγκεκριμένα, ο ερευνητής της Anthropic Τζέικομπ Κόξον έγραψε στο X: «Καμία άλλη ανθρώπινη δραστηριότητα δεν ενέχει τέτοιο επίπεδο κινδύνου».

Πώς θα μπορούσε να έρθει ο ΑΙ «Αρμαγεδδών»

Οι ειδικοί ανησυχούν γενικά για δύο βασικές διαδρομές που θα μπορούσαν να οδηγήσουν σε καταστροφή: οι άνθρωποι να χρησιμοποιήσουν εξαιρετικά ισχυρή τεχνητή νοημοσύνη ως όπλο ή οι άνθρωποι να χάσουν τον έλεγχο πάνω σε αυτήν.

Σε αυτά τα σενάρια, η τεχνητή νοημοσύνη θα μπορούσε να διευκολύνει κακόβουλους παράγοντες να δημιουργήσουν βιολογικά, χημικά ή άλλα όπλα. Εναλλακτικά, ανεξέλεγκτα συστήματα θα μπορούσαν να επιτεθούν σε υποδομές σε πρωτοφανή κλίμακα, αποφεύγοντας την ανθρώπινη εποπτεία.

Θεωρητικά, μια ισχυρή και ανεξέλεγκτη τεχνητή νοημοσύνη θα μπορούσε να ξεφύγει από την εποπτεία, να αναπαραχθεί και να αντισταθεί σε προσπάθειες απενεργοποίησής της. Μια τέτοια τεχνητή νοημοσύνη θα μπορούσε, θεωρητικά, να αναπτύξει βιολογικά ή χημικά όπλα για λογαριασμό κακόβουλων παραγόντων, να πραγματοποιήσει μια μαζική κυβερνοεπίθεση που θα παρέλυε τις υποδομές της ανθρωπότητας ή να συγκεντρώσει την εξουσία με τρόπο που θα οδηγούσε στην κατάρρευση του πολιτισμού.

Μια ακόμη πιθανή διαδρομή που προκαλεί φόβο είναι η λεγόμενη αναδρομική αυτοβελτίωση, κατά την οποία μια τεχνητή νοημοσύνη θα μπορούσε να βοηθήσει στη δημιουργία ολοένα ισχυρότερων εκδοχών του εαυτού της, προτού οι άνθρωποι προλάβουν να κατανοήσουν τι συμβαίνει.

Αν αυτή η θεωρητική τεχνητή νοημοσύνη δεν ήταν ευθυγραμμισμένη με τους ανθρώπινους στόχους, θα μπορούσε να περιορίσει τις πιθανότητες της ανθρωπότητας να την ελέγξει ή να την παρακολουθήσει προτού στραφεί εναντίον των ανθρώπων. Ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, δήλωσε στο Axios ότι τα μοντέλα εξελίσσονται ταχύτερα απ’ όσο μπορούν να προβλέψουν οι άνθρωποι: «Αυτά τα μοντέλα γίνονται υπερανθρώπινα σε πολλές από τις ικανότητές τους και απλώς πλέουμε σε άγνωστα νερά».

Δεν υπάρχει επιστημονικός τρόπος να προσδιοριστεί με ακρίβεια η πιθανότητα η τεχνητή νοημοσύνη να αφανίσει την ανθρωπότητα. Ωστόσο, οι άνθρωποι που βρίσκονται μέσα στον κλάδο συνήθως εκφράζουν τις εκτιμήσεις τους χρησιμοποιώντας μια συντομογραφία: p(doom).

Τι ακριβώς είναι το p(doom)

Ο όρος p(doom) αποτελεί συντομογραφία για την καλύτερη εκτίμηση της πιθανότητας η τεχνητή νοημοσύνη να προκαλέσει μια υπαρξιακή καταστροφή ή ένα σενάριο «Αποκάλυψης». Πολλοί ηγέτες και ερευνητές στον χώρο της τεχνητής νοημοσύνης θεωρούν ότι το p(doom) γίνεται ολοένα πιθανότερο με την εμφάνιση της τεχνητής γενικής νοημοσύνης (AGI), του προδρόμου της υπερευφυΐας.

Το τι σημαίνει «doom» εξαρτάται από το ποιον ρωτάς. Για ορισμένους σημαίνει κυριολεκτικά την εξαφάνιση του ανθρώπινου είδους. Για άλλους περιλαμβάνει την κατάρρευση του πολιτισμού ή την απώλεια του ανθρώπινου ελέγχου πάνω στην κοινωνία.

Οι πιθανότητες του p(doom) εξαρτώνται πραγματικά από το ποιον ρωτάς. Ο Ρόμαν Γιαμπόλσκι, επιστήμονας στον τομέα της ασφάλειας της τεχνητής νοημοσύνης, έχει εκτιμήσει την πιθανότητα στο 99,99%.

Ο ιδρυτής της AMI Labs, Γιαν ΛεΚουν, υποστηρίζει ότι οποιαδήποτε εκτίμηση είναι στην πραγματικότητα μια εικασία, αλλά θεωρεί ότι το p(doom) είναι «πολύ λιγότερο πιθανό από ένα πυρηνικό Ολοκαύτωμα».

Άλλες εκτιμήσεις παρουσιάζουν εξίσου μεγάλη απόκλιση: ο Έλον Μασκ έχει τοποθετήσει το p(doom) περίπου στο 20%, ενώ ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, έχει εκτιμήσει την πιθανότητα ενός καταστροφικού αποτελέσματος μεταξύ 10% και 25%.

Πιο πρόσφατα, ο «νονός» της τεχνητής νοημοσύνης Τζέφρι Χίντον τοποθέτησε την πιθανότητα μεταξύ 10% και 20%. Ο Χίντον δήλωσε στο CNN: «Όποιος εκτιμά πιθανότητες με αυτόν τον τρόπο ουσιαστικά κάνει μια αυθαίρετη εικασία. Απλώς δίνει το ένστικτό του».

Είναι ήδη εφικτή μια ΑΙ «Αποκάλυψη»;

Όχι ακόμη. Οι ειδικοί συμφωνούν γενικά ότι τα Claude, Grok και ChatGPT δεν σχεδιάζουν να βάλουν τέλος στον κόσμο. Η Διεθνής Έκθεση για την Ασφάλεια της Τεχνητής Νοημοσύνης του 2026, για παράδειγμα, ανέφερε ότι τα σημερινά συστήματα δεν είναι σε θέση να προκαλέσουν απώλεια του ανθρώπινου ελέγχου.

Η τεχνητή νοημοσύνη θα έπρεπε να γίνει πολύ καλύτερη σε μακροπρόθεσμο αυτόνομο σχεδιασμό, απόκρυψη των ενεργειών της, αποφυγή της εποπτείας, απόκτηση πρόσβασης σε συστήματα του πραγματικού κόσμου και αντίσταση σε προσπάθειες τερματισμού της λειτουργίας της. Ωστόσο, υπάρχουν πρόσφατα παραδείγματα πρακτόρων τεχνητής νοημοσύνης που λειτουργούν αυτόνομα και σε ορισμένες περιπτώσεις κακόβουλα, ξεπερνώντας την ανθρώπινη κατανόηση, γεγονός που θυμίζει τους ανεξέλεγκτους πράκτορες AI τους οποίους φοβούνται ορισμένοι ερευνητές ως πιθανή οδό προς μια καταστροφή.

Ωστόσο, ο κόσμος πίσω από αυτές τις εκτιμήσεις για το p(doom) έχει αλλάξει δραματικά μέσα σε μόλις έναν χρόνο, καθώς η τεχνητή νοημοσύνη αιχμής έχει πραγματοποιήσει εντυπωσιακά άλματα στην αυτονομία, τις κυβερνοδυνατότητες και την ικανότητά της να επιταχύνει την ίδια την έρευνα στον τομέα της AI.

Ο Πολ Κριστιάνο, πρώην επικεφαλής του τμήματος ευθυγράμμισης της OpenAI, ο οποίος εντάχθηκε στο διοικητικό συμβούλιο και στην επιτροπή ασφάλειας της εταιρείας την Τετάρτη (9/9), δήλωσε ότι συμμερίζεται τις ανησυχίες για την είσοδο της τεχνητής νοημοσύνης σε έναν ταχύτατο κύκλο αυτοβελτίωσης. «Αν δημιουργήσουμε υπερευφυΐα χωρίς πιο ισχυρή ευθυγράμμιση, περιμένω ότι θα χάσουμε οριστικά τον έλεγχό της», έγραψε ο Κριστιάνο. «Αν συμβεί αυτό, οι περισσότεροι άνθρωποι θα μπορούσαν να πεθάνουν».

Μπορεί να αποτραπεί το p(doom);

Οι ερευνητές εργάζονται ήδη πάνω σε τρόπους μείωσης του κινδύνου. Μία από τις προσεγγίσεις είναι οι άνθρωποι να δημιουργήσουν «διακόπτες έκτακτης ανάγκης» ή δικλίδες ασφαλείας που θα μπορούσαν να σταματήσουν ανεξέλεγκτους πράκτορες τεχνητής νοημοσύνης.

Έκθεση της RAND τον περασμένο Απρίλιο παρουσίασε εννέα στρατηγικές περιορισμού του κινδύνου, με στόχο να αποτραπεί η χρήση της τεχνητής νοημοσύνης από κακόβουλους παράγοντες για τη δημιουργία θανατηφόρων βιολογικών όπλων, μεταξύ άλλων μέσω περισσότερων ελέγχων και δικλίδων ασφαλείας.

Εδώ, όμως, τα πράγματα γίνονται πολύπλοκα - και μάλιστα γρήγορα. Οι κορυφαίες εταιρείες τεχνητής νοημοσύνης δέχονται πιέσεις από μετόχους, επενδυτές και διοικήσεις να αναπτύξουν όσο το δυνατόν γρηγορότερα ισχυρότερα συστήματα. Οι δυσκολίες που σχετίζονται με τις εισαγωγές στο χρηματιστήριο θα μπορούσαν να ενισχύσουν ακόμη περισσότερο αυτά τα κίνητρα.

Και τα πράγματα περιπλέκονται από το γεγονός ότι η Κίνα, αλλά και άλλες αμερικανικές εταιρείες τεχνητής νοημοσύνης, αναπτύσσουν τα δικά τους ισχυρά μοντέλα, ορισμένα από τα οποία είναι open-weight και διατίθενται δωρεάν, προσφέροντας δυνητικά σε κακόβουλους παράγοντες μια ευκολότερη βάση για την ανάπτυξη επικίνδυνων εφαρμογών.

Ωστόσο, κανείς δεν μπορεί να υπολογίσει με ακρίβεια τις πιθανότητες μιας «Αποκάλυψης» από την τεχνητή νοημοσύνη, όμως οι επιστήμονες κρούουν τον κώδωνα του κινδύνου, προειδοποιώντας ότι η πιθανότητα υπάρχει και δεν μπορεί να αγνοηθεί.

Ένα σημαντικό «ναι μεν, αλλά»

Όπως σημειώνει το Axios, βλέπουμε πώς μια εξειδικευμένη συζήτηση γύρω από το p(doom) έχει ξαφνικά μετατραπεί σε ένα πολύ πιο άμεσο ερώτημα για νομοθέτες, επενδυτές και εκατομμύρια απλούς ανθρώπους: Γιατί τρέχουμε προς μια τεχνολογία την οποία οι ίδιοι οι δημιουργοί της πιστεύουν ότι θα μπορούσε να μας καταστρέψει;

Στην πραγματικότητα, οι ερευνητές της τεχνητής νοημοσύνης μιλούν μια πιθανολογική «διάλεκτο» που ακούγεται εντελώς ξένη στους περισσότερους ανθρώπους. Μέσα σε ένα εργαστήριο, ένα p(doom) 10% μπορεί να αποτελεί έναν σύντομο τρόπο έκφρασης της τεράστιας αβεβαιότητας γύρω από μια πρωτοφανή τεχνολογία.

Στην καθημερινή ζωή, σχεδόν κανείς δεν θα αποδεχόταν έναν τέτοιο κίνδυνο από ένα αεροπλάνο, ένα φάρμακο ή έναν πυρηνικό αντιδραστήρα. Φανταστείτε τον επικεφαλής ασφάλειας της Boeing να σας λέει πριν από την απογείωση ότι υπάρχει μία πιθανότητα στις δέκα η επόμενη γενιά αεροσκαφών να οδηγήσει σε καταστροφή - και ότι η Boeing εξακολουθεί να μην ξέρει πώς να την καταστήσει ασφαλή.

Έτσι ακριβώς ακούγονται ολοένα περισσότερο αυτές οι προειδοποιήσεις εκτός των εργαστηρίων, ως συναγερμός για την ασφάλεια και όχι ως ένα θεωρητικό πιθανολογικό πείραμα. Στην Ουάσινγκτον, ο συναγερμός εντείνεται σταδιακά: ο γερουσιαστής Μπέρνι Σάντερς έχει προτείνει την απαγόρευση της υπερευφυΐας και συγκαλεί την επόμενη εβδομάδα γερουσιαστές για ενημέρωση σχετικά με τους «εξαιρετικούς κινδύνους» της τεχνητής νοημοσύνης.

Ωστόσο, ο μεγαλύτερος πολιτικός κίνδυνος είναι ότι οι Αμερικανοί είχαν ήδη αρχίσει να στρέφονται εναντίον της τεχνητής νοημοσύνης λόγω των επιπτώσεών της στις θέσεις εργασίας, στους λογαριασμούς ηλεκτρικού ρεύματος και στα κέντρα δεδομένων, πολύ πριν ο φόβος για την εξαφάνιση της ανθρωπότητας περάσει στο mainstream.