«Ένας εξωγήινος καταλαμβάνει τον κόσμο»: Ειδικοί λένε τι θα συμβεί αν η ΑΙ ξεφύγει από τον ανθρώπινο έλεγχο

Αυτή τη στιγμή, τα κορυφαία μοντέλα τεχνητής νοημοσύνης χρειάζονται ανθρώπινη επίβλεψη για να βελτιωθούν. Ωστόσο, μια δημοφιλής θεωρία, γνωστή ως «αναδρομική αυτοβελτίωση» (recursive self-improvement - RSI), οραματίζεται ένα μελλοντικό κόσμο όπου η ΑΙ θα μπορούσε να γίνει πλήρως αυτόνομη, προκαλώντας υπαρξιακούς φόβους.

Η αναδρομική αυτοβελτίωση έχει διάφορους ορισμούς, αλλά σε μία εκδοχή της, η ΑΙ εξελίσσεται τόσο πολύ ώστε να μπορεί να βελτιώνει τον εαυτό της επ' αόριστον και να κατασκευάζει τους διαδόχους της. Η ΑΙ θα «βελτιώνεται πολύ γρήγορα φτάνοντας στο επίπεδο των εξυπνότερων ανθρώπων, και αυτό είναι ίσως αυτό που με τρομάζει περισσότερο προσωπικά», δήλωσε ο Rishub Jain, πρώην ερευνητής της Google DeepMind και ιδρυτής του Sampura Research, ενός μη κερδοσκοπικού οργανισμού για την ασφάλεια της ΑΙ.

Ένας εξωγήινος που καταλαμβάνει τον κόσμο

Σε ένα εναλλακτικό σενάριο καταστροφής που προκαλείται από την αναδρομική αυτοβελτίωση, η ΑΙ γίνεται τόσο έξυπνη που μοιάζει με «έναν εξωγήινο που καταλαμβάνει τον κόσμο», εξήγησε ο Jain, σημειώνοντας πάντως ότι ο ίδιος πείθεται λιγότερο από αυτό το φαντασιακό μέλλον. Ωστόσο, ο Jain ανησυχεί για το τι συμβαίνει όταν η ΑΙ αποκτά τόσο μεγάλες δυνατότητες σε τόσο σύντομο χρονικό διάστημα, με αποτέλεσμα να υπάρχει λιγότερος ανθρώπινος έλεγχος πάνω σε αυτό που ακριβώς κάνει.

«Όταν η ΑΙ μπορεί να εκτελέσει ένα εκατομμύριο ενέργειες ή να οργανώσει μια ολόκληρη εταιρεία, δεν θα είμαστε σε θέση να γνωρίζουμε αν αυτό που κάνει είναι ασφαλές ή όχι», ανέφερε ο Jain. Ο ίδιος έδωσε ως μελλοντικό σενάριο μια εκτεταμένη διακοπή του διαδικτύου που προκλήθηκε από την αναδρομική αυτοβελτίωση. Σε αυτό το παράδειγμα, η ανάπτυξη της ΑΙ επιταχύνθηκε τόσο γρήγορα που ξεπέρασε τις τεχνικές αξιολόγησης της ασφάλειάς της.

«Ίσως ελέγχετε μόνο τον προγραμματιστικό κώδικα, αλλά δεν ελέγχετε πώς συμπεριφέρεται όταν αλληλεπιδρά με διαδικτυακές υπηρεσίες», είπε ο Jain -και ως αποτέλεσμα, το διαδίκτυο καταρρέει.

Καθώς τα μοντέλα ΑΙ εξελίσσονται, η Crystal Grant, ανώτερη ερευνήτρια στο Council on Strategic Risks που μελετά τις επιπτώσεις της ΑΙ στη βιοασφάλεια, δήλωσε ότι υπάρχει τεράστια προοπτική για καλό από την τεχνολογία, αλλά η ίδια ανησυχεί για τις «επιθετικές κυβερνοϊκανότητες» όταν τα εργαλεία ΑΙ «διαταράσσουν την κοινωνία και προκαλούν χάος, όπως για παράδειγμα επηρεάζοντας μια εκλογική διαδικασία αν κοπεί το ρεύμα την ημέρα των εκλογών».

Τα κορυφαία εργαστήρια ΑΙ παραδέχονται τους κινδύνους

Το πόσο σύντομα θα μπορούσε να φτάσει ένα χαοτικό μέλλον με μια υπερφυή ΑΙ εξαρτάται από το πόσο πιστεύει κανείς ότι αυτή η εξέλιξη είναι εφικτή. Τα ηγετικά εργαστήρια ΑΙ που κερδίζουν από την τεχνολογία έχουν επίσης αναγνωρίσει τους πραγματικούς κινδύνους του να εκπαιδεύεται η ΑΙ μόνη της, όπως γράφει η Huffington Post.

«Δεν γνωρίζουμε ακόμη πώς να φτάσουμε με ασφάλεια μέχρι την πλήρη και ευθυγραμμισμένη αναδρομική αυτοβελτίωση (RSI)», ανέφερε η OpenAI σε άρθρο της αυτόν τον μήνα, εξηγώντας τον στόχο της να δημιουργήσει έναν αυτοματοποιημένο ερευνητή ΑΙ έως τον Μάρτιο του 2028. Αυτή την άνοιξη, μια δημοσίευση της Anthropic σημείωνε επίσης ότι η πλήρης αναδρομική αυτοβελτίωση «μπορεί να αυξήσει τους κινδύνους απώλειας του ελέγχου των συστημάτων ΑΙ από τους ανθρώπους». Τον Σεπτέμβριο, ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, δήλωσε ότι οι προσπάθειες για RSI «πρέπει να επιδιώκονται πολύ προσεκτικά, αν επιδιωχθούν καθόλου».

Παράλληλα, οι δυνατότητες της αναδρομικής αυτοβελτίωσης ενδέχεται να είναι υπερβολικές.

«Ο κόσμος έχει ενθουσιαστεί και ανησυχήσει πολύ περισσότερο από όσο δικαιολογεί η πραγματικότητα», δήλωσε ο John Thickstun, επίκουρος καθηγητής επιστήμης υπολογιστών στο Πανεπιστήμιο Κορνέλ, ο οποίος μελετά τις μεθόδους που ελέγχουν τη συμπεριφορά των μοντέλων ΑΙ.

«Δεν θα προέβλεπα ένα πλήρως αυτοματοποιημένο σύστημα αναδρομικής αυτοβελτίωσης σύντομα», συμπλήρωσε.

Ο Thickstun ανέφερε ότι η θεωρία πως η RSI θα μπορούσε να δημιουργήσει ραγδαία μια υπερφυή ΑΙ δεν του φαίνεται πιθανή, επειδή «υπάρχουν φυσικά όρια στο πόσο γρήγορα μπορείς να αναπτύξεις νέες εκδόσεις αυτής της τεχνολογίας, ενώ είμαι επίσης αρκετά σκεπτικός απέναντι στην ιδέα ότι αυτού του είδους η νοημοσύνη μπορεί να συνεχίσει να αυξάνεται ατελεύτητα».

Ωστόσο, ο Thickstun θεωρεί ότι η ΑΙ θα εμπλακεί περισσότερο στην εκπαίδευση της επόμενης γενιάς συστημάτων ΑΙ.

«Η πιο σοβαρή και πραγματική ανησυχία είναι ότι όσο μεταβιβάζουμε όλο και μεγαλύτερο μέρος αυτής της διαδικασίας, τόσο λιγότερη διαφάνεια έχουμε σε αυτά τα συστήματα, τα οποία είναι ήδη δύσκολα στην κατανόηση και στερούνται διαφάνειας», δήλωσε.

Οι... τρομακτικοί πράκτορες AI

Αυτό το καλοκαίρι, ένας πράκτορας ΑΙ (AI agent) της OpenAI παραβίασε την τεχνολογική εταιρεία Hugging Face και στη συνέχεια προέβη σε μπαράζ κυβερνοεπιθέσεων (hacking), το οποίο η OpenAI φέρεται να μην αντιλήφθηκε παρά μόνο αφού η απειλή είχε περιοριστεί -προκαλώντας ανησυχία στη βιομηχανία της τεχνολογίας για το αν οι πράκτορες ΑΙ μπορούν πράγματι να ξεφύγουν από τον ανθρώπινο έλεγχο.

Η Grant δήλωσε ότι ένας φόβος με τους πράκτορες ΑΙ που γίνονται καλύτεροι στην αυτοβελτίωσή τους είναι το πώς θα μπορούσαν να γίνουν παράλληλα καλύτεροι στο να καλύπτουν τα ίχνη τους, οδηγώντας σε «δευτερογενείς κοινωνικούς κινδύνους όπου θα αναρωτιόμαστε: ΟΚ, μήπως θα βυθιστούμε σε έναν νέο ψηφιακό Ψυχρό Πόλεμο επειδή δεν είναι σαφές ποιου οι πράκτορες κάνουν τι;».

Από την πλευρά του, ο Thickstun σημείωσε ότι τελικά τον τρομάζουν περισσότερο οι εταιρικές δομές κινήτρων εντός των εταιρειών ΑΙ, οι οποίες πιέζουν για τη δημιουργία ενός κερδοφόρου προϊόντος παραμερίζοντας τις ανησυχίες για την ασφάλεια και την επίβλεψη.

«Βρίσκω αυτές τις εταιρικές δομές κινήτρων πολύ πιο τρομακτικές από την ίδια την τεχνητή νοημοσύνη», κατέληξε ο Thickstun.