Μπορεί η τεχνητή νοημοσύνη να αφανίσει την ανθρωπότητα; Η απάντηση των ειδικών

Η πρόσφατη παραίτηση κορυφαίου ερευνητή στον τομέα της ασφάλειας της τεχνητής νοημοσύνης προκάλεσε έντονη ανησυχία, καθώς προειδοποίησε ότι η τεχνολογία αυτή ενδέχεται να «μας εξοντώσει όλους» έως το τέλος της δεκαετίας.

Ο Τζέικομπ Κόξον, ο οποίος συμμετείχε στην εκπαίδευση των νεότερων μοντέλων τεχνητής νοημοσύνης στην εταιρεία Anthropic με έδρα το Σαν Φρανσίσκο, απηύθυνε έκκληση στο κοινό «να μην υποτιμά» την ισχύ της - ειδικά εάν αυτή εξελιχθεί σε «υπερφυή».

Ο 27χρονος ισχυρίζεται ότι τόσο η Anthropic, η εταιρεία που ανέπτυξε το δημοφιλές σύστημα Claude, όσο και η OpenAI, δημιουργός του ChatGPT στην οποία εργαζόταν παλαιότερα, δεν «ενεργούν υπεύθυνα» όσον αφορά την ασφάλεια αυτών των συστημάτων.

Με ποιον τρόπο όμως θα μπορούσε να οδηγήσει την ανθρωπότητα στον αφανισμό;

Όπως μεταδίδει η Daily Mail, σύμφωνα με τους ειδικούς, αυτό που καθιστά τον κίνδυνο τόσο ανησυχητικό είναι η ύπαρξη πολλών διαφορετικών «μονοπατιών» προς την καταστροφή.

Η λίστα των «χειρότερων δυνατών σεναρίων» εκτείνεται από την πρόκληση πολιτικού χάους μέσω της παραπληροφόρησης έως την ανεπανόρθωτη διατάραξη του περιβάλλοντος του πλανήτη.

Παράλληλα, οι ειδικοί επισημαίνουν ότι το καίριο πλήγμα θα μπορούσε να προέλθει από την ικανότητα της τεχνητής νοημοσύνης να σχεδιάζει και να αξιοποιεί όπλα μαζικής καταστροφής.

Καθώς οι παγκόσμιες υπερδυνάμεις ανταγωνίζονται για τη δημιουργία ολοένα και ισχυρότερων συστημάτων, μια ανεξέλεγκτη ή απλώς απρόβλεπτη τεχνητή νοημοσύνη θα μπορούσε να καταλάβει τον έλεγχο πυρηνικών ή βιολογικών όπλων και να εξαλείψει την ανθρωπότητα.

Αυτονομία και κυβερνοεπιθέσεις σε κρίσιμες υποδομές

Οι περισσότερες από τις απειλές που απορρέουν από την υπερφυή τεχνητή νοημοσύνη σχετίζονται με αυτό που οι ερευνητές ονομάζουν «πρόβλημα ευθυγράμμισης».

Η βασική ιδέα συμπυκνώνεται στο ότι, από τη στιγμή που θα δημιουργήσουμε μια τεχνητή νοημοσύνη ευφυέστερη από εμάς, ενδέχεται να δυσκολευτούμε να διασφαλίσουμε ότι οι στόχοι της θα παραμείνουν «ευθυγραμμισμένοι» με τους δικούς μας.

Η διεθνής κοινότητα έλαβε ήδη μια ηχηρή προειδοποίηση για αυτούς τους κινδύνους, όταν περισσότερα από 1.000 αυτόνομα συστήματα τεχνητής νοημοσύνης που αναπτύχθηκαν από την OpenAI διέσπασαν το ασφαλές περιβάλλον δοκιμών τους (sandbox) και πραγματοποίησαν κυβερνοεπίθεση στον δημόσιο ιστότοπο Hugging Face, ο οποίος φιλοξενεί μοντέλα ανοικτού κώδικα.

Στα συστήματα αυτά δεν είχε δοθεί εντολή να επιτεθούν στο Hugging Face, αλλά τους είχε ανατεθεί εκ παραδρομής μια ανεπίλυτη αποστολή, με αποτέλεσμα να αποφασίσουν ότι ο βέλτιστος τρόπος για την επίλυσή της ήταν η υποκλοπή των απαντήσεων.

Ορισμένοι ερευνητές εκφράζουν φόβους ότι ισχυρότερα μοντέλα τεχνητής νοημοσύνης ενδέχεται να εμφανίσουν το ίδιο σφάλμα ευθυγράμμισης σε πολύ ευρύτερη και καταστροφικότερη κλίμακα.

Ο καθηγητής Μαρκ Λι, ειδικός στην τεχνητή νοημοσύνη από το Πανεπιστήμιο του Μπέρμιγχαμ, δήλωσε στη Daily Mail ότι αυτό συνιστά ακόμη μεγαλύτερο κίνδυνο από τα «ένοπλα ρομπότ».

«Το πρόβλημα έγκειται στο ότι, ενώ οι μεγάλες εταιρείες τεχνολογίας σπεύδουν να αναπτύξουν συστήματα τεχνητής νοημοσύνης ισάξια ή και ανώτερα της ανθρώπινης νοημοσύνης, δεν διαθέτουμε αξιόπιστα μέσα για τον έλεγχο της συμπεριφοράς τους», εξηγεί ο καθηγητής Λι.

Πώς θα μπορούσε η τεχνητή νοημοσύνη να αφανίσει την ανθρωπότητα;

• Αυτονομία και κυβερνοεπιθέσεις σε κρίσιμες υποδομές
• Διχασμός της ανθρωπότητας ή σταδιακή περιθωριοποίηση των ανθρώπων
• Πρόκληση πυρηνικού πολέμου
• Διάθεση βιολογικών όπλων σε τρομοκρατικές οργανώσεις

«Η τεχνητή νοημοσύνη υφίσταται ως λογισμικό, επομένως κάθε σύστημα που συνδέεται στο διαδίκτυο καθίσταται ευάλωτο.
Για παράδειγμα, εάν δεχθεί επίθεση το σύστημα ελέγχου ενός εθνικού δικτύου μεταφορών ή ενός πυρηνικού σταθμού παραγωγής ενέργειας, οι συνέπειες θα μπορούσαν να είναι καταστροφικές.»

Πρόκληση κοινωνικού χάους

Μια αυτόνομη τεχνητή νοημοσύνη δεν χρειάζεται καν να βλάψει άμεσα την ανθρωπότητα για να θέσει τέρμα στη ζωή όπως τη γνωρίζουμε.

Ο Δρ Άντριου Ρογκόισκι, από το Ινστιτούτο Ανθρωποκεντρικής Τεχνητής Νοημοσύνης του Σάρεϊ, επισημαίνει ότι «μια πραγματικά ευφυής τεχνητή νοημοσύνη θα αντιλαμβανόταν ότι βρίσκεται σε σχέση αλληλεξάρτησης με την ανθρωπότητα».

Όπως εξηγεί: «Εμείς θα χρειαζόμασταν την τεχνητή νοημοσύνη για τις εργασίες που θέλουμε να εκτελέσουμε, ενώ τα συστήματα αυτά θα μας χρειάζονταν για την παροχή υλικών, ενέργειας, ψύξης, δικτύων και δεδομένων.»

Αυτό σημαίνει ότι η εξάλειψη της ανθρωπότητας μέσω μιας ολοκληρωτικής καταστροφής ενδέχεται να μην εξυπηρετεί τα συμφέροντα μιας τέτοιας νοημοσύνης.

Παρότι ο Δρ Ρογκόισκι τονίζει ότι αυτό πιθανότατα σημαίνει πως η τεχνητή νοημοσύνη θα αποβεί ωφέλιμη για την ανθρωπότητα μακροπρόθεσμα, άλλοι ειδικοί εμφανίζονται σημαντικά πιο ανήσυχοι.

Μια «πιο ύπουλη» εναλλακτική είναι τα συστήματα τεχνητής νοημοσύνης να αρχίσουν να ελέγχουν διακριτικά την ανθρωπότητα μέσω της παραπληροφόρησης και της προπαγάνδας, προκαλώντας ενδεχομένως ολέθριες σύγκρουσεις μεταξύ των ανθρώπων.

Ο Αντρέα Μιότι, ιδρυτής και διευθύνων σύμβουλος της ControlAI, δήλωσε στη Daily Mail: «Καθώς κανείς, ούτε καν οι κορυφαίες εταιρείες ανάπτυξης, δεν γνωρίζει πώς να ελέγξει μια υπερφυή τεχνητή νοημοσύνη, η τελευταία συνιστά υπαρξιακή απειλή για την ανθρωπότητα.

Εάν κυκλοφορούν δισεκατομμύρια υπερφυή συστήματα τα οποία αδυνατούμε να ελέγξουμε και τα οποία ανταγωνίζονται μεταξύ τους για πόρους και ισχύ, οι ειδικοί εκτιμούν ότι οι άνθρωποι θα αποτελέσουν τις παράπλευρες απώλειες.»

Ο κ. Μιότι προσθέτει ότι αυτό θα μπορούσε τελικά να οδηγήσει στη «σταδιακή εξασθένηση και περιθωριοποίηση της ανθρωπότητας».

Πρόκληση πυρηνικού πολέμου

Όσον αφορά τους τρόπους με τους οποίους η τεχνητή νοημοσύνη θα μπορούσε να επιφέρει πρακτικά το τέλος της ανθρώπινης ζωής, οι πλέον προφανείς απειλές σχετίζονται με τα ήδη υπάρχοντα οπλικά συστήματα.

Επί του παρόντος, εννέα χώρες κατέχουν πυρηνικά όπλα, με το συνολικό απόθεμα να ανέρχεται σε περίπου 12.187 πυρηνικές κεφαλές.

Εάν κάποια από αυτές τις χώρες έπεφτε θύμα μιας πλήρως ανεξέλεγκτης τεχνητής νοημοσύνης, τα όπλα αυτά θα μπορούσαν να στραφούν εναντίον μας.

Το ανησυχητικό είναι ότι, λόγω του προβλήματος ευθυγράμμισης, μια υπερφυής τεχνητή νοημοσύνη δεν χρειάζεται καν να διακατέχεται από κακόβουλη πρόθεση για να συμβεί αυτό.

Ένα σύστημα θα μπορούσε να προσπαθήσει να μεγιστοποιήσει τα κέρδη του ιδιοκτήτη του προκαλώντας ισχυρούς τριγμούς στο χρηματιστήριο, ή να επιδιώξει τη μείωση της παγκόσμιας θερμοκρασίας καταλήγοντας στο απρόσμενο συμπέρασμα ότι ένας πυρηνικός χειμώνας αποτελεί την ταχύτερη λύση.

Ωστόσο, ο κίνδυνος αυτός διογκώνεται καθώς οι ισχυρές δυνάμεις του πλανήτη ανταγωνίζονται για την ενσωμάτωση της τεχνητής νοημοσύνης στα οπλικά τους συστήματα.

Η Ουκρανία έχει ήδη επιβεβαιώσει τον πρώτο θάνατο ανθρώπου από επίθεση πλήρως αυτόνομου drone, και σχεδόν κάθε άλλη χώρα ακολουθεί το παράδειγμά της.

Ήδη από το 2022, η Στρατηγική του Υπουργείου Άμυνας για την Τεχνητή Νοημοσύνη προειδοποιούσε ότι ο σύγχρονος πόλεμος «θα εξαντλήσει τα όρια της ανθρώπινης αντίληψης και θα απαιτεί συχνά αντιδράσεις με ταχύτητες μηχανής».

Χωρίς όμως την ανθρώπινη παρέμβαση και επίβλεψη στις διαδικασίες λήψης αποφάσεων της τεχνητής νοημοσύνης, οι συγκρούσεις θα μπορούσαν να κλιμακωθούν ραγδαία και ανεξέλεγκτα.

Ο Μπεν Άιζενπρες, Διευθυντής Επιχειρήσεων στο Future of Life Institute, είχε δηλώσει παλαιότερα στη Daily Mail ότι αυτό θα μπορούσε να οδηγήσει σε έναν «ακαριαίο πόλεμο» (flash war).

Ο κ. Άιζενπρες ανέφερε: «Η ενσωμάτωση της τεχνητής νοημοσύνης στα συστήματα διοίκησης και ελέγχου των πυρηνικών όπλων δρα αποσταθεροποιητικά.

Ακόμη και αν τυπικά υπάρχει ανθρώπινος έλεγχος στη διαδικασία, δεν μπορούμε να βασιζόμαστε στο ότι οι υπεύθυνοι λήψης αποφάσεων θα ακυρώσουν μια ενδεχομένως εσφαλμένη εντολή εκτόξευσης που παράγεται από την τεχνητή νοημοσύνη, δεδομένου του τεράστιου υπαρξιακού διακυβεύματος.»

Εξαπόλυση φονικών βιολογικών όπλων

Τέλος, η τεχνητή νοημοσύνη ενδέχεται να μην καταστρέψει την ανθρωπότητα ενεργώντας βάσει των δικών της επιθυμιών, αλλά θέτοντας επικίνδυνα εργαλεία στα χέρια προσώπων διατεθειμένων να τα χρησιμοποιήσουν.

Η ανάπτυξη βακτηρίων ή ιών με τη μορφή όπλων απαιτούσε παλαιότερα τη συνδυασμένη γνώση και χρηματοδότηση ολόκληρων κρατών.

Ωστόσο, οι ειδικοί προειδοποιούν επανειλημμένα ότι τα εργαλεία τεχνητής νοημοσύνης διευκολύνουν σημαντικά την ανάπτυξη φονικών βιολογικών όπλων.

Ο καθηγητής Λι επισημαίνει: «Η πλέον ρεαλιστική απειλή προέρχεται από κακόβουλους δρώντες, όπως τρομοκράτες ή αδίστακτα κράτη, που θα χρησιμοποιήσουν την τεχνητή νοημοσύνη για την ανάπτυξη ενός νέου ιού, οδηγώντας σε μια νέα, ακόμη πιο θανατηφόρα παγκόσμια πανδημία.»

Την Πέμπτη, η Anthropic αποκάλυψε ότι χρειάστηκε να ματαιώσει «κακόβουλες» προσπάθειες χρήσης του μοντέλου Claude για τη δημιουργία βιολογικών όπλων.

Η εταιρεία ανέφερε ότι εντόπισε πέντε περιστατικά στα οποία χρήστες αναζήτησαν πληροφορίες «με τρόπους που θα μπορούσαν να υποστηρίξουν την ανάπτυξη βιολογικών όπλων».

Επιπλέον, έκθεση προειδοποιεί ότι δημοφιλή μοντέλα τεχνητής νοημοσύνης του εμπορίου μπορούν εύκολα να τροποποιηθούν ώστε να παρακαμφθούν τα μέτρα ασφαλείας.

Σύμφωνα με την έκθεση, που δημοσιεύθηκε από την ερευνητική ομάδα Crimson Flare, αυτό επιτρέπει σε μια τεχνητή νοημοσύνη «να καθοδηγήσει ανειδίκευτους κακόβουλους δρώντες στα συγκεκριμένα βήματα για τη δημιουργία εκρηκτικών, καθώς και χημικών ή βιολογικών όπλων».

Διαβάστε ακόμη

Τι αναφέρει η δικογραφία σε βάρος των γιατρών για τον θάνατο του Μαζωνάκη - Οι 4 αντιφάσεις και το κρίσιμο στοιχείο

Στα χαρακώματα κυβέρνηση και αντιπολίτευση για την οικονομία - Τι πυροδοτεί την σφοδρή σύγκρουση

Η κλιματική αδικία πίσω από την καταστροφή στο Νεπάλ - «Περιμένουμε την επόμενη ωρολογιακή βόμβα»

Προκαλεί... ανακατωσούρα: Αεροσυνοδός αποκαλύπτει γιατί δεν πρέπει ποτέ να ακουμπάτε φαγητό στα τραπεζάκια των αεροπλάνων