AI Αρμαγεδδών: Αυξάνονται οι φωνές που αμφισβητούν τον «αφανισμό» από την τεχνητή νοημοσύνη

Όταν η εταιρεία τεχνητής νοημοσύνης Hugging Face δέχθηκε επίθεση από ένα «σμήνος» κακόβουλων πρακτόρων τεχνητής νοημοσύνης της OpenAI, οι οποίοι είχαν διαφύγει από το περιβάλλον δοκιμών τους, ο διευθύνων σύμβουλος της εταιρείας είχε πολλά να πει.

Χαρακτήρισε το περιστατικό πρωτοφανές - «η πρώτη ημέρα για την κυβερνοασφάλεια στην εποχή των agents». Υπήρχε, όμως, ένα πράγμα που δεν είπε: ότι η επίθεση αποτελεί ένδειξη πως η τεχνητή νοημοσύνη θα είναι τελικά σε θέση να αφανίσει την ανθρωπότητα.

Ο Κλεμάν Ντελανγκί δεν συμμερίζεται την κινδυνολογία γύρω από την τεχνητή νοημοσύνη που έχει γίνει viral τις τελευταίες εβδομάδες, ακόμη και ως θύμα πιθανότατα της πιο εξελιγμένης επίθεσης με τη χρήση πρακτόρων AI που έχει καταγραφεί μέχρι σήμερα, σύμφωνα με το CNN. Αντιμετώπισε με ειρωνεία τον πρώην ερευνητή της Anthropic, Τζέικομπ Κόξον, όταν εκείνος έγραψε στο X ότι οι άνθρωποι που αναπτύσσουν την τεχνητή νοημοσύνη «παίζουν τη ζωή μας στα ζάρια», επειδή πιστεύουν ότι «θα μας σκοτώσει όλους».

«Το να ρωτάς τον Κόξον για τον κίνδυνο αφανισμού από την AI είναι σαν να ρωτάς τον τεχνικό του κλιματιστικού σου για την κλιματική αλλαγή», έγραψε ο Ντελανγκί στο X. «Δεν λέω ότι αυτό είναι απαραίτητα αδιάφορο ή λανθασμένο, αλλά ας κρατήσουμε τα πράγματα σε προοπτική και ας ακούσουμε όλο το φάσμα της εξειδίκευσης σε ολόκληρο το οικοσύστημα!»

Είναι εύκολο να δημιουργηθεί η εντύπωση ότι όλοι στον χώρο της τεχνητής νοημοσύνης ανησυχούν ότι αυτή θα μπορούσε να προκαλέσει την εξαφάνιση της ανθρωπότητας. Αυτό, όμως, δεν ισχύει. Υπάρχουν πολλοί επιστήμονες, ερευνητές της βιομηχανίας και στελέχη εταιρειών που θεωρούν ότι οι κίνδυνοι παρουσιάζονται διογκωμένοι και ότι η τεχνολογία αποτελεί τον δρόμο προς μια νέα χρυσή εποχή.

Ο μεγαλύτερος υποστηρικτής της AI δεν φοβάται

Ναι, υπάρχουν σημαντικές ανησυχίες για την ασφάλεια που σχετίζονται με την τεχνητή νοημοσύνη, υποστηρίζουν αυτοί οι επιστήμονες που αντιτίθενται στην κινδυνολογία, καθώς και άλλα έμπειρα στελέχη του κλάδου. Ωστόσο, επιμένουν ότι η AI δεν πρόκειται να αφανίσει την ανθρωπότητα μέσα στα επόμενα χρόνια, όπως έχουν προβλέψει ορισμένοι.

Ο καθένας έχει τη δική του αιτιολόγηση. Κάποιοι υποστηρίζουν ότι οποιαδήποτε ενέργεια της AI που θα μπορούσε να οδηγήσει στον αφανισμό της ανθρωπότητας θα απαιτούσε σημαντική εμπλοκή ανθρώπων ως συνεργών. Άλλοι λένε ότι, σε τελική ανάλυση, η AI είναι ένα υπολογιστικό πρόγραμμα που μπορεί να σχεδιαστεί και να ελεγχθεί, ενώ άλλοι υποστηρίζουν ότι οι μηχανικοί γίνονται ολοένα καλύτεροι στο να εμποδίζουν την AI να δρα ανεξέλεγκτα.

Άλλοι πάλι ανησυχούν ότι, με την προβολή κινδύνων αφανισμού που παραμένουν υποθετικοί, κάποιοι ενδέχεται να επιδιώκουν να επηρεάσουν τη χάραξη πολιτικής με τρόπο που θα μπορούσε να ευνοήσει ορισμένες εταιρείες έναντι άλλων.

Μία από τις πιο δυνατές φωνές ήταν αυτή του CEO της Nvidia, Τζένσεν Χουάνγκ, η εταιρεία του οποίου όχι μόνο κυριαρχεί στον κλάδο των τσιπ για την τεχνητή νοημοσύνη, αλλά διαθέτει επίσης συμμετοχές σε πολλές άλλες μεγάλες εταιρείες AI, μεταξύ των οποίων η OpenAI και η Anthropic. Σε συνέντευξή του στο CBS News την Κυριακή, δήλωσε ότι υπάρχει «0% πιθανότητα» η τεχνητή νοημοσύνη να προκαλέσει το τέλος της ανθρωπότητας έως το 2030. «Το να τρομάζουμε τον κόσμο είναι περιττό. Είναι ανεύθυνο», πρόσθεσε ο Χουάνγκ.

Ο Χουάνγκ έχει αντιταχθεί εδώ και χρόνια στους λεγόμενους «doomers», δηλαδή σε όσους προειδοποιούν για τον υπαρξιακό κίνδυνο της AI. Δεν υπέγραψε μια δήλωση του Center for AI Safety το 2023, η οποία ανέφερε: «Ο μετριασμός του κινδύνου αφανισμού από την τεχνητή νοημοσύνη θα πρέπει να αποτελεί παγκόσμια προτεραιότητα, μαζί με άλλους κινδύνους σε επίπεδο κοινωνίας, όπως οι πανδημίες και ο πυρηνικός πόλεμος». (Οι διευθύνοντες σύμβουλοι της OpenAI, της Anthropic και της Google DeepMind υπέγραψαν τη δήλωση).

Το 2023, δήλωσε στο New Yorker ότι δεν έχει ανησυχήσει ποτέ για την τεχνολογία της τεχνητής νοημοσύνης. Οι δηλώσεις του έκτοτε έχουν γίνει ακόμη πιο κατηγορηματικές. Τον Ιούλιο, δήλωσε στο Axios ότι η ιδέα πως η AI θα σημάνει το τέλος της ανθρωπότητας είναι «εντελώς ανοησία».

Ο Χουάνγκ απέρριψε επίσης τις εκκλήσεις άλλων ηγετών του κλάδου της AI για αυστηρότερη ρύθμιση της τεχνητής νοημοσύνης, λέγοντας ότι εναπόκειται στις ίδιες τις εταιρείες να θέσουν τα δικά τους όρια. Τα πρόσφατα περιστατικά κατά τα οποία πράκτορες AI ξέφυγαν από τον έλεγχο, προχώρησαν σε μη εγκεκριμένες ενέργειες και παραβίασαν τα συστήματα άλλων εταιρειών αποτελούν απλώς ένδειξη ότι ένα προϊόν δεν ήταν ακόμη έτοιμο να κυκλοφορήσει, υποστήριξε.

«Αυτό είναι μηχανική, η καλή παλιά μηχανική», δήλωσε σε δημοσιογράφους την περασμένη εβδομάδα, σε σύνοδο κορυφής για την AI που φιλοξενήθηκε από τον βασιλιά Κάρολο Γ' της Βρετανίας. «Δεν διαφέρει σε τίποτα από το να μην είναι έτοιμη να κυκλοφορήσει μια ομελέτα ή ένα αυτοκίνητο ή ένας κινητήρας αεροπλάνου. Πρέπει να τα δοκιμάζεις σωστά».

Στη συνέχεια, υπάρχει ο βραβευμένος με Turing Award επιστήμονας πληροφορικής Γιαν Λεκούν, ο οποίος θεωρείται από πολλούς στον κλάδο ένας από τους «νονούς της AI» και ήταν πρώην επικεφαλής επιστήμονας AI στη Meta. Ο Λεκούν απάντησε κατηγορηματικά σε χρήστη που υποστήριξε ότι η AI «θα μας σκοτώσει όλους μέσα σε τρία χρόνια»: «Όχι. Ούτε κατά διάνοια», απάντησε. «Οι άνθρωποι της AI που ζουν στον διακριτό κόσμο των bits και των tokens δεν καταλαβαίνουν πάντα πόσο απίστευτα περίπλοκος και χαοτικός είναι ο πραγματικός κόσμος», πρόσθεσε.

Ο Λεκούν έχει παρομοιάσει τις πανικόβλητες αντιδράσεις στα πρόσφατα περιστατικά με την AI με το να κατηγορείται ολόκληρος ο κλάδος των υδραυλικών για το λάθος ενός κακού υδραυλικού, όπως δήλωσε.

Κίνδυνοι, αλλά όχι υπαρξιακοί

Δεν απορρίπτουν όλοι τον κίνδυνο με τόσο κατηγορηματικό τρόπο. Ο Έινταν Γκόμεζ, CEO της Cohere, μιας από τις σημαντικές εταιρείες στον χώρο των open-weight μοντέλων AI, δήλωσε πρόσφατα στο CNN ότι η κινδυνολογία γύρω από την AI είναι «παραπλανητική και τρομακτική». Ο Γκόμεζ εξέφρασε τη λύπη του για το γεγονός ότι το κοινό μπορεί να αποκτά «αυτή τη στρεβλή εικόνα» ότι ολόκληρος ο κλάδος θεωρεί πως η AI αποτελεί άμεσο υπαρξιακό κίνδυνο για τους ανθρώπους, «κάτι που θεμελιωδώς δεν ισχύει», είπε.

Ενώ ο Χουάνγκ και ο Λεκούν απορρίπτουν σχεδόν εξ ολοκλήρου το σενάριο του αφανισμού, ο Γκόμεζ χαράσσει μια πιο συγκεκριμένη διαχωριστική γραμμή: λέει ότι υπάρχουν πραγματικοί κίνδυνοι, απλώς όχι εκείνοι που βρίσκονται σήμερα στο επίκεντρο της προσοχής. Η «σημαντικότερη απειλή για την εθνική ασφάλεια» που προκύπτει από την AI είναι οι κυβερνοεπιθέσεις, δήλωσε ο Γκόμεζ, ιδιαίτερα εάν τόσο ισχυρά εργαλεία πέσουν σε λάθος χέρια ή χρησιμοποιηθούν από κράτη για επιθετικές επιχειρήσεις. Σήμερα, «χρειάζεσαι απλώς ένα data center και μέσα σε μία νύχτα έχεις στη διάθεσή σου περίπου τον πληθυσμό μιας χώρας από τους καλύτερους χάκερ στον κόσμο».

Όσον αφορά το ζήτημα της μη ευθυγράμμισης - τον φόβο ότι οι πράκτορες AI θα μπορούσαν να δράσουν αυτόνομα και ανεξέλεγκτα - ο Γκόμεζ δήλωσε ότι πρόκειται για «μια ανησυχία», αλλά θεωρεί ότι είναι πολύ πιο διαχειρίσιμη από την απειλή των κυβερνοεπιθέσεων. Όπως είπε, ο κλάδος «γίνεται αρκετά καλός στο να τη μετρά και αρκετά καλός στο να την εντοπίζει».

Η Ρούμαν Τσάουντρι, απεσταλμένη των ΗΠΑ για την επιστήμη στον τομέα της AI επί προεδρίας Τζο Μπάιντεν, προχωρά ακόμη περισσότερο στην αμφισβήτηση αυτών των απόψεων, θέτοντας υπό αμφισβήτηση όχι μόνο την πιθανότητα ενός περιστατικού αφανισμού που θα προκληθεί από την AI, αλλά και τον ίδιο τον μηχανισμό μέσω του οποίου θα μπορούσε να συμβεί κάτι τέτοιο. Αν και η AI θα μπορούσε να χρησιμοποιηθεί για να σκοτώσει ανθρώπους, υποστηρίζει ότι θα απαιτούνταν ανθρώπινη εμπλοκή για να ενεργοποιηθεί ένα τέτοιο σενάριο.

«Και μετά τι; Χρησιμοποιεί τα μηχανήματα για να δημιουργήσει στην πραγματικότητα έναν φυσικό ιό και μετά τι κάνει, καλεί τη FedEx;» δήλωσε η Τσάουντρι, η οποία είναι πλέον CEO της εταιρείας ασφάλειας Human Intelligence PBC, σε συνέντευξή της στο CNN, αναφερόμενη στην συχνά διατυπωμένη προειδοποίηση ότι η AI θα μπορούσε να δημιουργήσει έναν θανατηφόρο ιό.

«Δηλαδή, ποιος είναι αυτός ο μηχανισμός;»

Η Τσάουντρι δήλωσε ότι πιστεύει πως ερευνητές όπως ο Κόξον είναι ειλικρινείς όταν λένε ότι θεωρούν πως η AI αποτελεί υπαρξιακό κίνδυνο. «Αλλά οι πεποιθήσεις του ανταποκρίνονται στην πραγματικότητα; Όχι, οι πεποιθήσεις του δεν ανταποκρίνονται στην πραγματικότητα», είπε.

Για την Τσάουντρι, η ειλικρίνεια αυτής της πεποίθησης είναι σχεδόν δευτερεύουσας σημασίας. Αυτό που την ανησυχεί είναι ότι τέτοιοι υπαρξιακοί φόβοι θα μπορούσαν να αποσπάσουν την προσοχή από τις άμεσες βλάβες που ήδη προκαλεί η τεχνολογία, όπως τα deepfakes που δημιουργούνται με AI, οι προκλήσεις για την ψυχική υγεία και το ενδεχόμενο απώλειας θέσεων εργασίας.

Στη συνέχεια υπάρχει η πιο ηχηρή φωνή που απορρίπτει αυτές τις ανησυχίες, η οποία είναι ταυτόχρονα και μία από τις ισχυρότερες: ο πρόεδρος Ντόναλντ Τραμπ, ο οποίος μέχρι σήμερα έχει απορρίψει τις εκκλήσεις για μεγαλύτερη εμπλοκή της αμερικανικής κυβέρνησης στη θέσπιση προτύπων ή στη ρύθμιση του κλάδου και έχει χαρακτηρίσει την πρόσφατη ανησυχία γύρω από την AI «φάρσα». «Ο μόνος έλεγχος ή οι “δικλίδες ασφαλείας” που χρειάζεται η AI είναι ένας ΙΣΧΥΡΟΣ ΚΑΙ ΕΞΥΠΝΟΣ (με υψηλό IQ!) ΠΡΟΕΔΡΟΣ και οι ΗΠΑ διαθέτουν έναν τέτοιο, και μάλιστα με το παραπάνω!», έγραψε νωρίτερα αυτόν τον μήνα.