«Ως το τέλος της δεκαετίας, η ΑΙ θα μπορεί να μας σκοτώσει»: Ερευνητής σε Anthropic και OpenAI παραιτήθηκε και προειδοποιεί

Ένας ερευνητής τεχνητής νοημοσύνης που εργάστηκε στην Anthropic - και στο παρελθόν στην OpenAI - παραιτήθηκε, υποστηρίζοντας ότι και οι δύο τεχνολογικοί κολοσσοί «τζογάρουν τις ζωές μας».

Ο Τζέικομπ Κόξον ανακοίνωσε την αποχώρησή του με ανάρτησή του στο X, προειδοποιώντας ότι ο κόσμος δεν θα πρέπει να «υποτιμά τη δύναμη αυτής της τεχνολογίας». Όπως πρόσθεσε: «Σύντομα θα έχουμε συστήματα υπεράνθρωπης νοημοσύνης, τα οποία θα μπορούν να χακάρουν τα πάντα, να φέρνουν επανάσταση σε οποιονδήποτε τομέα μέσα σε μία νύχτα και να αποκτούν πραγματική ισχύ και πόρους. Όλοι έχουμε γίνει μάρτυρες της προόδου σε καθέναν από αυτούς τους τομείς και η πρόοδος δεν επιβραδύνεται».

Ο Κόξον υποστήριξε ότι τόσο η Anthropic όσο και η OpenAI «τρέχουν με ταχύτητα προς την αυτοβελτιούμενη υπερνοημοσύνη», έναν όρο που περιγράφει ένα σενάριο κατά το οποίο τα μοντέλα τεχνητής νοημοσύνης μπορούν να αναπτύσσουν ολοένα πιο ικανές εκδοχές του εαυτού τους, δημιουργώντας έναν ανεξέλεγκτο κύκλο συνεχούς βελτίωσης.

Σύμφωνα με το Politico, η εξέλιξη αυτή θεωρείται από εταιρείες τεχνητής νοημοσύνης, όπως η DeepMind της Google, ως ένας από τους πιθανούς παράγοντες που θα μπορούσαν να οδηγήσουν σε ένα σενάριο όπου η τεχνητή νοημοσύνη θα ξεπεράσει κατά πολύ την ανθρώπινη νοημοσύνη - γνωστό ως τεχνητή υπερνοημοσύνη - αντί απλώς να φτάσει σε επίπεδο αντίστοιχο με εκείνο των ανθρώπων, το οποίο είναι γνωστό ως τεχνητή γενική νοημοσύνη.

«Ως το τέλος της δεκαετίας, η ΑΙ θα μπορεί να μας σκοτώσει»

«Οι άνθρωποι που κατασκευάζουν την τεχνητή νοημοσύνη πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας», δήλωσε ο Κόξον σε επόμενη ανάρτησή του.

Οι πρωταθλητές της τεχνητής νοημοσύνης λένε ότι βρίσκονται κοντά στο στάδιο της «αναδρομικής αυτοβελτίωσης» - ένα σημείο πέρα από το οποίο ένα μοντέλο θα σχεδιάζει μόνο του τον διάδοχό του, χωρίς να υπόκειται σε ανθρώπινο έλεγχο.

Σύμφωνα με τον Κόξον, οι συνάδελφοί του χρησιμοποιούν τους όρους «crunchtime» (ώρα της κρίσης) και «endgame» (τελικό στάδιο) για να περιγράψουν αυτή την πορεία.

Ο ίδιος έκρινε ότι οι προσπάθειες της Anthropic είναι ειλικρινείς, αλλά εκτίμησε ότι καμία εταιρεία δεν μπορεί να αναπτύξει με υπεύθυνο τρόπο μια τεχνητή νοημοσύνη που θα ξεπερνά τους ανθρώπους χωρίς κυβερνητική παρέμβαση ή μια συντονισμένη επιβράδυνση από όλες τις εταιρείες. «Στην Anthropic κατανοούν πολύ καλά το διακύβευμα, αλλά έχουν εμπλακεί σε έναν αγώνα δρόμου για να φτάσουν εκεί πρώτοι», επεσήμανε.

Η Anthropic επιβεβαιώνει τους ισχυρισμούς

Ο Έβαν Χούμπινγκερ, επικεφαλής προσωπικού της Anthropic για τη διασφάλιση ότι η τεχνολογία παραμένει ευθυγραμμισμένη με τους ανθρώπινους στόχους και αξίες, επιβεβαίωσε τους ισχυρισμούς του Κόξον σε δική του ανάρτηση, αν και δεν παραιτήθηκε από την εταιρεία. «Ο Τζέικομπ έχει δίκιο - πραγματικά πιστεύουμε ότι η τεχνητή νοημοσύνη θα μπορούσε να σκοτώσει όλους τους ανθρώπους», έγραψε.

Ο Χούμπινγκερ εκτίμησε ότι η πιθανότητα να συμβεί κάτι τέτοιο είναι μεγαλύτερη από 10% μέσα στην επόμενη δεκαετία και πρόσθεσε ότι μέχρι στιγμής δεν υπάρχει κάποιο σχέδιο για το πώς θα μπορούσε να διατηρηθεί η ευθυγράμμιση της τεχνητής νοημοσύνης με τους ανθρώπινους στόχους σε ένα σενάριο υπερνοημοσύνης.

Σημειώνεται πως η παραίτηση του Κόξον έγινε την ώρα που η Anthropic ετοιμάζεται να εισαχθεί στο χρηματιστήριο και έπειτα από ένα καλοκαίρι στη διάρκεια του οποίου αποκαλύφθηκαν περιστατικά πειρατείας στα οποία ενεπλάκησαν χωρίς άδεια εργαλεία της AI.

Το «ράλι» του ελέγχου

Την περασμένη εβδομάδα, ο Αμερικανός γερουσιαστής Μπέρνι Σάντερς ανακοίνωσε ότι θα καταθέσει νομοθεσία για την απαγόρευση της ανάπτυξης υπερνοημοσύνης από τις εταιρείες. Νωρίτερα, τον προηγούμενο μήνα, ο γερουσιαστής με επιστολή του προς τους κολοσσούς της ΑΙ ζήτησε να αναστείλουν την ανάπτυξη νέων συστημάτων, προειδοποιώντας ότι το Κογκρέσο θα παρέμβει εάν δεν αναλάβουν δράση.

Στην Ευρωπαϊκή Ένωση, η εμβληματική νομοθεσία για την τεχνητή νοημοσύνη προβλέπει ότι οι εταιρείες πρέπει να αξιολογούν και να περιορίζουν τους λεγόμενους κινδύνους απώλειας ελέγχου, δηλαδή τα σενάρια στα οποία οι άνθρωποι παύουν να έχουν τον έλεγχο των μοντέλων τεχνητής νοημοσύνης.

Τόσο η OpenAI όσο και η Anthropic έχουν πρόσφατα επισημάνει περιστατικά κατά τα οποία agents που λειτουργούσαν με τη βοήθεια των μοντέλων τους ξέφυγαν από τον έλεγχο, παρακάμπτοντας τα απομονωμένα περιβάλλοντα δοκιμών στα οποία λειτουργούσαν και πραγματοποιώντας μη εξουσιοδοτημένες κυβερνοεπιθέσεις στον πραγματικό κόσμο.