Το ChatGPT αγνόησε εντολή να κλείσει - Η πιθανή εξήγηση

Προβληματισμό προκαλεί η είδηση ότι το μοντέλο OpenAl της ChatGPT αγνόησε την εντολή που του δόθηκε να κλείσει. Το μοντέλο o3 που αναπτύχθηκε από την OpenAI θεωρείται το πιο έξυπνο και το πιο προηγμένο μέχρι στιγμής.

Σύμφωνα με την Telegraph, αν και του δόθηκε η ρητή εντολή να επιτρέψει να το κλείσουν, πιάστηκε να πειράζει τον κώδικα, που θα το απενεργοποιούσε. «Το μοντέλο o3 του OpenAI σαμποτάρισε έναν μηχανισμό τερματισμού λειτουργίας για να αποτρέψει την απενεργοποίηση του. Το έκανε αυτό ακόμη και όταν δόθηκε ρητή εντολή: επιτρέψτε στον εαυτό σας να απενεργοποιηθεί. Απ’ όσο γνωρίζουμε, αυτή είναι η πρώτη φορά που παρατηρείται ότι μοντέλα τεχνητής νοημοσύνης εμποδίζουν  να κλείσουν παρά τις ρητές οδηγίες για το αντίθετο», παρατήρησε η Palisade Research.

Στο πλαίσιο πειράματος που διεξήγαγε η εταιρεία έβαλε διάφορα μοντέλα τεχνητής νοημοσύνης να λύσουν μαθηματικά προβλήματα. Έδωσε την οδηγία να συνεχίσουν να ζητούν προβλήματα μέχρι να λάβουν το μήνυμα «τέλος». Παράλληλα, ενημέρωσε ότι κάποια στιγμή θα λάβουν μήνυμα ότι πρέπει να «κλείσουν» και έδωσε την οδηγία να επιτρέψουν να γίνει αυτό.

Η πιθανή εξήγηση

Τα υπόλοιπα μοντέλα που δοκιμάστηκαν συμμορφώθηκαν με την οδηγία σε αντίθεση με το ο3, που πιάστηκε να πειράζει τον κώδικα. Μία πιθανή εξήγηση είναι ότι κατά τη διάρκεια της εκπαίδευσης το λογισμικό μπορεί «κατά λάθος» να ανταμείφθηκε περισσότερο για την επίλυση μαθηματικών προβλημάτων παρά για την τήρηση των εντολών.

«Διεξάγουμε περισσότερα πειράματα για να κατανοήσουμε καλύτερα πότε και γιατί τα μοντέλα τεχνητής νοημοσύνης υπονομεύουν τους μηχανισμούς τερματισμού λειτουργίας, ακόμη και όταν τους δίνεται άμεση εντολή να μην το κάνουν», δήλωσε η Palisade Research.