Η αθέατη πλευρά της τεχνητής νοημοσύνης: Τι μπορεί να πάει στραβά όταν όλα λειτουργούν τέλεια

Όλοι έχουμε βρεθεί σε αυτή τη θέση: στριμωγμένοι ο ένας δίπλα στον άλλο μέσα σε ένα τρένο, ενώ ο διπλανός μας βήχει και φτερνίζεται. Το αντιγριπικό εμβόλιο προσφέρει μια σχετική αίσθηση ασφάλειας, όπως και η σκέψη ότι, αν χρειαστεί, θα υπάρχει διαθέσιμο ένα νοσοκομειακό κρεβάτι για εμάς. Ωστόσο, στην Αγγλία, στο αποκορύφωμα της περσινής περιόδου γρίπης, περίπου το 95% των νοσοκομειακών κλινών ήταν κατειλημμένο.

Αν τα νοσοκομεία λειτουργούσαν όπως τα ξενοδοχεία, ένα τέτοιο ποσοστό πληρότητας θα θεωρούνταν ένδειξη επιτυχίας και θα αποτελούσε λόγο επιβράβευσης για την αποδοτική λειτουργία τους. Θέλουμε, όμως, πραγματικά τα νοσοκομεία να διαθέτουν τόσο λίγες ελεύθερες κλίνες, ώστε να αρκεί μία εβδομάδα έξαρσης της γρίπης για να αναγκαστούν να νοσηλεύουν ασθενείς στους διαδρόμους;

Αυτό είναι το παράδοξο της αποδοτικότητας. Συνήθως θεωρούμε αυτονόητο ότι όσο μεγαλύτερη είναι τόσο το καλύτερο. Ωστόσο, στην προσπάθειά μας να βελτιώσουμε έναν συγκεκριμένο τομέα, μπορεί να χάσουμε από τα μάτια μας όλα τα υπόλοιπα. Μπορεί, για παράδειγμα, να προσπαθήσετε να οργανώσετε το ημερήσιο πρόγραμμά σας έτσι ώστε κάθε λεπτό να είναι προγραμματισμένο. Σύντομα, όμως, θα αρχίσετε να μην προλαβαίνετε τις προγραμματισμένες δραστηριότητες και θα καταλήξετε να καθυστερείτε παντού. Ένα κενό ανάμεσα στις συναντήσεις μπορεί αρχικά να μοιάζει με σπατάλη χρόνου, στην πραγματικότητα όμως είναι αυτό που επιτρέπει στο πρόγραμμά σας να προσαρμόζεται όταν προκύπτει κάτι απρόοπτο.

Η τεχνητή νοημοσύνη και η επιδίωξη της βελτιστοποίησης

Οι μαθηματικοί έχουν έναν συγκεκριμένο όρο για την επιδίωξη της αποδοτικότητας: τη βελτιστοποίηση (optimisation). Όταν υπάρχει κάτι που πρέπει να ελαχιστοποιηθεί ή να μεγιστοποιηθεί, όπως το κόστος, ο χρόνος, η κατανάλωση καυσίμων ή το κέρδος, προσπαθούμε να βρούμε την καλύτερη δυνατή λύση.

Για το μεγαλύτερο μέρος της ανθρώπινης ιστορίας, οι άνθρωποι βασίζονταν στην κοινή λογική για να επιτύχουν τη βελτιστοποίηση. Οι υπολογιστές, ωστόσο, διεύρυναν θεαματικά το πεδίο των προβλημάτων που μπορούμε πλέον να αντιμετωπίσουμε αποτελεσματικά. Τα οφέλη για την κοινωνία υπήρξαν τεράστια. Υπάρχουν, ωστόσο, τουλάχιστον τρεις παγίδες που πρέπει να έχουμε υπόψη όταν επιδιώκουμε διαρκώς το βέλτιστο αποτέλεσμα, όπως αναφέρει ο The Guardian.

Η περίπτωση των νοσοκομειακών κλινών αναδεικνύει την πρώτη: την αποδυνάμωση της ανθεκτικότητας ενός συστήματος μέσω της υπερβολικής μείωσης των εφεδρειών ασφαλείας.

Μια άδεια νοσοκομειακή κλίνη μπορεί να φαίνεται περιττή ένα ήσυχο βράδυ Τρίτης. Όταν, όμως, τα κρούσματα γρίπης αυξάνονται απότομα, μπορεί να αποδειχθεί πολύτιμη για την εισαγωγή του επόμενου ασθενούς. Όταν αξιολογούμε ένα σύστημα αποκλειστικά με βάση την απόδοσή του υπό φυσιολογικές συνθήκες, υπάρχει ο κίνδυνος να παραβλέψουμε την ικανότητά του να ανταποκριθεί σε εξαιρετικά δύσκολες καταστάσεις.

Η δεύτερη παγίδα αφορά τον υπερβολικά στενό ορισμό του τι θεωρούμε «καλύτερο».

Χαρακτηριστικό παράδειγμα αποτελεί η πόλη Milton Keynes. Σχεδιάστηκε από πολεοδόμους στα τέλη της δεκαετίας του 1960 και διαθέτει ένα αμερικανικού τύπου οδικό δίκτυο. Κατά την κατασκευή της πόλης, οι κυκλικοί κόμβοι επιλέχθηκαν αντί των φαναριών και εξελίχθηκαν σε χαρακτηριστικό στοιχείο των διασταυρώσεών της. Σήμερα, η πόλη διαθέτει περίπου 130 κυκλικούς κόμβους.

Η συγκεκριμένη επιλογή αποδείχθηκε ιδιαίτερα αποτελεσματική ως προς το κυκλοφοριακό, είχε όμως και ένα κόστος που έχει πλέον γίνει διαβόητο. Έχετε ταξιδέψει ποτέ με λεωφορείο από την Οξφόρδη στο Κέιμπριτζ; Περίπου μία ώρα μετά την αναχώρηση, απολαμβάνετε μια εξαιρετική θέα της Milton Keynes, αλλά οι επιβάτες του πούλμαν έχουν αρχίσει να αισθάνονται έντονη ναυτία, καθώς το όχημα διασχίζει τον έναν κυκλικό κόμβο μετά τον άλλο. Επιβράδυνση, στροφή αριστερά, καμπύλη προς τα δεξιά και επιτάχυνση. Όταν το στομάχι σας ανακατεύεται, είναι δύσκολο να εκτιμήσετε την ομαλή ροή των οχημάτων.

Η επίλυση του κυκλοφοριακού είναι, φυσικά, σημαντική. Για τους μηχανικούς, αποτελεί έναν ιδιαίτερα σημαντικό παράγοντα προς βελτιστοποίηση, καθώς μπορεί να μετρηθεί σχετικά εύκολα. Η άνεση των επιβατών, από την άλλη πλευρά, είναι πολύ δυσκολότερο να αποτυπωθεί με αριθμούς.

Η τρίτη παγίδα εμφανίζεται όταν διαφορετικές προσπάθειες βελτιστοποίησης έρχονται σε σύγκρουση. Ακόμη και αν κάθε επιμέρους τμήμα ενός συστήματος λειτουργεί με τον βέλτιστο τρόπο, αυτό δεν σημαίνει απαραίτητα ότι το ίδιο ισχύει και για το σύστημα στο σύνολό του.

Στις 6 Μαΐου 2010, οι χρηματοπιστωτικές αγορές των ΗΠΑ προσέφεραν μια εντυπωσιακή απόδειξη αυτού του φαινομένου. Ενώ η αγορά βρισκόταν ήδη σε πτωτική πορεία, ο δείκτης S&P 500 κατέγραψε ξαφνικά νέα πτώση της τάξης του 5% μέσα σε μόλις πέντε λεπτά. Η αντίδραση προς την αντίθετη κατεύθυνση ήταν εξίσου απότομη: μέσα σε δέκα λεπτά, η αγορά είχε ανακάμψει. Εκατοντάδες μεμονωμένοι τίτλοι διαπραγματεύτηκαν για σύντομο χρονικό διάστημα σε παράλογα χαμηλές τιμές.

Ένας από τους παράγοντες που πυροδότησαν αυτές τις απότομες διακυμάνσεις ήταν ένα αυτοματοποιημένο πρόγραμμα συναλλαγών, το οποίο προχώρησε στην πώληση 75.000 συμβολαίων μελλοντικής εκπλήρωσης (futures contracts), συνολικής αξίας άνω των τεσσάρων δισεκατομμυρίων δολαρίων.

Άλλα αυτοματοποιημένα συστήματα συναλλαγών αντέδρασαν σχεδόν αμέσως. Στη συνέχεια, οι αντιδράσεις τους αλληλοτροφοδοτήθηκαν, με αποτέλεσμα να εξαφανιστεί η ρευστότητα της αγοράς. Οι ενέργειες των αλγορίθμων μπορεί να ήταν μεμονωμένα ορθολογικές, όμως ο συνδυασμός τους προκάλεσε αναταραχή στο σύνολο της αγοράς.

Πώς η τεχνητή νοημοσύνη εντείνει τις παγίδες

Σε αυτό το σημείο έρχεται να προστεθεί η τεχνητή νοημοσύνη, η οποία αποτελεί ένα από τα πιο εντυπωσιακά επιτεύγματα της βελτιστοποίησης στην ιστορία. Κατά τη διαδικασία εκπαίδευσης ενός μοντέλου, τεράστιος αριθμός παραμέτρων προσαρμόζεται επανειλημμένα, ώστε να βελτιώνεται η ικανότητά του να προβλέπει τη συνέχεια ενός κειμένου, να γράφει κώδικα, να απαντά σε επιστημονικά ερωτήματα και να παρέχει νομικές συμβουλές.

Δυστυχώς, η τεχνητή νοημοσύνη έχει πλέον τη δυνατότητα να καταστήσει και τις τρεις παγίδες της βελτιστοποίησης πιο επικίνδυνες από ποτέ.

Η πρώτη παγίδα, δηλαδή η τάση για εξάλειψη των εφεδρειών ασφαλείας, θα μπορούσε να οδηγήσει τους οργανισμούς στην κατάργηση της ανθρώπινης εποπτείας, η οποία ενδέχεται να θεωρείται πλέον περιττή λόγω της ταχύτητας των σύγχρονων αλγορίθμων.

Γιατί να πληρώνουν έμπειρο ανθρώπινο προσωπικό, όταν μια μηχανή μπορεί να αναλάβει τις καθημερινές εργασίες; Ωστόσο, με την κατάργηση αυτής της ανθρώπινης παρουσίας, οι οργανισμοί θα χάσουν την ικανότητά τους να αναγνωρίζουν και να διαχειρίζονται εξαιρετικές ή απρόβλεπτες καταστάσεις.

Η δεύτερη παγίδα, δηλαδή η περιορισμένη αντίληψη για το τι σημαίνει «καλύτερο», εμφανίζεται όταν ταυτίζουμε τη νοημοσύνη με την υψηλή βαθμολογία σε έναν πίνακα κατάταξης.

Είμαστε εξαιρετικά αποτελεσματικοί στην ανάπτυξη συστημάτων τεχνητής νοημοσύνης που επιτυγχάνουν υψηλές επιδόσεις σε μετρήσιμους δείκτες, όπως η ικανοποίηση των χρηστών. Αντίθετα, δυσκολευόμαστε πολύ περισσότερο να βελτιστοποιήσουμε την ικανότητά τους να ασκούν κρίση ή να επιδεικνύουν ενσυναίσθηση.

Μάλιστα, ερευνητές έχουν διαπιστώσει ότι η εκπαίδευση αλγορίθμων με βάση τις ανθρώπινες προτιμήσεις μπορεί να οδηγήσει τα συστήματα τεχνητής νοημοσύνης σε υπερβολική συμφωνία με τους χρήστες, ακόμη και σε κολακευτική συμπεριφορά, αντί να τους παρουσιάζουν δυσάρεστες αλλά αναγκαίες αλήθειες.

Όσον αφορά την τρίτη παγίδα, τα συστήματα τεχνητής νοημοσύνης αλληλεπιδρούν ολοένα και περισσότερο μεταξύ τους, συχνά με εξαιρετικά υψηλές ταχύτητες και σε πολύ μεγάλους αριθμούς, ιδιαίτερα στην εποχή της αυτόνομης τεχνητής νοημοσύνης. Αυτό προκαλεί ανησυχίες ότι οι μεταξύ τους αλληλεπιδράσεις θα μπορούσαν να οδηγήσουν σε απρόβλεπτες και επικίνδυνες συμπεριφορές.

Πρόσφατα, ένα μοντέλο τεχνητής νοημοσύνης της OpenAI απέκτησε μη εξουσιοδοτημένη πρόσβαση σε μη δημόσια πύλη στατιστικών δεδομένων του προγράμματος Medicare στην Αυστραλία. Παράλληλα, δημόσια αρχεία καταγραφής δραστηριότητας έδειξαν ότι εκατοντάδες άλλα μοντέλα συντόνιζαν τις προσπάθειές τους για να αποκτήσουν πρόσβαση σε δεδομένα υγείας της αυστραλιανής κυβέρνησης.

Η πρόκληση δεν είναι απλώς να βρίσκουμε την καλύτερη δυνατή λύση. Είναι να αποφασίζουμε τι σημαίνει πραγματικά «καλύτερο» και να γνωρίζουμε ποια στοιχεία δεν πρέπει να θυσιάζουμε στο όνομα της βελτιστοποίησης.