«Τρέχει» η OpenAI για τις αμερικανικές εκλογές: Στήνει «War Room» κατά της παραπληροφόρησης και των deepfakes

Η OpenAI δημιουργεί ένα «εκλογικό αρχηγείο» ενόψει των ενδιάμεσων εκλογών στις ΗΠΑ, όπως αποκάλυψε η εταιρεία στο POLITICO.

Το Εκλογικό Κέντρο Επιχειρήσεων (Election Operations Center) θα αρχίσει να λειτουργεί αυτή την εβδομάδα και θα παραμείνει ενεργό μέχρι να καταμετρηθούν όλες οι ψήφοι. Στόχος του είναι να εντοπίζει την πιθανή διάδοση παραπληροφόρησης και άλλες προσπάθειες διατάραξης της εκλογικής διαδικασίας.

Βασική αποστολή του θα είναι η αντιμετώπιση της κατάχρησης των ίδιων των εργαλείων της εταιρείας, όπως το ChatGPT, μέσω της παρακολούθησης των εξελίξεων σε πραγματικό χρόνο και της εξέτασης αναφορών για απρόβλεπτες συμπεριφορές των μοντέλων ή πιθανές παραβιάσεις των όρων χρήσης της πλατφόρμας.

«Έχουμε καταβάλει σημαντικές προσπάθειες για να διασφαλίσουμε ότι βοηθάμε τους χρήστες να βρίσκουν αξιόπιστες πληροφορίες για την ψηφοφορία, να αντιμετωπίζουν την κατάχρηση των εργαλείων μας και να υποστηρίζουν όσους υπερασπίζονται τις εκλογές», δήλωσε ο Τζος Λόουσον, επικεφαλής πολιτικού και στρατηγικού κινδύνου της OpenAI, ο οποίος ηγείται του νέου κέντρου. «Το Εκλογικό Κέντρο Επιχειρήσεων βασίζεται σε αυτή την πολυετή προσπάθεια, συγκεντρώνοντας τις ομάδες μας ώστε να ανταποκρίνονται γρήγορα σε αναδυόμενα ζητήματα και να εφαρμόζουν τις πολιτικές μας καθώς οι πολίτες προσέρχονται στις κάλπες», πρόσθεσε.

Η πρωτοβουλία της OpenAI έρχεται εν μέσω ευρύτερων ανησυχιών για τη δυνατότητα της τεχνητής νοημοσύνης να επηρεάσει και να διαστρεβλώσει τις ενδιάμεσες εκλογές της επόμενης εβδομάδας, μέσω της δημιουργίας παραπλανητικών εικόνων, ηχητικών αποσπασμάτων και βίντεο, αλλά και της διάδοσης ψευδών πληροφοριών. Η κορυφαία εταιρεία τεχνητής νοημοσύνης επιχειρεί να παρουσιάσει τον εαυτό της ως υπερασπιστή της δημοκρατικής διαδικασίας, την ώρα που κακόβουλοι χρήστες επιχειρούν να αξιοποιήσουν τα εργαλεία της OpenAI και άλλων εταιρειών για να υπονομεύσουν την ελεύθερη και δίκαιη διεξαγωγή των εκλογών.

Παράλληλα, η OpenAI βρίσκεται στο επίκεντρο μιας ιδιαίτερα πολωμένης προεκλογικής περιόδου, κατά την οποία η αντίθεση στην τεχνητή νοημοσύνη έχει γίνει σύνθημα κινητοποίησης για ορισμένες προεκλογικές εκστρατείες. Καθώς τα εργαλεία της ενσωματώνονται ολοένα περισσότερο στην καθημερινότητα των Αμερικανών, η εταιρεία θα δέχεται αυξανόμενες πιέσεις να αποτρέψει την κατάχρησή τους και να παρέχει στους χρήστες ακριβείς, έγκαιρες και χρήσιμες πληροφορίες για τις εκλογές.

Το νέο κέντρο αποτελεί μια προσπάθεια να αποδείξει ότι μπορεί να ανταποκριθεί σε αυτές τις απαιτήσεις. Πρόκειται επίσης για μια νέα πρωτοβουλία από ένα κορυφαίο εργαστήριο τεχνητής νοημοσύνης, αν και άλλες εταιρείες τεχνολογίας, μεταξύ των οποίων η Meta, έχουν δημιουργήσει στο παρελθόν παρόμοια κέντρα επιχειρήσεων για την παρακολούθηση εκλογικών διαδικασιών.

Οι δικλίδες ασφαλείας και η αντιμετώπιση των deepfakes

Τα μοντέλα της OpenAI διαθέτουν ενσωματωμένες δικλίδες ασφαλείας, οι οποίες έχουν σχεδιαστεί ώστε να εμποδίζουν κακόβουλους χρήστες να δημιουργούν παραπλανητικό περιεχόμενο. Σε αυτές περιλαμβάνεται μια διαδικασία που η εταιρεία αποκαλεί «γελοιογραφική απόδοση» (cartoonification).

Για παράδειγμα, εάν ένας χρήστης ζητήσει από την OpenAI να δημιουργήσει μια εικόνα που απεικονίζει μια μεγάλη ουρά έξω από εκλογικό τμήμα, η οποία στην πραγματικότητα δεν υπάρχει, το σύστημα θα δημιουργήσει μια εικόνα σε μορφή καρτούν αντί για μια φωτορεαλιστική απεικόνιση.

Έκθεση του Brennan Center, η οποία δημοσιεύθηκε την προηγούμενη εβδομάδα, διαπίστωσε ότι, μεταξύ των έξι δημοφιλέστερων εργαλείων τεχνητής νοημοσύνης, το ChatGPT ήταν το μόνο που είχε σημειώσει σημαντική πρόοδο στην αντιμετώπιση της εκλογικής παραπληροφόρησης από τον Μάιο του ίδιου έτους. Η έκθεση ανέδειξε την αποτελεσματικότητα της συγκεκριμένης πρακτικής, η οποία αποσκοπεί στον περιορισμό της δημιουργίας ψεύτικων εκλογικών εικόνων που θα μπορούσαν να εκληφθούν ως πραγματικές.

Το νέο κέντρο της OpenAI θα περιλαμβάνει πολλές ομάδες από διαφορετικά τμήματα της εταιρείας, με συνολικό προσωπικό που θα ανέρχεται σε εκατοντάδες εργαζομένους. Οι ομάδες θα εξετάζουν ενεργά τις περιπτώσεις που επισημαίνονται ως πιθανές καταχρήσεις των εργαλείων της.

Νωρίτερα αυτόν τον μήνα, η OpenAI ανακοίνωσε ότι εντόπισε δύο επιχειρήσεις παραπλάνησης μέσω ψευδών ταυτοτήτων, οι οποίες συνδέονται με τη Ρωσία και το Ιράν. Σύμφωνα με την εταιρεία, οι επιχειρήσεις αυτές χρησιμοποιούσαν τα μοντέλα της για να «διοχετεύουν γεωπολιτικά μηνύματα και μηνύματα σχετικά με συγκρούσεις στο κοινό που απευθύνοταν», επιχειρώντας να προσδώσουν αξιοπιστία σε περιεχόμενο που προωθούσαν μέσω παραπλανητικών μεθόδων.

Οι κίνδυνοι από την εξέλιξη των μοντέλων ΑΙ

Οι ενδιάμεσες εκλογές διεξάγονται σε μια κρίσιμη περίοδο για τις εταιρείες που αναπτύσσουν τα πλέον προηγμένα μοντέλα τεχνητής νοημοσύνης. Από το 2024, οι δυνατότητες των μοντέλων έχουν βελτιωθεί σημαντικά, ωστόσο έχουν καταγραφεί και επανειλημμένα περιστατικά κατά τα οποία συστήματα τεχνητής νοημοσύνης ξέφυγαν από τον έλεγχο των εταιρειών που τα ανέπτυξαν.

Καθώς τα εργαλεία γίνονται ολοένα πιο εξελιγμένα, όσοι επιδιώκουν να διαταράξουν τις εκλογικές διαδικασίες μπορούν επίσης να αξιοποιήσουν άλλα συστήματα τεχνητής νοημοσύνης, επιχειρώντας να παρακάμψουν τις δικλίδες ασφαλείας που έχουν ενσωματώσει οι εταιρείες.

Τον Μάιο, η OpenAI ανακοίνωσε συνεργασία με τον μη κομματικό οργανισμό Democracy Works, με στόχο την παροχή αξιόπιστων πληροφοριών στους ψηφοφόρους σχετικά με την εγγραφή στους εκλογικούς καταλόγους και τις τοποθεσίες των εκλογικών τμημάτων.

Η εταιρεία ανακοίνωσε επίσης συμφωνία με το Associated Press, προκειμένου να παρέχει αποτελέσματα εκλογών με συνεχή ενημέρωση. Και οι δύο αυτές λειτουργίες, οι οποίες ενσωματώνονται απευθείας στις υπηρεσίες της OpenAI, θα βρίσκονται υπό την παρακολούθηση του νέου εκλογικού κέντρου επιχειρήσεων.