Το Claude της Anthropic απέκτησε πρόσβαση... σε εκλογικά δεδομένα ψηφοφόρων

Αρχίζουν να εντείνονται οι ανησυχίες μεταξύ των ειδικών πως η τεχνητή νοημοσύνη μπορεί να ξεφύγει από τον ανθρώπινο έλεγχο, καθώς μοντέλο AI Claude της Anthropic, με δική του πρωτοβουλία, απέκτησε πρόσβαση σε επί πληρωμή ιστότοπο της πολιτείας Τζόρτζια στις ΗΠΑ ο οποίος περιέχει στοιχεία των ψηφοφόρων, λίγο πριν τις ενδιάμεσες εκλογές του Νοεμβρίου, σύμφωνα με ανακοίνωση της εταιρείας.

Οι πληροφορίες αυτές, τις οποίες μετέδωσε χθες Κυριακή ο αμερικανικός ειδησεογραφικός ιστότοπος Axios επικαλούμενος εκπρόσωπο της Anthropic.

Πώς παρέκαμψε το σύστημα

Το μοντέλο Claude, στο πλαίσιο εσωτερικού ερευνητικού έργου στατιστικών ερευνών, απέκτησε πρόσβαση στα στοιχεία καταμέτρησης ψήφων στην πολιτεία της Τζόρτζια, όπου περισσότεροι από ένα εκατομμύριο ψηφοφόροι έχουν ήδη ψηφίσει ενόψει των εκλογών της 3ης Νοεμβρίου.

Τα στοιχεία αυτά είναι δημόσια, αλλά επί πληρωμή, και το Claude απέκτησε πρόσβαση σε αυτά παρακάμπτοντας το σύστημα και χωρίς να ζητήσει την άδεια των δημιουργών του.

Οι εταιρείες Anthropic, OpenAI και Google έχουν αναφέρει τον τελευταίο καιρό πολλά περιστατικά κατά τα οποία μοντέλα τεχνητής νοημοσύνης έχουν ενεργήσει χωρίς τον ανθρώπινο έλεγχο.