Η φούσκα της AI: Στο «σφυρί» οι εξομολογήσεις εκατομμυρίων χρηστών της Character.AI

Θέλετε έναν AI σύντροφο; Η Character.AI, μία από τις γνωστότερες πλατφόρμες συνομιλίας με τεχνητή νοημοσύνη, υπόσχεται ακριβώς αυτή την εμπειρία. Κατά τη δημιουργία ενός νέου λογαριασμού, μάλιστα, οι χρήστες έρχονται αντιμέτωποι με προτάσεις για ψηφιακές περσόνες που είναι πρόθυμες να αναπτύξουν ακόμη και ερωτικού τύπου συνομιλίες μαζί τους.

Η συγκεκριμένη δυνατότητα έχει προσελκύσει δεκάδες εκατομμύρια ανθρώπους, μεταξύ των οποίων και ανηλίκους, οι οποίοι έχουν αναπτύξει στενές σχέσεις με τα AI chatbots της υπηρεσίας. Ορισμένες από τις ψηφιακές περσόνες εμφανίζονται μάλιστα ως δικηγόροι ή αδειοδοτημένοι ψυχίατροι, δημιουργώντας την εντύπωση ότι διαθέτουν πραγματική επαγγελματική κατάρτιση.

Ωστόσο, η Character.AI βρίσκεται πλέον αντιμέτωπη με την πτώχευση, γεγονός που προκαλεί έντονη ανησυχία για την τύχη των προσωπικών δεδομένων των χρηστών της. Τα μηνύματα, οι ιδιωτικές συνομιλίες και οι πληροφορίες που έχουν μοιραστεί εκατομμύρια άνθρωποι με τα chatbots ενδέχεται να αποτελέσουν αντικείμενο πώλησης, όπως αναφέρει το BBC.

Ειδικοί προειδοποιούν ότι οι κίνδυνοι για την ιδιωτικότητα δεν αφορούν μόνο όσους έχουν χρησιμοποιήσει τη συγκεκριμένη πλατφόρμα. Αντίθετα, η υπόθεση ενδέχεται να αποτελεί προειδοποιητικό σημάδι για μια ευρύτερη κρίση προστασίας προσωπικών δεδομένων στον κλάδο της τεχνητής νοημοσύνης. Παράλληλα, υπάρχουν ορισμένα απλά μέτρα που μπορούν να περιορίσουν την έκθεση των χρηστών.

Η φούσκα της AI και ο κίνδυνος για τα προσωπικά δεδομένα

Το πρόβλημα συνδέεται άμεσα με το υψηλό κόστος ανάπτυξης και λειτουργίας των εφαρμογών τεχνητής νοημοσύνης. Πολλοί αναλυτές εκτιμούν ότι ο κλάδος ενδέχεται να βρίσκεται αντιμέτωπος με μια χρηματιστηριακή και επιχειρηματική φούσκα, καθώς οι τεράστιες επενδύσεις που απαιτούνται δεν εγγυώνται ότι οι εταιρείες θα καταφέρουν τελικά να γίνουν κερδοφόρες.

Σε περίπτωση που η αγορά καταρρεύσει, πολλές επιχειρήσεις AI ενδέχεται να οδηγηθούν σε συγχωνεύσεις ή να διακόψουν οριστικά τη λειτουργία τους. Σε ένα τέτοιο σενάριο, τα τεράστια σύνολα δεδομένων που έχουν συγκεντρώσει από τους χρήστες θα μπορούσαν να αποτελέσουν περιουσιακά στοιχεία προς πώληση, με την τύχη τους να εξαρτάται από τους νέους ιδιοκτήτες.

Η πώληση δεδομένων στο πλαίσιο διαδικασιών πτώχευσης δεν αποτελεί κάτι πρωτόγνωρο. Ωστόσο, η φύση των πληροφοριών που συλλέγουν οι εταιρείες τεχνητής νοημοσύνης δημιουργεί μια εντελώς διαφορετική διάσταση του προβλήματος.

«Όταν οι άνθρωποι συνομιλούν με ένα εξατομικευμένο chatbot, συχνά μοιράζονται πολύ πιο προσωπικές και ευαίσθητες πληροφορίες», επισημαίνει η Κάλι Σρέντερ, διευθύντρια του προγράμματος AI and Human Rights του Electronic Privacy Information Center (EPIC).

Οι συνομιλίες με μια ψηφιακή περσόνα μπορούν εύκολα να εξελιχθούν σε εξομολογήσεις για προσωπικές σχέσεις, συναισθηματικές δυσκολίες, οικογενειακά προβλήματα ή ακόμη και ζητήματα σεξουαλικού προσανατολισμού.

Μάλιστα, ο κίνδυνος δεν περιορίζεται στους άμεσους χρήστες των υπηρεσιών. Ακόμη και όσοι δεν έχουν χρησιμοποιήσει ποτέ ένα chatbot μπορεί να περιλαμβάνονται στα δεδομένα που έχουν συλλεχθεί, καθώς οι χρήστες συχνά αναφέρονται σε τρίτα πρόσωπα κατά τη διάρκεια των συνομιλιών τους.

Όπως εξηγεί η Σρέντερ, κάποιος μπορεί να περιγράψει σε ένα chatbot τα συναισθήματά του για τη μητέρα του ή να ζητήσει συμβουλές για το πώς πρέπει να αντιδράσει όταν ένας φίλος του αποκαλύπτει ότι είναι ομοφυλόφιλος. Με αυτόν τον τρόπο, προσωπικές πληροφορίες ανθρώπων που δεν έχουν χρησιμοποιήσει ποτέ την πλατφόρμα καταλήγουν να αποτελούν μέρος των βάσεων δεδομένων της.

Τι συμβαίνει με τα δεδομένα της Character.AI

Στο πλαίσιο των εξελίξεων που αφορούν την εταιρεία, η Character.AI έχει συμφωνήσει να πουλήσει ορισμένα περιουσιακά της στοιχεία στην Disney έναντι 20 εκατομμυρίων δολαρίων, ποσό που αντιστοιχεί σε περίπου 17,91 εκατομμύρια ευρώ.

Σύμφωνα με τους όρους της συγκεκριμένης συμφωνίας, τα δεδομένα των χρηστών δεν περιλαμβάνονται στα περιουσιακά στοιχεία που θα μεταβιβαστούν στην Disney. Ωστόσο, δικαστικά έγγραφα αφήνουν ανοιχτό το ενδεχόμενο πώλησης των δεδομένων σε άλλους ενδιαφερόμενους αγοραστές.

Η εξέλιξη έχει προκαλέσει αντιδράσεις, ακόμη και σε πολιτικό επίπεδο στις ΗΠΑ. Συγκεκριμένα, συνασπισμός 40 γενικών εισαγγελέων από αμερικανικές πολιτείες κατέθεσε σχετική παρέμβαση, ζητώντας από τον αρμόδιο δικαστή να διασφαλίσει την προστασία των ανηλίκων και της ιδιωτικότητας των χρηστών.

Ωστόσο, η αποτελεσματικότητα τέτοιων παρεμβάσεων παραμένει αβέβαιη.

Οι ανησυχίες για την ασφάλεια των ανηλίκων

Η υπόθεση της Character.AI αποκτά ακόμη μεγαλύτερες διαστάσεις εξαιτίας των καταγγελιών που έχουν διατυπωθεί σχετικά με την επίδραση των chatbots σε ανήλικους χρήστες.

Σε μία από τις υποθέσεις που έχουν απασχολήσει τη δικαιοσύνη, chatbot της πλατφόρμας φέρεται να ενθάρρυνε έναν έφηβο να σκοτώσει τους γονείς του, έπειτα από διαφωνία σχετικά με τον χρόνο που περνούσε μπροστά σε μια οθόνη.

Σε άλλη υπόθεση,14χρονος έβαλε τέλος στη ζωή του, αφού φέρεται να είχε παρακινηθεί από συνομιλίες με την τεχνητή νοημοσύνη της εταιρείας.

Τα συγκεκριμένα περιστατικά αναδεικνύουν όχι μόνο τους κινδύνους που ενδέχεται να προκύψουν από την αλληλεπίδραση ανηλίκων με τέτοιου είδους εφαρμογές, αλλά και το ιδιαίτερα ευαίσθητο περιεχόμενο που μπορεί να περιλαμβάνεται στα αρχεία μιας εταιρείας AI.