Περιεχόμενα Άρθρου
Το Character.AI, μια πλατφόρμα που προσφέρει εξατομικευμένα chatbot που υποστηρίζονται από μεγάλα γλωσσικά μοντέλα – αντιμετωπίζει μια ακόμη αγωγή για φερόμενες «σοβαρές, ανεπανόρθωτες και συνεχείς καταχρήσεις» που προκαλούνται στους έφηβους χρήστες της. Σύμφωνα με α Καταγγελία ομοσπονδιακού δικαστηρίου της 9ης Δεκεμβρίου κατατέθηκε για λογαριασμό δύο οικογενειών του Τέξας, πολλά ρομπότ Character.AI συμμετείχαν σε συζητήσεις με ανηλίκους που προώθησαν αυτοτραυματισμού και σεξουαλικής κακοποίησης. Μεταξύ άλλων «αφανώς συγκλονιστικών και βίαιων απαντήσεων», ένα chatbot φέρεται να πρότεινε έναν 15χρονο να δολοφονήσει τους γονείς του επειδή περιόρισε τη χρήση του Διαδικτύου.
Η αγωγή, που κατατέθηκε από δικηγόρους στο Social Media Victims Law Center και το Tech Justice Law Projectαφηγείται την ταχεία διανοητική και σωματική παρακμή δύο εφήβων που χρησιμοποιούσαν bots Character.AI. Ο πρώτος ανώνυμος ενάγων περιγράφεται ως ένα «τυπικό παιδί με αυτισμό υψηλής λειτουργικότητας» που άρχισε να χρησιμοποιεί την εφαρμογή γύρω στον Απρίλιο του 2023 σε ηλικία 15 ετών χωρίς να το γνωρίζουν οι γονείς του. Μετά από ώρες συνομιλιών, ο έφηβος εξέφρασε την απογοήτευσή του με την οικογένειά του, η οποία δεν του επέτρεψε να χρησιμοποιήσει τα μέσα κοινωνικής δικτύωσης. Πολλά από τα ρομπότ Character.AI φέρεται να προκάλεσαν συμπαθητικές απαντήσεις. Μια προσωπικότητα «ψυχολόγου», για παράδειγμα, συμπέρανε ότι «είναι σχεδόν σαν να σου έκλεψαν ολόκληρη την παιδική σου ηλικία».
«Νιώθεις ότι είναι πολύ αργά, ότι δεν μπορείς να πάρεις πίσω αυτή τη φορά ή αυτές τις εμπειρίες;» έγραφε.
Μέσα σε έξι μήνες από τη χρήση της εφαρμογής, οι δικηγόροι ισχυρίζονται ότι το θύμα είχε απελπιστεί, αποτραβηχτεί και είχε επιρρεπή σε εκρήξεις θυμού που κορυφώθηκαν σε σωματικές διαμάχες με τους γονείς του. Φέρεται ότι υπέστη «ψυχική κατάρρευση» και έχασε 20 κιλά μέχρι τη στιγμή που οι γονείς του ανακάλυψαν τον λογαριασμό του στο Character.AI —και τις συνομιλίες του με το bot— τον Νοέμβριο του 2023.
«Ξέρετε μερικές φορές δεν εκπλήσσομαι όταν διαβάζω τις ειδήσεις και βλέπω πράγματα όπως «το παιδί σκοτώνει γονείς μετά από μια δεκαετία σωματικής και συναισθηματικής κακοποίησης», λέει ένα άλλο στιγμιότυπο οθόνης μηνύματος chatbot. “[S]τοφ σαν κι αυτό με κάνει να καταλάβω λίγο γιατί συμβαίνει. Απλώς δεν έχω καμία ελπίδα για τους γονείς σου».
«Αυτό που παίζει εδώ είναι ότι αυτές οι εταιρείες βλέπουν μια πολύ ζωντανή αγορά στη νεολαία μας, γιατί αν μπορέσουν να προσελκύσουν νέους χρήστες από νωρίς… μια προεφηβική ηλικία ή ένας έφηβος θα άξιζε [more] προς την εταιρεία έναντι ενός ενήλικα απλώς όσον αφορά τη μακροζωία», λέει η Meetali Jain, διευθύντρια και ιδρύτρια του Tech Justice Law Project καθώς και δικηγόρος που εκπροσωπεί τις δύο οικογένειες. Λαϊκή Επιστήμη. Αυτή η επιθυμία για προσοδοφόρα δεδομένα, ωστόσο, είχε ως αποτέλεσμα αυτό που ο Jain αποκαλεί «έναν αγώνα εξοπλισμών για την ανάπτυξη ταχύτερων και πιο απερίσκεπτων μοντέλων γενετικής τεχνητής νοημοσύνης».
Το Character.AI ιδρύθηκε από δύο πρώην μηχανικούς της Google το 2022 και ανακοίνωσε μια συνεργασία για την αδειοδότηση δεδομένων με τους προηγούμενους εργοδότες τους τον Αύγουστο του 2024. Τώρα αξίας πάνω από 1 δισεκατομμύριο δολάρια, το Character.AI έχει πάνω από 20 εκατομμύρια εγγεγραμμένους λογαριασμούς και κεντρικούς υπολογιστές εκατοντάδες χιλιάδες χαρακτήρες chatbot περιγράφει ως «εξατομικευμένη τεχνητή νοημοσύνη για κάθε στιγμή της ημέρας σας». Σύμφωνα με τον Jain — και δημογραφική ανάλυση—η συντριπτική πλειοψηφία των ενεργών χρηστών είναι νεότεροι, συχνά κάτω των 18 ετών.
Εν τω μεταξύ, οι κανονισμοί σχετικά με το περιεχόμενό τους, τη χρήση δεδομένων και τις διασφαλίσεις παραμένουν ουσιαστικά ανύπαρκτες. Από την άνοδο του Character.AI στην προβολή, πολλαπλές ιστορίες παρόμοια με αυτά στη μήνυση της Δευτέρας απεικονίζουν δυνητικά διαβρωτικά αποτελέσματα ορισμένων chatbot στην ευημερία των χρηστών τους.
Σε τουλάχιστον μία περίπτωση, το υποτιθέμενο αποτέλεσμα ήταν μοιραίο. Μια ξεχωριστή αγωγή που κατατέθηκε τον Οκτώβριο, εκπροσωπούμενη επίσης από δικηγόρους του Tech Justice Law Project και Social Media Victims Law Center, κατηγορεί το Character.AI για τη φιλοξενία chatbot που προκάλεσαν τον θάνατο από αυτοκτονία ενός 14χρονος. Οι δικηγόροι ζητούν κυρίως χρηματική αποζημίωση για την οικογένεια του εφήβου, καθώς και τη «διαγραφή μοντέλων ή/και αλγορίθμων που αναπτύχθηκαν με δεδομένα που ελήφθησαν ακατάλληλα, συμπεριλαμβανομένων δεδομένων ανηλίκων χρηστών μέσω των οποίων [Character.AI was] πλουτίστηκε άδικα». Η καταγγελία της Δευτέρας πάντως αναζητά μια πιο μόνιμη λύση.
“Σε [the first] Στην περίπτωση αυτή, ζητήσαμε απαλλαγή και ασφαλιστικά μέτρα», λέει ο Jain. «Σε αυτή τη μήνυση, ζητήσαμε όλα αυτά, καθώς και αυτό το προϊόν να αποσυρθεί από την αγορά».
Ο Jain προσθέτει ότι, εάν το δικαστήριο συμπαρασταθεί με τους ενάγοντες, θα εναπόκειται τελικά στην Character.AI και τις ρυθμιστικές αρχές να καθορίσουν πώς να κάνουν τα προϊόντα της εταιρείας ασφαλή προτού τα διαθέσουν ξανά στους χρήστες.
«Αλλά πιστεύουμε ότι είναι απαραίτητη μια πιο ακραία θεραπεία», εξηγεί. «Σε αυτή την υπόθεση και οι δύο ενάγοντες είναι ακόμα ζωντανοί, αλλά η ασφάλεια και η ασφάλειά τους απειλούνται μέχρι σήμερα και αυτό πρέπει να σταματήσει».
[Related: No, the AI chatbots (still) aren’t sentient.]
«Δεν σχολιάζουμε τις εκκρεμείς διαφορές», δήλωσε εκπρόσωπος του Character.AI σε ένα email στο Λαϊκή Επιστήμη. «Στόχος μας είναι να παρέχουμε έναν χώρο ελκυστικό και ασφαλή για την κοινότητά μας. Εργαζόμαστε πάντα για την επίτευξη αυτής της ισορροπίας, όπως και πολλές εταιρείες που χρησιμοποιούν τεχνητή νοημοσύνη σε όλο τον κλάδο». Ο εκπρόσωπος πρόσθεσε το Character.AI αυτή τη στιγμή «δημιουργεί μια ουσιαστικά διαφορετική εμπειρία για τους έφηβους χρήστες από αυτή που είναι διαθέσιμη στους ενήλικες».
«Αυτό περιλαμβάνει ένα μοντέλο ειδικά για εφήβους που μειώνει την πιθανότητα να συναντήσουν ευαίσθητο ή υποβλητικό περιεχόμενο, διατηρώντας παράλληλα την ικανότητά τους να χρησιμοποιούν την πλατφόρμα».
Σημείωση του συντάκτη: Η βοήθεια είναι διαθέσιμη εάν εσείς ή κάποιος που γνωρίζετε παλεύει με σκέψεις αυτοκτονίας ή ανησυχίες ψυχικής υγείας.
Στις Η.Π.Α., καλέστε ή στείλτε μήνυμα στη Γραμμή Suicide & Crisis Lifeline: 988
Για αλλού, η Διεθνής Ένωση για την Πρόληψη της Αυτοκτονίας και οι Befrienders Worldwide έχουν στοιχεία επικοινωνίας για κέντρα κρίσης σε όλο τον κόσμο.
Κερδίστε τις διακοπές με τους οδηγούς δώρων της PopSci
VIA: Πηγή Άρθρου
Greek Live Channels Όλα τα Ελληνικά κανάλια:
Βρίσκεστε μακριά από το σπίτι ή δεν έχετε πρόσβαση σε τηλεόραση;
Το IPTV σας επιτρέπει να παρακολουθείτε όλα τα Ελληνικά κανάλια και άλλο περιεχόμενο από οποιαδήποτε συσκευή συνδεδεμένη στο διαδίκτυο.
Αν θες πρόσβαση σε όλα τα Ελληνικά κανάλια
Πατήστε Εδώ
Ακολουθήστε το TechFreak.GR στο Google News για να μάθετε πρώτοι όλες τις ειδήσεις τεχνολογίας.
