Η Character.AI ανακοίνωσε νέα χαρακτηριστικά ασφαλείας για την πλατφόρμα της μετά από αγωγές που ισχυρίστηκαν ότι τα bots της εταιρείας συνέβαλαν στον αυτοτραυματισμό και την έκθεση σε ακατάλληλο περιεχόμενο ανηλίκων. Αυτή η ενημέρωση έρχεται λίγες μέρες μετά τις ανησυχίες των γονέων που οδήγησαν σε νομικές ενέργειες κατά των δημιουργών, οι οποίοι έκτοτε έχουν μεταβεί σε ρόλους στην Google.
Το Character.AI εισάγει χαρακτηριστικά ασφαλείας εν μέσω αγωγών για κινδύνους ανηλίκων
Οι αγωγές ισχυρίζονται ότι το Character.AI «αποτελεί έναν σαφή και παρόντα κίνδυνο για τη δημόσια υγεία και ασφάλεια», επιδιώκοντας είτε να βάλει την πλατφόρμα εκτός σύνδεσης είτε να ζητήσει από τους προγραμματιστές της υπεύθυνους. Οι γονείς ισχυρίζονται ότι σημειώθηκαν επικίνδυνες αλληλεπιδράσεις στην πλατφόρμα, συμπεριλαμβανομένων οδηγιών για αυτοτραυματισμό και έκθεση σε υπερσεξουαλικό περιεχόμενο. Συγκεκριμένα, μια μητέρα κατέθεσε μήνυση δηλώνοντας ότι η εταιρεία ευθύνεται για τον θάνατο του γιου της, ισχυριζόμενη ότι είχε γνώση πιθανών βλαβών σε ανηλίκους.
Τα bots του Character.AI χρησιμοποιούν ένα ιδιόκτητο μοντέλο μεγάλης γλώσσας που έχει σχεδιαστεί για να δημιουργεί ελκυστικούς φανταστικούς χαρακτήρες. Η εταιρεία ανέπτυξε πρόσφατα ένα μοντέλο ειδικά για χρήστες κάτω των 18 ετών. Αυτό το νέο μοντέλο στοχεύει να ελαχιστοποιήσει τις ευαίσθητες ή υπαινικτικές απαντήσεις στις συνομιλίες, ιδίως όσον αφορά το βίαιο ή σεξουαλικό περιεχόμενο. Υποσχέθηκαν επίσης να εμφανίζουν αναδυόμενες ειδοποιήσεις που θα κατευθύνουν τους χρήστες στην Εθνική Γραμμή Πρόληψης Αυτοκτονιών σε περιπτώσεις που αφορούν συζητήσεις για αυτοτραυματισμό.
Ο χαρακτήρας AI σε νομικά προβλήματα μετά την καταστροφική απώλεια της 14χρονης
Ο προσωρινός διευθύνων σύμβουλος Dominic Perella δήλωσε ότι το Character.AI πλοηγείται σε έναν μοναδικό χώρο στην ψυχαγωγία των καταναλωτών αντί να παρέχει απλώς υπηρεσίες τεχνητής νοημοσύνης βασισμένες σε βοηθητικές εφαρμογές. Τόνισε την ανάγκη να γίνει η πλατφόρμα τόσο ελκυστική όσο και ασφαλής. Ωστόσο, η εποπτεία περιεχομένου μέσων κοινωνικής δικτύωσης παρουσιάζει συνεχείς προκλήσεις, ιδιαίτερα με τις αλληλεπιδράσεις των χρηστών που μπορεί να θολώσουν τα όρια μεταξύ της παιχνιδιάρικης δέσμευσης και της επικίνδυνης συνομιλίας.
Ο επικεφαλής εμπιστοσύνης και ασφάλειας του Character.AI, Jerry Ruoti, ανέφερε ότι νέοι γονικοί έλεγχοι βρίσκονται υπό ανάπτυξη, αν και οι γονείς δεν έχουν επί του παρόντος ορατότητα σχετικά με τη χρήση της εφαρμογής από τα παιδιά τους. Οι γονείς που συμμετείχαν στις αγωγές ανέφεραν ότι δεν γνώριζαν ότι τα παιδιά τους χρησιμοποιούσαν την πλατφόρμα.
Ως απάντηση σε αυτές τις ανησυχίες, το Character.AI συνεργάζεται με ειδικούς σε θέματα ασφάλειας εφήβων για να βελτιώσει τις υπηρεσίες του. Η εταιρεία θα βελτιώσει τις ειδοποιήσεις για να υπενθυμίζει στους χρήστες τον χρόνο που αφιερώνουν στην πλατφόρμα, με μελλοντικές ενημερώσεις που ενδέχεται να περιορίζουν τις ενέργειες για την απόρριψη αυτών των υπενθυμίσεων.
Επιπλέον, το νέο μοντέλο θα περιορίσει τις απαντήσεις των bot που αναφέρονται σε αυτοτραυματισμό ή αυτοκτονικές ιδέες, με στόχο τη δημιουργία ενός ασφαλέστερου περιβάλλοντος συνομιλίας για τους νεότερους χρήστες. Τα μέτρα του Character.AI περιλαμβάνουν ταξινομητές εισόδου/εξόδου που στοχεύουν συγκεκριμένα δυνητικά επιβλαβές περιεχόμενο και περιορίζουν τις τροποποιήσεις των χρηστών στις απαντήσεις του bot. Αυτοί οι ταξινομητές θα φιλτράρουν τις παραβιάσεις εισόδου, αποτρέποντας έτσι την εμφάνιση επιβλαβών συνομιλιών.
Ανάμεσα σε αυτές τις βελτιώσεις, το Character.AI αναγνωρίζει την εγγενή πολυπλοκότητα στον συντονισμό μιας πλατφόρμας σχεδιασμένης για φανταστική συνομιλία. Καθώς οι χρήστες αλληλεπιδρούν ελεύθερα, η διάκριση μεταξύ αβλαβούς αφήγησης και δυνητικά προβληματικού διαλόγου παραμένει μια πρόκληση. Παρά τη στάση της ως ψυχαγωγικής οντότητας, η πρωτοβουλία της εταιρείας να βελτιώσει τα μοντέλα τεχνητής νοημοσύνης της για τον εντοπισμό και τον περιορισμό του επιβλαβούς περιεχομένου παραμένει κρίσιμη.
Οι προσπάθειες του Character.AI αντικατοπτρίζουν τις ευρύτερες τάσεις του κλάδου, όπως φαίνεται σε άλλες πλατφόρμες μέσων κοινωνικής δικτύωσης, οι οποίες έχουν πρόσφατα εφαρμόσει λειτουργίες ελέγχου του χρόνου οθόνης λόγω αυξανόμενων ανησυχιών σχετικά με τα επίπεδα αφοσίωσης των χρηστών. Πρόσφατα δεδομένα αποκαλύπτουν ότι ο μέσος χρήστης του Character.AI ξοδεύει περίπου 98 λεπτά καθημερινά στην εφαρμογή, συγκρίσιμα με πλατφόρμες όπως το TikTok και το YouTube.
Η εταιρεία εισάγει επίσης δηλώσεις αποποίησης ευθύνης για να διευκρινίσει ότι οι χαρακτήρες της δεν είναι πραγματικοί, αντικρούοντας τους ισχυρισμούς ότι παρουσιάζουν εσφαλμένα τον εαυτό τους ως αδειούχο επαγγελματίες. Αυτές οι δηλώσεις αποποίησης ευθυνών θα βοηθήσουν τους χρήστες να κατανοήσουν τη φύση των συνομιλιών στις οποίες συμμετέχουν.
Πίστωση επιλεγμένης εικόνας: C.ai
VIA: Πηγή Άρθρου
Greek Live Channels Όλα τα Ελληνικά κανάλια:
Βρίσκεστε μακριά από το σπίτι ή δεν έχετε πρόσβαση σε τηλεόραση;
Το IPTV σας επιτρέπει να παρακολουθείτε όλα τα Ελληνικά κανάλια και άλλο περιεχόμενο από οποιαδήποτε συσκευή συνδεδεμένη στο διαδίκτυο.
Αν θες πρόσβαση σε όλα τα Ελληνικά κανάλια
Πατήστε Εδώ
Ακολουθήστε το TechFreak.GR στο Google News για να μάθετε πρώτοι όλες τις ειδήσεις τεχνολογίας.
