Περιεχόμενα Άρθρου
Οι απατεώνες σε όλο τον κόσμο γίνονται μεγάλα. Μόνο πέρυσι, η Ομοσπονδιακή Επιτροπή Εμπορίου εκτιμά τους καταναλωτές των ΗΠΑ έχασε ένα ρεκόρ 10 δισεκατομμυρίων δολαρίων λόγω απάτηςαύξηση 14% από μόλις ένα χρόνο πριν. Όλο και περισσότερο, οι απατεώνες στοχεύουν ηλικιωμένους, ευάλωτους ανθρώπους μέσω τηλεφώνου. Πάνω από τα δύο τρίτα των κατοίκων του Ηνωμένου Βασιλείου άνω των 75 ετών ερευνήθηκε σε πρόσφατη ερευνητική εργασία ισχυρίστηκαν ότι είχαν βιώσει τουλάχιστον μία απόπειρα απάτης τους τελευταίους έξι μήνες. Το 40% αυτών των ερωτηθέντων αντιμετώπισε συχνές απόπειρες απάτης.
Τώρα, μια γιαγιά του Ηνωμένου Βασιλείου που δημιουργήθηκε από AI, ονόματι «Daisy» δοκιμάζει τις δουλειές των απατεώνων λίγο πιο κουραστικές. Η εταιρεία κινητής τηλεφωνίας του Ηνωμένου Βασιλείου Virgin Media O2 δημιούργησε την Daisy για να μιλήσει με κακούς ηθοποιούς και να σπαταλήσει όσο περισσότερο χρόνο γίνεται. Χρησιμοποιώντας μεγάλα γλωσσικά μοντέλα που μοιάζουν με ChatGPT, η Daisy θα περιηγηθεί το πάθος της για το πλέξιμο και θα πει μακροσκελείς, κατασκευασμένες ιστορίες για μέλη της οικογένειας με στόχο να κρατήσει τους απατεώνες στη γραμμή. Θεωρητικά, κάθε λεπτό που αφιερώνεται απογοητευτικά κουβεντιάζοντας με την Daisy για τη φτιαγμένη οικογένεια ή τις καθημερινές της δουλειές είναι ένα λεπτό λιγότερο που ένας απατεώνας θα μπορούσε να στοχεύσει ένα πραγματικό πρόσωπο.
«Το νεότερο μέλος της ομάδας μας για την πρόληψη της απάτης, η Daisy, γυρίζει τα πράγματα στους απατεώνες – ξεπερνώντας τους και τους ελιγμούς στο δικό τους σκληρό παιχνίδι απλά κρατώντας τους στη γραμμή», δήλωσε ο διευθυντής της Virgin Media O2 του Fraud Murray Mackenzie. είπε σε ανάρτηση στο blog.
Η γιαγιά AI εκπαιδεύτηκε σε πραγματικές κλήσεις απάτης
Η O2 λέει ότι συνεργάστηκε με επαγγελματίες διαταράκτες δικτύων απάτης για να προσθέσει αριθμούς τηλεφώνου που συνδέονται με το AI σε γνωστές λίστες αριθμών που στοχεύουν απατεώνες. Εάν ένας απατεώνας προσπαθήσει να καλέσει έναν από αυτούς τους αριθμούς, θα αρχίσει αμέσως να αλληλεπιδρά με την Daisy. Οι ηχογραφήσεις των συνομιλιών με τους απατεώνες που δημοσιεύτηκαν από το O2 δείχνουν ότι η Daisy τρολάρει επιδείνωσε τους απατεώνες μιλώντας για τη φανταστική γάτα της «αφράτη» και γενικά χορεύοντας γύρω από τις ερωτήσεις τους. Η Daisy θα παρέχει επίσης στους απατεώνες ψευδείς προσωπικές πληροφορίες και πλαστά τραπεζικά στοιχεία για να τους κάνει να πιστεύουν ότι πράγματι εξαπατούν ένα πραγματικό πρόσωπο. Αυτές οι συνομιλίες μπορούν να κροταλίσουν τους απατεώνες. Το O2 παρείχε κλιπ ηχογράφησης όπου ακούγονταν απογοητευμένοι απατεώνες να φωνάζουν βλακείες στο AI στην άλλη άκρη.
«Σταμάτα να με αποκαλείς «αγαπητέ» ηλίθιο [expletive]», ακούγεται να λέει ένας απατεώνας.
«Το κατάλαβα, αγαπητέ», απαντά η Νταίζη.
Για να τα κάνει όλα αυτά, η Daisy χρησιμοποιεί πρώτα ένα μοντέλο τεχνητής νοημοσύνης φωνής σε κείμενο για να μεταγράψει την ομιλία του απατεώνα. Στη συνέχεια παίρνει αυτό το κείμενο και το τρέχει μέσω ενός άλλου μοντέλου AI που συντάσσει μια απάντηση χρησιμοποιώντας σχετικό περιεχόμενο. Ένα άλλο μοντέλο μετατροπής κειμένου σε ομιλία φωνάζει στη συνέχεια αυτή την απάντηση με τον ήχο μιας ηλικιωμένης γυναίκας. Όλη αυτή η επεξεργασία γίνεται σε δευτερόλεπτα, έτσι οι απατεώνες νομίζουν ότι μιλούν με πραγματικό άτομο. Η Daisy εκπαιδεύτηκε χρησιμοποιώντας πραγματικές ηχογραφήσεις «απάτης δολητών» που συνέλεξε η O2.
Ο Ο2 χρησιμοποίησε σκόπιμα μια μεγαλύτερη γυναίκα επειδή είναι συχνά δυσανάλογοι στόχοι απάτης. Σε αυτήν την περίπτωση, η Daisy είχε προγραμματιστεί να συμμετέχει σε μαιάνδρους, μακροσκελείς συνομιλίες που είχαν σχεδιαστεί για να κρατούν τους απατεώνες να μιλούν. Σύμφωνα με πληροφορίες, το μοντέλο έχει ήδη κρατήσει πολλούς απατεώνες στη γραμμή για πάνω από 40 λεπτά.
Οι καλούντες στο Ηνωμένο Βασίλειο που στοχοποιούνται από απατεώνες μπορούν να στείλουν τους επιτιθέμενούς τους στην τεχνητή νοημοσύνη προωθώντας την κλήση που λαμβάνουν στον αριθμό 7726. Αυτό στέλνει την κλήση στη γραμμή επικοινωνίας της Daisy. Η O2 λέει ότι είναι αισιόδοξο ότι η Daisy μπορεί να κάνει μια ουσιαστική διαφορά εν μέσω της αύξησης της απάτης τηλεφωνικής δραστηριότητας. Περίπου ένας στους πέντε Βρετανούς ερωτηθέντες που ρωτήθηκαν από την O2 στην πρόσφατη έρευνά της ανέφεραν ότι στοχοποιούνται από απάτη κάθε εβδομάδα.
Η τεχνητή νοημοσύνη συμβάλλει επίσης σε νέες απάτες
Ενώ η Daisy έχει καθήκον να σταματήσει την απάτη, οι απατεώνες χρησιμοποιούν παρόμοια εργαλεία τεχνητής νοημοσύνης για να εξαπολύσουν μια ποικιλία νέων επιθέσεων. Οι λεγόμενοι «κλώνοι φωνής» της τεχνητής νοημοσύνης που χρησιμοποιούν αποσπάσματα ήχου για να μιμηθούν τη φωνή ενός ατόμου, έχουν χρησιμοποιηθεί τα τελευταία χρόνια για τη διάπραξη τραπεζικής και τραπεζικής απάτης. Σε αρκετά ακραία παραδείγματα, απατεώνες έχουν χρησιμοποιήσει ακόμη και τεχνητή νοημοσύνη για να εξαπατήσουν τους ανθρώπους ώστε να πιστέψουν ότι τα αγαπημένα τους πρόσωπα ήταν απήχθη ή κρατήθηκε όμηρος. Τα θύματα, πιστεύοντας ότι ο γιος ή η κόρη τους βρίσκεται σε άμεσο κίνδυνο, πληρώνουν στους απατεώνες πλαστά λύτρα. Οι απάτες σαν αυτές γίνονται όλο και πιο συχνές. Ένας στους τέσσερις ερωτηθέντες πρόσφατα έρευνα από την εταιρεία κυβερνοασφάλειας McAfee ισχυρίστηκαν ότι αυτοί ή κάποιος που γνώριζαν είχε στοχοποιηθεί από απάτη κλώνων φωνής AI. Εργαλεία όπως η Daisy θα μπορούσαν θεωρητικά να βοηθήσουν στην αναχαίτιση αυτής της παλίρροιας στέλνοντας άλλα ρομπότ απάτης με τεχνητή νοημοσύνη σε τρύπες από κουνέλι.
«Ας το παραδεχτούμε αγαπητέ», είπε η Νταίζη σε μια ηχογράφηση. «Έχω όλο τον χρόνο στον κόσμο».
VIA: popsci.com
