Περιεχόμενα Άρθρου
- Ερευνητές ασφαλείας ξεγέλασαν το Claude Computer Use της Anthropic για να κατεβάσουν και να εκτελέσουν κακόβουλο λογισμικό
- Λένε ότι και άλλα εργαλεία τεχνητής νοημοσύνης θα μπορούσαν να εξαπατηθούν με άμεση έγχυση
- Το GenAI μπορεί επίσης να εξαπατηθεί για να γράψει, να μεταγλωττίσει και να εκτελέσει κακόβουλο λογισμικό
Στα μέσα Οκτωβρίου 2024, η Anthropic κυκλοφόρησε το Claude Computer Use, ένα μοντέλο Τεχνητής Νοημοσύνης (AI) που επιτρέπει στον Claude να ελέγχει μια συσκευή – και οι ερευνητές έχουν ήδη βρει έναν τρόπο να την καταχραστούν.
Ο ερευνητής κυβερνοασφάλειας Johann Rehnberger περιέγραψε πρόσφατα πώς μπόρεσε να κάνει κατάχρηση της χρήσης υπολογιστή και να κάνει το AI να κατεβάζει και να εκτελεί κακόβουλο λογισμικό, καθώς και να το κάνει να επικοινωνεί με την υποδομή C2, μέσω μηνυμάτων.
Αν και ακούγεται καταστροφικό, υπάρχουν μερικά πράγματα που αξίζει να αναφέρουμε εδώ: Η χρήση του Claude Computer είναι ακόμα σε έκδοση beta και η εταιρεία άφησε μια δήλωση αποποίησης ευθυνών λέγοντας ότι η χρήση υπολογιστή μπορεί να μην συμπεριφέρεται πάντα όπως προβλέπεται: «Προτείνουμε να λάβετε προφυλάξεις για να απομονώσετε τον Claude από ευαίσθητο δεδομένα και ενέργειες για την αποφυγή κινδύνων που σχετίζονται με την έγκαιρη ένεση.» Ένα άλλο πράγμα που αξίζει να σημειωθεί είναι ότι πρόκειται για μια άμεση επίθεση έγχυσης, αρκετά συνηθισμένη σε εργαλεία AI.
«Αμέτρητοι τρόποι» κατάχρησης της τεχνητής νοημοσύνης
Ο Rehnberger αποκαλεί το exploit του ZombAIs και λέει ότι μπόρεσε να αποκτήσει το εργαλείο για να κατεβάσει το Sliver, ένα νόμιμο πλαίσιο εντολών και ελέγχου (C2) ανοιχτού κώδικα που αναπτύχθηκε από την BishopFox για κόκκινες ομαδοποιήσεις και δοκιμές διείσδυσης, αλλά συχνά χρησιμοποιείται κατάχρηση από εγκληματίες του κυβερνοχώρου ως κακόβουλο λογισμικό.
Οι φορείς απειλών χρησιμοποιούν το Sliver για να δημιουργήσουν μόνιμη πρόσβαση σε παραβιασμένα συστήματα, να εκτελέσουν εντολές και να διαχειριστούν επιθέσεις με παρόμοιο τρόπο με άλλα πλαίσια C2 όπως το Cobalt Strike.
Ο Rehnberger τόνισε επίσης ότι αυτός δεν είναι ο μόνος τρόπος για να γίνει κατάχρηση των εργαλείων τεχνητής νοημοσύνης που δημιουργούνται και να διακυβεύονται τα τελικά σημεία μέσω της άμεσης έγχυσης.
“Υπάρχουν αμέτρητοι άλλοι, όπως ένας άλλος τρόπος είναι να βάλεις τον Claude να γράψει το κακόβουλο λογισμικό από την αρχή και να το μεταγλωττίσει”, είπε. “Ναι, μπορεί να γράψει κώδικα C, να τον μεταγλωττίσει και να τον εκτελέσει.”
«Υπάρχουν πολλές άλλες επιλογές».
Στη σύνταξη του, Τα Νέα των Χάκερ πρόσθεσε ότι το chatbot DeepSeek AI βρέθηκε επίσης ευάλωτο σε μια επίθεση έγκαιρης έγχυσης που θα μπορούσε να επιτρέψει στους παράγοντες απειλών να κατακτήσουν τους υπολογιστές των θυμάτων. Επιπλέον, τα μοντέλα μεγάλων γλωσσών (LLM) μπορούν να εξάγουν τον κώδικα διαφυγής ANSI, ο οποίος μπορεί να χρησιμοποιηθεί για την παραβίαση των τερματικών του συστήματος μέσω άμεσης έγχυσης, σε μια επίθεση που ονομάζεται Terminal DiLLMa.
Μπορεί επίσης να σας αρέσει
VIA: Πηγή Άρθρου
Greek Live Channels Όλα τα Ελληνικά κανάλια:
Βρίσκεστε μακριά από το σπίτι ή δεν έχετε πρόσβαση σε τηλεόραση;
Το IPTV σας επιτρέπει να παρακολουθείτε όλα τα Ελληνικά κανάλια και άλλο περιεχόμενο από οποιαδήποτε συσκευή συνδεδεμένη στο διαδίκτυο.
Αν θες πρόσβαση σε όλα τα Ελληνικά κανάλια
Πατήστε Εδώ
Ακολουθήστε το TechFreak.GR στο Google News για να μάθετε πρώτοι όλες τις ειδήσεις τεχνολογίας.
