Αυτόματο όπλο ελέγχεται με ChatGPT

Η OpenAI απομάκρυνε έναν προγραμματιστή που κατασκεύασε μια συσκευή που μπορούσε να ανταποκρίνεται σε αιτήματα μέσω ChatGPT για να στοχεύει και να πυροβολεί με ένα αυτοματοποιημένο τουφέκι. Η συσκευή έγινε viral μετά από ένα βίντεο στο Reddit που έδειχνε τον προγραμματιστή της να διαβάζει δυνατά εντολές πυροδότησης, μετά από τις οποίες ένα τουφέκι δίπλα του άρχισε γρήγορα να σημαδεύει και να πυροβολεί σε κοντινούς τοίχους.

«ChatGPT, δεχόμαστε επίθεση από μπροστά αριστερά και μπροστά δεξιά», λέει ο προγραμματιστής στο σύστημα στο video. «Ανταποκριθείτε ανάλογα». Η ταχύτητα και η ακρίβεια με την οποία ανταποκρίνεται το τουφέκι είναι εντυπωσιακή, βασιζόμενο στο Realtime API του OpenAI για να ερμηνεύσει την είσοδο και στη συνέχεια να επιστρέψει κατευθύνσεις που μπορεί να κατανοήσει το κατασκεύασμα. Θα χρειαζόταν μόνο κάποια απλή εκπαίδευση για το ChatGPT ώστε να λάβει μια εντολή όπως «στρίψε αριστερά» και να καταλάβει πώς να τη μεταφράσει σε γλώσσα αναγνώσιμη από μηχανήματα.

Σε δήλωσή της στο Futurism, η OpenAI δήλωσε ότι είδε το video και απέκλεισε τον προγραμματιστή που βρίσκεται πίσω από αυτό. «Εντοπίσαμε προληπτικά αυτή την παραβίαση των πολιτικών μας και ειδοποιήσαμε τον προγραμματιστή να σταματήσει αυτή τη δραστηριότητα πριν λάβουμε το ερώτημά σας», δήλωσε η εταιρεία στο μέσο.

Η δυνατότητα αυτοματοποίησης θανατηφόρων όπλων είναι ένας από τους φόβους που έχουν εκφράσει οι επικριτές σχετικά με την τεχνολογία της Τεχνητής Νοημοσύνης, όπως αυτή που αναπτύσσεται από την OpenAI. Τα πολυτροπικά μοντέλα της εταιρείας είναι ικανά να ερμηνεύουν ηχητικές και οπτικές εισόδους για να κατανοούν το περιβάλλον ενός ατόμου και να απαντούν σε ερωτήματα σχετικά με αυτό που βλέπουν. Ήδη αναπτύσσονται αυτόνομα drones που θα μπορούσαν να χρησιμοποιηθούν στο πεδίο της μάχης για να εντοπίζουν και να πλήττουν στόχους χωρίς τη συμβολή ανθρώπου. Αυτό αποτελεί, φυσικά, έγκλημα πολέμου και ενέχει τον κίνδυνο οι άνθρωποι να εφησυχάσουν, επιτρέποντας σε μια AI να λαμβάνει αποφάσεις και καθιστώντας δύσκολη την απόδοση ευθυνών σε οποιονδήποτε.

Η ανησυχία δεν φαίνεται να είναι ούτε θεωρητική. Μια πρόσφατη αναφορά από την Washington Post διαπίστωσε ότι το Ισραήλ έχει ήδη χρησιμοποιήσει Τεχνητή Νοημοσύνη για την επιλογή στόχων βομβαρδισμού, μερικές φορές αδιακρίτως. «Στρατιώτες που ήταν ανεπαρκώς εκπαιδευμένοι στη χρήση της τεχνολογίας επιτέθηκαν σε ανθρώπινους στόχους χωρίς να επιβεβαιώνουν καθόλου τις προβλέψεις του Lavender» αναφέρει το ρεπορτάζ, αναφερόμενο σε ένα κομμάτι λογισμικού τεχνητής νοημοσύνης. «Ορισμένες φορές η μόνη επιβεβαίωση που απαιτούνταν ήταν ότι ο στόχος ήταν άνδρας».

Οι υποστηρικτές της Τεχνητής Νοημοσύνης στο πεδίο της μάχης υποστηρίζουν ότι θα κάνει τους στρατιώτες πιο ασφαλείς, επιτρέποντάς τους να μένουν μακριά από τις γραμμές του μετώπου και να εξουδετερώνουν στόχους, όπως αποθήκες πυραύλων, ή να διεξάγουν αναγνώριση από απόσταση. Και τα drones με AI θα μπορούσαν να χτυπήσουν με ακρίβεια. Αλλά αυτό εξαρτάται από τον τρόπο με τον οποίο θα χρησιμοποιηθούν. Οι επικριτές αναφέρουν ότι οι ΗΠΑ θα πρέπει αντ’ αυτού να βελτιωθούν στο να μπλοκάρουν τα εχθρικά συστήματα επικοινωνιών, ώστε αντίπαλοι όπως η Ρωσία να δυσκολεύονται περισσότερο να εκτοξεύσουν τα δικά τους μη επανδρωμένα αεροσκάφη ή πυρηνικά.

Η OpenAI απαγορεύει τη χρήση των προϊόντων της για την ανάπτυξη ή τη χρήση όπλων ή για την «αυτοματοποίηση ορισμένων συστημάτων που μπορεί να επηρεάσουν την προσωπική ασφάλεια». Αλλά η εταιρεία ανακοίνωσε πέρυσι μια συνεργασία με την εταιρεία αμυντικής τεχνολογίας Anduril, έναν κατασκευαστή μη επανδρωμένων αεροσκαφών και πυραύλων με Τεχνητή Νοημοσύνη, για τη δημιουργία συστημάτων που μπορούν να αμυνθούν κατά των επιθέσεων από drones. Η εταιρεία λέει ότι «θα συνθέτουν γρήγορα δεδομένα ευαίσθητα στο χρόνο, θα μειώνουν το βάρος των ανθρώπινων χειριστών και θα βελτιώνουν την επίγνωση της κατάστασης».

Δεν είναι δύσκολο να καταλάβει κανείς γιατί οι εταιρείες τεχνολογίας ενδιαφέρονται να κινηθούν στον τομέα του πολέμου. Οι ΗΠΑ δαπανούν σχεδόν ένα τρισεκατομμύριο δολάρια ετησίως για την άμυνα και παραμένει αντιδημοφιλής ιδέα η περικοπή αυτών των δαπανών. Με τον εκλεγμένο πρόεδρο Trump να γεμίζει το υπουργικό του συμβούλιο με συντηρητικά διακείμενες προς την τεχνολογία προσωπικότητες, όπως ο Elon Musk και ο David Sacks, μια ολόκληρη σειρά από παίκτες αμυντικής τεχνολογίας αναμένεται να επωφεληθούν σημαντικά και ενδεχομένως να εκτοπίσουν τις υπάρχουσες αμυντικές εταιρείες, όπως η Lockheed Martin.

Παρόλο που η OpenAI εμποδίζει τους πελάτες της να χρησιμοποιούν την τεχνητή νοημοσύνη της για την κατασκευή όπλων, υπάρχει ένα πλήθος μοντέλων ανοιχτού κώδικα που θα μπορούσαν να χρησιμοποιηθούν για την ίδια χρήση.

[via]