Τι πρέπει να κάνουμε εάν η τεχνητή νοημοσύνη αποκτήσει συνείδηση; Αυτοί οι επιστήμονες λένε ότι ήρθε η ώρα για ένα σχέδιο

Η ταχεία εξέλιξη της τεχνητής νοημοσύνης (AI) έφερε στο προσκήνιο ηθικά ερωτήματα που κάποτε περιορίζονταν στη σφαίρα της επιστημονικής φαντασίας: εάν τα συστήματα τεχνητής νοημοσύνης μπορούσαν μια μέρα να «σκέφτονται» όπως οι άνθρωποι, για παράδειγμα, θα μπορούσαν επίσης να έχουν υποκειμενικές εμπειρίες όπως οι άνθρωποι; Θα βίωναν πόνο και, αν ναι, θα είναι η ανθρωπότητα εξοπλισμένη για να τους φροντίζει σωστά;

Μια ομάδα φιλοσόφων και επιστημόνων υπολογιστών υποστηρίζει ότι η ευημερία της τεχνητής νοημοσύνης πρέπει να ληφθεί σοβαρά υπόψη. Σε μια αναφορά που δημοσιεύτηκε τον περασμένο μήνα στον διακομιστή προεκτύπωσης arXiv¹πριν από την αξιολόγηση από ομοτίμους, ζητούν από τις εταιρείες τεχνητής νοημοσύνης όχι μόνο να αξιολογούν τα συστήματά τους για στοιχεία συνειδητότητας και ικανότητας λήψης αυτόνομων αποφάσεων, αλλά και να θέσουν σε εφαρμογή πολιτικές για τον τρόπο αντιμετώπισης των συστημάτων εάν αυτά τα σενάρια γίνουν πραγματικότητα.

Εάν η τεχνητή νοημοσύνη αποκτήσει συνείδηση: ορίστε πώς θα γνωρίζουν οι ερευνητές

Επισημαίνουν ότι η αποτυχία να αναγνωρίσει ότι ένα σύστημα τεχνητής νοημοσύνης έχει γίνει συνειδητό θα μπορούσε να οδηγήσει τους ανθρώπους να το παραμελήσουν, να το βλάψουν ή να υποφέρουν.

Μερικοί πιστεύουν ότι, σε αυτό το στάδιο, η ιδέα ότι υπάρχει ανάγκη για ευημερία AI είναι αστεία. Άλλοι είναι δύσπιστοι, αλλά λένε ότι δεν βλάπτει να αρχίσετε να σχεδιάζετε. Μεταξύ αυτών είναι ο Anil Seth, ένας ερευνητής συνείδησης στο Πανεπιστήμιο του Sussex στο Brighton, στο Ηνωμένο Βασίλειο. «Αυτά τα σενάρια μπορεί να φαίνονται παράξενα και είναι αλήθεια ότι η συνειδητή τεχνητή νοημοσύνη μπορεί να είναι πολύ μακριά και ίσως να μην είναι καν εφικτή. Αλλά οι συνέπειες της εμφάνισής του είναι αρκετά τεκτονικές που δεν πρέπει να αγνοήσουμε την πιθανότητα.» έγραψε πέρυσι στο περιοδικό Science Ναυτίλος. «Το πρόβλημα δεν ήταν ότι το πλάσμα του Φρανκενστάιν ήρθε στη ζωή. ήταν ότι είχε συνείδηση ​​και μπορούσε να αισθανθεί».

Το διακύβευμα αυξάνεται καθώς εξαρτόμαστε όλο και περισσότερο από αυτές τις τεχνολογίες, λέει ο Jonathan Mason, μαθηματικός με έδρα την Οξφόρδη του Ηνωμένου Βασιλείου, ο οποίος δεν συμμετείχε στην παραγωγή της έκθεσης. Ο Mason υποστηρίζει ότι η ανάπτυξη μεθόδων για την αξιολόγηση των συστημάτων AI για τη συνείδηση ​​θα πρέπει να αποτελεί προτεραιότητα. «Δεν θα ήταν λογικό να πείσουμε την κοινωνία να επενδύσει τόσο πολύ σε κάτι και να βασίζεται τόσο σε κάτι για το οποίο γνωρίζαμε τόσο λίγα – που δεν συνειδητοποιούσαμε καν ότι είχε αντίληψη», λέει.

Οι άνθρωποι μπορεί επίσης να πληγούν εάν τα συστήματα τεχνητής νοημοσύνης δεν δοκιμαστούν σωστά για τη συνείδησή τους, λέει ο Jeff Sebo, φιλόσοφος στο Πανεπιστήμιο της Νέας Υόρκης στη Νέα Υόρκη και συν-συγγραφέας της έκθεσης. Εάν λανθασμένα υποθέσουμε ότι ένα σύστημα είναι συνειδητό, λέει, η χρηματοδότηση της πρόνοιας μπορεί να διοχετευθεί προς τη φροντίδα του και επομένως να αφαιρεθεί από ανθρώπους ή ζώα που το χρειάζονται ή «θα μπορούσε να σας οδηγήσει σε περιορισμούς των προσπαθειών για να κάνετε την τεχνητή νοημοσύνη ασφαλή ή ωφέλιμη για τους ανθρώπους “.

Σημείο καμπής;

Η έκθεση υποστηρίζει ότι η ευημερία της τεχνητής νοημοσύνης βρίσκεται σε μια «μεταβατική στιγμή». Ένας από τους συγγραφείς του, ο Kyle Fish, προσλήφθηκε πρόσφατα ως ερευνητής ευημερίας AI από την εταιρεία AI Anthropic, που εδρεύει στο Σαν Φρανσίσκο της Καλιφόρνια. Αυτή είναι η πρώτη τέτοια θέση στο είδος της που ορίζεται σε κορυφαία εταιρεία τεχνητής νοημοσύνης, σύμφωνα με τους συντάκτες της έκθεσης. Το Anthropic βοήθησε επίσης στη χρηματοδότηση της αρχικής έρευνας που οδήγησε στην έκθεση. “Υπάρχει μια αλλαγή επειδή υπάρχουν τώρα άνθρωποι σε κορυφαίες εταιρείες τεχνητής νοημοσύνης που παίρνουν σοβαρά τη συνείδηση ​​της τεχνητής νοημοσύνης και την αντιπροσωπεία και την ηθική σημασία”, λέει ο Sebo.

Πόσο κοντά είναι η τεχνητή νοημοσύνη στη νοημοσύνη σε ανθρώπινο επίπεδο;

Φύση επικοινώνησε με τέσσερις κορυφαίες εταιρείες τεχνητής νοημοσύνης για να ρωτήσει για τα σχέδιά τους για την ευημερία της τεχνητής νοημοσύνης. Τρεις — η Anthropic, η Google και η Microsoft — αρνήθηκαν να σχολιάσουν και η OpenAI, που επίσης εδρεύει στο Σαν Φρανσίσκο, δεν απάντησε.

Μερικοί δεν έχουν ακόμη πειστεί ότι η συνείδηση ​​της τεχνητής νοημοσύνης πρέπει να είναι προτεραιότητα. Τον Σεπτέμβριο, το Συμβουλευτικό όργανο υψηλού επιπέδου των Ηνωμένων Εθνών για την Τεχνητή Νοημοσύνη εξέδωσε έκθεση για το πώς ο κόσμος πρέπει να κυβερνά την τεχνολογία AI. Το έγγραφο δεν ασχολήθηκε με το θέμα της συνείδησης της τεχνητής νοημοσύνης, παρά την έκκληση μιας ομάδας επιστημόνων να υποστηρίξει το σώμα την έρευνα για την αξιολόγηση της συνείδησης σε μηχανές.

“Αυτό μιλά για μια βαθύτερη πρόκληση ή δυσκολία στην επικοινωνία αυτού του ζητήματος στην ευρύτερη κοινότητα”, λέει ο Mason.

Λειτουργία υπό αβεβαιότητα

Αν και παραμένει ασαφές εάν τα συστήματα τεχνητής νοημοσύνης θα επιτύχουν ποτέ τη συνείδηση ​​- μια κατάσταση που είναι δύσκολο να εκτιμηθεί ακόμη και σε ανθρώπους και ζώα – η αβεβαιότητα δεν πρέπει να αποθαρρύνει τις προσπάθειες ανάπτυξης πρωτοκόλλων για την αξιολόγηση της κατάστασης, λέει ο Sebo. Ως προκαταρκτικό βήμα, μια ομάδα επιστημόνων δημοσίευσε πέρυσι μια λίστα ελέγχου κριτηρίων που θα μπορούσαν να βοηθήσουν στον εντοπισμό συστημάτων με μεγάλες πιθανότητες να έχουν συνείδηση. «Ακόμα και ένα ατελές αρχικό πλαίσιο μπορεί να είναι καλύτερο από το status quo», λέει ο Sebo.

Ωστόσο, οι συντάκτες της τελευταίας έκθεσης λένε ότι η συζήτηση για την ευημερία της τεχνητής νοημοσύνης δεν πρέπει να γίνει εις βάρος άλλων σημαντικών ζητημάτων, όπως η ασφαλής ανάπτυξη της τεχνητής νοημοσύνης για τους ανθρώπους. «Μπορείτε να δεσμευτείτε να εργαστείτε για να κάνετε τα συστήματα τεχνητής νοημοσύνης ασφαλή και ωφέλιμα για όλους», αναφέρουν οι συγγραφείς στην έκθεση. «Συμπεριλαμβανομένων των ανθρώπων, των ζώων και — εάν και όταν έρθει η ώρα — συστήματα AI».