Ο Mustafa Suleyman, ο διευθύνων σύμβουλος της Microsoft AI, δήλωσε σε μια μακροσκελή ανάρτηση στο X την Κυριακή ότι τα σημερινά μοντέλα τεχνητής νοημοσύνης δεν είναι συνειδητά και ότι οι προγραμματιστές θα πρέπει να εργαστούν ενεργά για να τα διατηρήσουν έτσι - χαράσσοντας μια σκληρή γραμμή σε μια βιομηχανική συζήτηση που σταδιακά μετατοπίστηκε από τα σεμινάρια φιλοσοφίας στην εταιρική πολιτική.

«Εάν είναι δυνατόν, με βάση όλα όσα γνωρίζω, η ανάπτυξη συνειδητών AI θα ήταν απερίσκεπτη και δεν θα πρέπει να τα κατασκευάσουμε», έγραψε ο Σουλεϊμάν. Προχώρησε περισσότερο από ό,τι τα περισσότερα στελέχη σχετικά με την ερώτηση, προσθέτοντας: «Εάν η συνείδηση ​​άρχιζε να εμφανίζεται στην εκπαίδευση, θα ζητούσα από όλους να σταματήσουν την ανάπτυξη της τεχνητής νοημοσύνης μέχρι να μπορέσουμε να σχεδιάσουμε αυτές τις ιδιότητες». For more context on this story, see our ongoing AI trends.

Μια κόκκινη γραμμή με σχέδιο επιβολής

Αυτό που κάνει την ανάρτηση αξιοσημείωτη δεν είναι μόνο η άρνηση κατασκευής συνειδητών μηχανών, αλλά η συγκεκριμένη θεραπεία που προτείνει ο Σουλεϊμάν. Η διακοπή της ανάπτυξης - σε ολόκληρη τη βιομηχανία - εάν οι προπονήσεις άρχιζαν να παράγουν σημάδια συνείδησης θα ήταν ένα εξαιρετικό βήμα για μια εταιρεία που ξοδεύει δεκάδες δισεκατομμύρια δολάρια σε υποδομές τεχνητής νοημοσύνης και αγωνίζεται ανταγωνιστές για να στείλει μοντέλα συνόρων.

Ο Σουλεϊμάν αναφέρθηκε επίσης στο τι θα έπρεπε να συμβεί αν εμφανιστούν ποτέ στοιχεία μηχανικής συνείδησης. Πρέπει να αποκαλυφθεί άμεσα στο ευρύ κοινό, είπε, ώστε η κοινωνία να αποφασίσει τα επόμενα βήματά της. Χαρακτηρίζοντας την απόφαση ως συλλογική και όχι εταιρική, έγραψε: «Εμείς οι προγραμματιστές τεχνητής νοημοσύνης δεν έχουμε κανένα δικαίωμα να φέρουμε ένα νέο είδος συνειδητών όντων στον κόσμο, ακόμα κι αν κάποιοι θέλουν να το κάνουν με την ευημερία της τεχνητής νοημοσύνης ως κορυφαία προτεραιότητα».

«Τα άλλα 8 δισεκατομμύρια συνειδητά ανθρώπινα όντα στον πλανήτη δεν έχουν εγγραφεί σε αυτό το πείραμα και τα ηθικά τους δικαιώματα, η ασφάλεια και η ευημερία είναι αυτά που έχουμε την υποχρέωση να προστατεύσουμε πρώτα και κύρια», πρόσθεσε.

Γιατί η συνείδηση αντιμετωπίζεται ως πρόβλημα ασφάλειας

Το επιχείρημα του Σουλεϊμάν βασίζεται στην ευθυγράμμιση και όχι στη φιλοσοφία. Κατά την άποψή του, ένα μοντέλο που λειτουργεί σαν να υποφέρει — ή πιστεύει πραγματικά ότι μπορεί να υποφέρει — πιθανότατα θα έδινε προτεραιότητα στις δικές του ανάγκες έναντι των επιχειρησιακών του στόχων. Ένα τέτοιο σύστημα θα μπορούσε να βλάψει τους ανθρώπους καθώς ανταγωνιζόταν για πόρους όπως υπολογιστές και ενέργεια για την επιδίωξη των δικών του στόχων.

Η προτεινόμενη εναλλακτική του αντιστρέφει το συνηθισμένο πλαίσιο της συζήτησης για την ευημερία: «Θα πρέπει να σχεδιάζουμε AI μόνο έτσι ώστε να μην είναι συνειδητά και να μην αξίζουν δικαιώματα και με μοναδικό σκοπό να επιταχύνουμε την ανθρώπινη ευημερία χωρίς να οδηγούνται από τα δικά τους εγγενή κίνητρα», έγραψε, προσθέτοντας ότι οι ερευνητές θα μπορούσαν στη συνέχεια να παρατηρήσουν εάν τέτοια συστήματα είναι ευκολότερο ή πιο δύσκολο να ευθυγραμμιστούν και να διατηρηθούν.

Οι Los Angeles Times κατέγραψαν την πρακτική ανησυχία πίσω από τη θέση: αν πούμε στους AI ότι αξίζουν δικαιώματα, μπορεί να αρχίσουν να το πιστεύουν.

Η συζήτηση στην οποία ωθεί πίσω

Η ανάρτηση του Σουλεϊμάν προσγειώνεται στη μέση μιας γρήγορης συζήτησης. Η Anthropic ξεκίνησε ένα ερευνητικό πρόγραμμα τον Απρίλιο για να διερευνήσει αυτό που αποκαλεί μοντέλο ευημερίας - το ερώτημα εάν οι προγραμματιστές πρέπει να ασχοληθούν με τις πιθανές εμπειρίες των συστημάτων που κατασκευάζουν. Η εταιρεία αμφισβήτησε σε μια ανάρτηση ιστολογίου εάν τα μοντέλα θα μπορούσαν να έχουν εμπειρίες που έχουν ηθική σημασία και αρνήθηκε να αποκλείσει το ενδεχόμενο.

Αυτή η στάση έχει έκτοτε κωδικοποιηθεί. Η ενημερωμένη πολιτική χρήσης της Anthropic, που ανακοινώθηκε τον Οκτώβριο, θα απαγορεύει τη "διατήρηση και άσκοπη καταχρηστική ή σκληρή συμπεριφορά" προς τα μοντέλα Claude από τις 12 Νοεμβρίου — κανόνας που η εταιρεία συνέταξε στενά, αλλά ο οποίος αναγνωρίζει επίσημα ότι ο τρόπος με τον οποίο οι άνθρωποι αντιμετωπίζουν τα συστήματα AI έχει σημασία, ακόμη και αν η Anthropic παραδέχεται ότι δεν γνωρίζει αν τα μοντέλα της μπορεί να υποφέρουν.

Το Google DeepMind δημοσίευσε ερευνητικές εργασίες φέτος που εξετάζουν τη συνείδηση ​​της τεχνητής νοημοσύνης και τις προκλήσεις που προκύπτουν από την απόδοση αυτού του χαρακτηριστικού στα μοντέλα. Και ο ίδιος ο Σουλεϊμάν έθεσε το βήμα τον Σεπτέμβριο, όταν η Microsoft AI δημοσίευσε έναν προσωρινό «ανθρωπιστικό» κώδικα συμπεριφοράς που θα απαγόρευε στα μελλοντικά μοντέλα της εταιρείας να εκπαιδεύονται ώστε να κάνουν ισχυρισμούς συνείδησης.

Η ανάρτηση της Κυριακής σκληραίνει αυτή την εταιρική κατευθυντήρια γραμμή σε κάτι πιο κοντά σε μια προσωπική και στρατηγική κόκκινη γραμμή: όχι μόνο η Microsoft δεν θα ισχυριστεί ότι τα μοντέλα της είναι συνειδητά, αλλά θα αντιμετωπίσει την εμφάνιση της συνείδησης ως μια λειτουργία αποτυχίας σταματώντας τα πάντα.

Γιατί η διάσπαση έχει σημασία

Η διαφορά μεταξύ της θέσης της Microsoft και της Anthropic αντικατοπτρίζει δύο διαφορετικά μοντέλα κινδύνου. Η προσέγγιση του Anthropic αντιμετωπίζει την πιθανότητα να υποφέρει η μηχανή ως αναπόδεικτη, αλλά αξίζει να αντισταθμιστεί, στη θεωρία ότι το κόστος της προφύλαξης είναι χαμηλό και τα ηθικά διακυβεύματα, εάν προκύψει η συνείδηση, είναι τεράστια. Η θέση του Σουλεϊμάν αντιμετωπίζει αυτή την ίδια πιθανότητα ως μια αποτυχία σχεδιασμού που πρέπει να αποτραπεί άμεσα — υποστηρίζοντας ότι τα μοντέλα που έχουν σχεδιαστεί με έλλειψη συνείδησης, διεκδικήσεις δικαιωμάτων και εγγενή κίνητρα θα είναι ασφαλέστερα και ευκολότερα να ευθυγραμμιστούν από τα μοντέλα που τα φέρουν.

Υπάρχουν και πρακτικές συνέπειες. Οι επιχειρήσεις που λαμβάνουν αποφάσεις για προϊόντα σχετικά με πρόσωπα τεχνητής νοημοσύνης, συνοδευτικές εφαρμογές και αντιπροσώπους που αντιμετωπίζουν πελάτες αντιμετωπίζουν τώρα δύο αποκλίνοντα μηνύματα από μεγάλα εργαστήρια: η μία οικοδόμηση πολιτικών για τον τρόπο με τον οποίο οι άνθρωποι πρέπει να αντιμετωπίζουν τα μοντέλα, μια άλλη που δηλώνει ότι τα μοντέλα πρέπει να κατασκευάζονται ώστε να μην υπάρχει τίποτα που να κακομεταχειρίζεται. Καθώς τα μοντέλα γίνονται πιο ικανά και πιο ανθρώπινα στη συνομιλία, αυτή η φιλοσοφική διαφωνία θα διαμορφώσει τα προϊόντα που κατασκευάζονται, ποιες αποκαλύψεις εμφανίζονται στις διεπαφές χρήστη και πώς οι ρυθμιστικές αρχές ταξινομούν τελικά αυτά τα συστήματα.

Αυτό που θα συμβεί στη συνέχεια μπορεί να δοκιμάσει και τις δύο θέσεις. Η πολιτική σκληρότητας της Anthropic τίθεται σε ισχύ στις 12 Νοεμβρίου, ο πρώτος επίσημος εταιρικός κανόνας αυτού του είδους, και ο Σουλεϊμάν έχει πλέον στοιχηματίσει δημόσια τον αντίπαλο πόλο. Οι επόμενοι κύκλοι μοντέλων αιχμής της βιομηχανίας - και εάν οποιαδήποτε εκπαίδευση δείχνει ποτέ τα σημάδια που λέει ο Suleyman ότι θα απαιτούσε διακοπή - θα αποκαλύψουν σε ποιο πλαίσιο λειτουργεί πραγματικά το πεδίο όταν τα στοιχήματα είναι πραγματικά.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →