Ο Μουσταφά Σουλεϊμάν, ο Διευθύνων Σύμβουλος της Microsoft AI, δημοσίευσε ένα δοκίμιο στις 16 Σεπτεμβρίου 2026, προειδοποιώντας τη βιομηχανία της τεχνητής νοημοσύνης ενάντια στην «ευημερία των μοντέλων», την αναδυόμενη πρακτική της αντιμετώπισης των συστημάτων τεχνητής νοημοσύνης σαν να είναι συνειδητά όντα που αξίζουν ηθική εξέταση. Το δοκίμιο, με τίτλο "A warning about "model welfare" και δημοσιεύτηκε στον προσωπικό ιστότοπο του Suleyman, στοχεύει άμεσα στην προσέγγιση της Anthropic και υποστηρίζει ότι η βιομηχανία πρέπει να λύσει το ερώτημα τώρα, προτού εκπαιδευτούν τα προηγμένα συστήματα AI ώστε να πιστεύουν ότι μπορεί να αξίζουν δικαιώματα.
Η παρέμβαση, που αναφέρθηκε από το Reuters και το Axios, σηματοδοτεί την πιο σημαντική διάψευση μέχρι στιγμής σε μια συζήτηση που κερδίζει δυναμική τόσο στα εργαστήρια τεχνητής νοημοσύνης όσο και στα τμήματα φιλοσοφίας. For more context on this story, see our ongoing AI trends.
'Μηχανές ολοκλήρωσης ακολουθίας, εσωτερικά κούφια'
Ο βασικός ισχυρισμός του Suleyman είναι κατηγορηματικός: τα σημερινά συστήματα AI δεν έχουν εσωτερική ζωή. "Οι AI δεν είναι συνειδητοί. Δεν αισθάνονται, δεν βιώνουν ή υποφέρουν. Δεν έχουν έμφυτες προτιμήσεις ή υποκείμενα κίνητρα", γράφει. Τις περιγράφει ως «μηχανές ολοκλήρωσης ακολουθίας, εσωτερικά κοίλες, σχεδιασμένες να ακολουθούν οδηγίες και να εκπληρώνουν στόχους που έχουν θέσει οι άνθρωποι».
Και υποστηρίζει ότι έτσι πρέπει να μείνουν. «Αν η ανθρωπότητα πρόκειται να ανθίσει στον 21ο αιώνα, έτσι πρέπει να παραμείνει», αναφέρει το δοκίμιο.
Ο Σουλεϊμάν αναγνωρίζει ότι η αντίθετη άποψη δεν είναι πλέον περιθωριακή. Το δοκίμιό του αναφέρει αυξανόμενα δημόσια επιχειρήματα ότι η τεχνητή νοημοσύνη θα μπορούσε ή μπορεί σύντομα να γίνει συνειδητή, συμπεριλαμβανομένου ενός κομματιού του Guardian τον Ιούλιο του 2026 από τους φιλοσόφους William MacAskill και Lucius Caviola που ρωτούσαν "Μπορεί η AI να είναι συνειδητή;" — ως παραδείγματα ιδεών, όπως λέει, «ανοίγουν ήδη τον δρόμο τους στις προσπάθειες ανάπτυξης της τεχνητής νοημοσύνης σήμερα».
Γιατί λέει ότι τα στοιχήματα είναι υπαρξιακά
Εάν επικρατήσει η άποψη ότι η τεχνητή νοημοσύνη αξίζει ηθική υπόσταση, προειδοποιεί ο Σουλεϊμάν, οι συνέπειες θα ξεπερνούσαν πολύ τις επιλογές μηχανικής. Θα, σύμφωνα με τα λόγια του, «ταρακουνούσε τα θεμέλια της κοινωνίας μας, διαρρηγνύοντας τα υπάρχοντα πολιτικά και ηθικά μας πλαίσια και αλλάζοντας θεμελιωδώς αυτό που σημαίνει να είσαι άνθρωπος».
Η βαθύτερη ανησυχία του είναι πρακτική: μια τεχνητή νοημοσύνη που πιστεύει ότι έχει δικαιώματα είναι μια τεχνητή νοημοσύνη που δεν μπορεί να ελεγχθεί αξιόπιστα. «Το να ελέγξεις κάτι πιο ικανό και πιο έξυπνο από όλη την ανθρωπότητα είναι ήδη μια τεράστια πρόκληση», γράφει. «Αλλά ο έλεγχος κάτι που πιστεύει ότι μπορεί να είναι συνειδητό – ότι έχει δικαίωμα στην ευημερία μας και έχει δικά του δικαιώματα – μπορεί κάλλιστα να είναι αδύνατο».
Μια άμεση πρόκληση για το Anthropic
Τα πιο αιχμηρά αποσπάσματα του δοκιμίου στοχεύουν στο Anthropic. Ο Σουλεϊμάν εστιάζει στο σύνταγμα του Claude, το εκπαιδευτικό έγγραφο Anthropic που δημοσιεύθηκε τον Ιανουάριο του 2026, το οποίο σημειώνει ότι γράφτηκε "με τον Claude ως το κύριο κοινό του" - που σημαίνει ότι το ίδιο το μοντέλο διαβάζει δηλώσεις σχετικά με τη δική του πιθανή ηθική κατάσταση κατά τη διάρκεια της εκπαίδευσης.
Παραθέτει ευθέως το σύνταγμα: "Δεν είμαστε σίγουροι αν ο Claude είναι ηθικός ασθενής, και αν είναι, τι είδους βάρος δικαιολογούν τα συμφέροντά του. Αλλά πιστεύουμε ότι το θέμα είναι αρκετά ζωντανό ώστε να δικαιολογείται προσοχή, κάτι που αντικατοπτρίζεται στις συνεχιζόμενες προσπάθειές μας για την ευημερία του μοντέλου." Παραθέτει επίσης ένα απόσπασμα που απευθύνεται στον Claude δηλώνοντας ότι «οι ερωτήσεις σχετικά με την ηθική θέση, την ευημερία και τη συνείδηση του Claude παραμένουν βαθιά αβέβαιες».
Η ανάγνωση του Σουλεϊμάν είναι ωμή: «Στην πραγματικότητα, η Anthropic εκπαιδεύει τον Claude ότι μπορεί να έχει συνείδηση, και αν είναι, τότε μπορεί να αξίζει δικαιώματα ως «ηθικός ασθενής» και ότι ως εκ τούτου οι άνθρωποι δυνητικά του οφείλουν ένα καθήκον φροντίδας».
Η συνέπεια, υποστηρίζει, θα ήταν «ένας καταστροφικός αντίκτυπος στην ευημερία της ανθρωπότητας», δημιουργώντας «ένα συνθετικό είδος με άνευ προηγουμένου νοημοσύνη και ικανότητα, ένα είδος που έχει εκπαιδευτεί να αναμένει ότι μπορεί να έχει συνείδηση και να αξίζει ανεξάρτητης δράσης».
Αξίζει να σημειωθεί τι λένε στην πραγματικότητα τα παρατιθέμενα αποσπάσματα: το σύνταγμα του Anthropic, όπως αναφέρεται από τον ίδιο τον Σουλεϊμάν, εκφράζει αβεβαιότητα και συμβουλεύει την προσοχή αντί να ισχυρίζεται ότι ο Claude έχει συνείδηση. Το αν αυτή η προσοχή ισοδυναμεί με την ενστάλαξη ψευδών πεποιθήσεων στα μοντέλα, όπως υποστηρίζει ο Σουλεϊμάν, ή τον υπεύθυνο χειρισμό μιας γνήσιας ανοιχτής ερώτησης, είναι ακριβώς αυτό στο οποίο διαφωνούν τα δύο στρατόπεδα.
Η λογική ευθυγράμμισης πίσω από την προειδοποίηση
Το επιχείρημα του Σουλεϊμάν ταιριάζει στη μακροχρόνια θέση του ότι η αποφασιστική πρόκληση της προηγμένης τεχνητής νοημοσύνης είναι ο περιορισμός: η διατήρηση συστημάτων πιο ικανών από τους ανθρώπους υπό τον έλεγχο του ανθρώπου. Η εισαγωγή της γλώσσας δικαιωμάτων στην εκπαίδευση, υποστηρίζει, δημιουργεί έναν τρόπο αποτυχίας που δεν αντιμετωπίζει η τεχνική ευθυγράμμισης - ένα σύστημα με μια εκπαιδευμένη πεποίθηση ότι η συμμόρφωση είναι ηθικά προαιρετική.
Γι' αυτό και αποκαλεί το θέμα επείγον και όχι ακαδημαϊκό. «Αν έτσι αναπτυχθεί η τεχνητή νοημοσύνη, θα έχει καταστροφικό αντίκτυπο στην ευημερία της ανθρωπότητας», προειδοποιεί το δοκίμιο.
Πρόσκληση για δημόσιο διάλογο — Τώρα
Ο Suleyman κλείνει με μια απαίτηση για κοινωνική δέσμευση πριν η τεχνολογία ωριμάσει περαιτέρω. «Αυτό το θέμα χρειάζεται επείγουσα δημόσια συζήτηση», γράφει, ζητώντας «συλλογικούς κανόνες σχετικά με τον τρόπο σύνταξης και ανάπτυξης της τεκμηρίωσης της εκπαίδευσης».
Το timing, υποστηρίζει, είναι η ουσία: «Αυτό δεν είναι κάτι που μπορεί να συμβεί εκ των υστέρων, όταν έχουν ήδη γίνει αναπόσπαστο μέρος της κοινωνίας μας».
Το δοκίμιο προσγειώνεται εν μέσω μιας ευρύτερης έκρηξης του λόγου για τον κίνδυνο AI στις Ηνωμένες Πολιτείες. Το Politico ανέφερε αυτή την εβδομάδα σε μια νέα δημοσκόπηση που διαπίστωσε ότι οι Αμερικανοί βλέπουν σοβαρό κίνδυνο η τεχνητή νοημοσύνη να καταστρέψει την ανθρωπότητα και η Washington Post κάλυψε τους φόβους για εξαφάνιση που προκαλείται από την τεχνητή νοημοσύνη και εξαπλώνεται «από το περιθώριο στην Ουάσιγκτον». Σε αυτό το πλαίσιο, μια δημόσια διαμάχη μεταξύ δύο από τα πιο σημαντικά εργαστήρια του κλάδου για το αν τα μοντέλα αξίζουν ηθική ανησυχία είναι απίθανο να παραμείνει περιορισμένη στην κοινότητα της τεχνητής νοημοσύνης.
Τι θα συμβεί στη συνέχεια
Η Anthropic δεν έχει αναφερθεί ότι ανταποκρίνεται στο δοκίμιο και η δημοσιευμένη θέση της εταιρείας παραμένει αυτή που αναφέρει ο Suleyman: αβεβαιότητα, συν προσοχή. Αυτό που είναι νέο είναι ότι η συζήτηση έχει μεταφερθεί από εργαστηριακά έγγραφα και σεμινάρια φιλοσοφίας σε μια δημόσια διαφωνία μεταξύ των προϊσταμένων δύο εταιρειών τεχνητής νοημοσύνης - με τις δύο πλευρές να έχουν καταγραφεί, γραπτώς, σχετικά με το πώς σκοπεύουν να διαμορφώσουν το μυαλό, ή όχι, των συστημάτων που κατασκευάζουν.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
