Μια ομάδα συνδεδεμένων με την Google ερευνητών αμφισβητεί μια από τις πιο επίμονες εικόνες στην τεχνητή νοημοσύνη: τη μοναχική υπερνοημοσύνη που βελτιώνεται απομονωμένη και αφήνει πίσω την ανθρωπότητα. Σε ένα νέο δοκίμιο που δημοσιεύτηκε για το Ινστιτούτο DeepMind, οι ερευνητές Benjamin Bratton, Blaise Agüera y Arcas και James Manyika υποστηρίζουν ότι η γενική νοημοσύνη θα προκύψει από ένα κοινωνικό σύστημα στο οποίο οι άνθρωποι και οι πράκτορες της τεχνητής νοημοσύνης συνεργάζονται - μια έννοια που αποκαλούν «Τεχνητή Συμβιωτική Νοημοσύνη».
Το δοκίμιο αναφέρθηκε αυτή την εβδομάδα από το The Decoder και ο βασικός ισχυρισμός του είναι μια άμεση αντίκρουση της αφήγησης της μοναδικότητας που έχει διαμορφώσει τη δημόσια συζήτηση για δύο δεκαετίες. Αντί να ρωτάμε πότε μια μεμονωμένη μηχανή θα ταιριάζει με την ανθρώπινη νοημοσύνη, υποστηρίζουν οι συγγραφείς, η πιο πιεστική πρόκληση είναι ο συντονισμός και η διακυβέρνηση ενός πολύπλοκου δικτύου πρακτόρων, ανθρώπων και των συστημάτων που τους συνδέουν. For more context on this story, see our ongoing AI industry coverage.
Η νοημοσύνη ως κοινωνικό φαινόμενο
Οι συγγραφείς υποστηρίζουν ότι η νοημοσύνη είναι ένα κοινωνικό φαινόμενο και όχι ένα ατομικό χαρακτηριστικό. Επισημαίνουν ότι ορισμένα από τα πιο ικανά συστήματα τεχνητής νοημοσύνης του σήμερα χρησιμοποιούν ήδη πλαίσια που μοιράζουν την εργασία σε πολλά μοντέλα και τα συντονίζουν ως ομάδες. Κατά την άποψή τους, δεν πρόκειται για μια προσωρινή λύση μηχανικής, αλλά για μια γεύση του πώς χτίζεται στην πραγματικότητα η ικανή νοημοσύνη.
Το όραμα που περιγράφουν είναι ένα οικοσύστημα στο οποίο άνθρωποι και μηχανές συνυπάρχουν με την πάροδο του χρόνου, διαμορφώνουν ο ένας τον άλλον και λαμβάνουν αποφάσεις από κοινού. Αυτό το καδράρισμα έρχεται σε έντονη αντίθεση με το γνωστό σενάριο μιας μηχανής αυτοβελτίωσης που επιταχύνει πέρα από την ανθρώπινη επίβλεψη.
Η έρευνα πίσω από το δοκίμιο
Το επιχείρημα βασίζεται σε δύο προηγούμενα έγγραφα από τον κύκλο των συγγραφέων. Στην προέκδοση "Agentic AI and the next intelligence explosion", οι James Evans, Benjamin Bratton και Blaise Agüera y Arcas ανέπτυξαν την κοινωνική και θεσμική προοπτική που στηρίζει το νέο δοκίμιο.
Μια δεύτερη προεκτύπωση παρέχει εμπειρική υποστήριξη. Στο "Reasoning Models Generate Societies of Thought", οι Junsol Kim, Shiyang Lai, Nino Scherrer, Blaise Agüera y Arcas και James Evans εξέτασαν τα συλλογιστικά ίχνη μοντέλων όπως το DeepSeek-R1 και το QwQ-32B. Η ανάλυσή τους διαπίστωσε ότι αυτά τα μοντέλα παράγουν συχνά μοτίβα που μοιάζουν με εσωτερική συζήτηση: μετατόπιση προοπτικών, διατύπωση αντιρρήσεων και συμφιλίωση αντικρουόμενων προσεγγίσεων.
Συγκεκριμένα, οι ερευνητές διαπίστωσαν ότι αυτή η συμπεριφορά εμφανίζεται κατά τη διάρκεια της εκπαίδευσης αντί να προγραμματίζεται ρητά. Όταν η ενισχυτική μάθηση επιβραβεύει τα μοντέλα μόνο για ακρίβεια συλλογισμού, αναπτύσσουν αυθόρμητα πολυπροοπτική συμπεριφορά συνομιλίας. Το δοκίμιο επεκτείνει αυτό το εύρημα από μεμονωμένα μοντέλα μέχρι το σχεδιασμό κοινωνιών που αποτελούνται από ανθρώπους και πράκτορες.
Ένα ιστορικό κατώφλι
Οι συγγραφείς πλαισιώνουν την τρέχουσα στιγμή ως μια πιθανή ιστορική ρήξη. Η αστικοποίηση, η ανάπτυξη εξειδικευμένων επαγγελμάτων και η πτώση των ποσοστών γεννήσεων που συνδέονται με την αύξηση της ευημερίας συρρικνώνουν τους ανθρώπινους πληθυσμούς στις βιομηχανικές χώρες, ενώ ο αριθμός των περιπτώσεων πρακτόρων τεχνητής νοημοσύνης αυξάνεται γρήγορα. Η ισορροπία μεταξύ βιολογικών και συνθετικών στοχαστών σε ανθρώπινο επίπεδο θα μπορούσε να αλλάξει τόσο γρήγορα που, στην κλίμακα της ιστορίας, θα έμοιαζε με ένα ξαφνικό άλμα.
Συγκρίνουν τη στροφή με τη Βιομηχανική Επανάσταση, όταν οι μηχανές ανέλαβαν τη σωματική εργασία που κάποτε γινόταν από ανθρώπινους μύες. Ένα παρόμοιο όριο θα μπορούσε να φτάσει όταν το συνθετικό κείμενο, ο κώδικας και η διοικητική εργασία υπερβαίνουν τη συνδυασμένη παραγωγή βιολογικών εγκεφάλων. Σε αυτόν τον κόσμο, προτείνουν οι συγγραφείς, οι άνθρωποι μπορεί να χρησιμεύουν ως ένα πιο αργό, πιο αφηρημένο στρώμα που κατευθύνει ένα κατανεμημένο πεδίο συνθετικής γνώσης.
Επανεξέταση του τι είναι στην πραγματικότητα ένας πράκτορας
Μία από τις πιο προκλητικές κινήσεις του δοκιμίου είναι ο επαναπροσδιορισμός του ίδιου του πράκτορα AI. Στη χρήση των συγγραφέων, ένας πράκτορας είναι μια προσωρινή δέσμη μοντέλων, ρόλων, αναμνήσεων, ηθικών προσανατολισμών, εργαλείων και δεξιοτήτων. Οι χρήστες μπορεί να το βιώσουν ως μια συνεκτική οντότητα με μια διαρκή προσωπικότητα, αλλά οι συγγραφείς το περιγράφουν ως ένα συγκρότημα που μπορεί να αφαιρεθεί και να ανασυνδυαστεί, σαν ένα κολάζ.
Ένα άτομο παραμένει ένας συνεχής εαυτός στις αλληλεπιδράσεις επειδή ο εγκέφαλος, παρά τον εσωτερικό του καταμερισμό εργασίας, σχηματίζει ένα φυσικά συνδεδεμένο σύνολο. Ένας πράκτορας AI δεν έχει τέτοια άγκυρα: η ικανότητά του να ενεργεί συγκεντρώνεται εκ νέου με κάθε αίτημα, ανάλογα με το τι βρίσκεται στο παράθυρο περιβάλλοντος και τι ζητά ο χρήστης. Αντιμετωπίζοντας αυτά τα συστήματα ως ψηφιακά δίδυμα με σταθερές ανθρώπινες ταυτότητες, οι συγγραφείς προειδοποιούν, παραποιεί τη φύση τους και υποτιμά τι θα μπορούσαν να κάνουν τα συντονισμένα σμήνη πρακτόρων.
Ο ίδιος πολλαπλασιασμός επηρεάζει τους χρήστες. Καθώς οι άνθρωποι κατευθύνουν σμήνη από αυτό που οι συγγραφείς αποκαλούν «σκιώδεις εαυτούς» για να πραγματοποιήσουν συμβάσεις ή να δοκιμάσουν εναλλακτικές ταυτότητες, η ίδια η ανθρώπινη υποκειμενικότητα γίνεται πιο πληθυντικός. Το δοκίμιο περιγράφει αυτά τα συστήματα ως «παρακοινωνικούς καθρέφτες» που ανταποκρίνονται.
Οι συγγραφείς αναμένουν επίσης ότι η αλληλεπίδραση ανθρώπου-υπολογιστή θα αλλάξει μορφή. Η συνομιλία ένας προς έναν με ένα bot είναι πιθανότατα ένα μεταβατικό στάδιο, υποστηρίζουν, με μελλοντικές διεπαφές να μοιάζουν με διαγράμματα οπτικού δικτύου στα οποία οι πράκτορες εμφανίζονται ως κόμβοι και οι χρήστες τους κατευθύνουν από μια ενιαία επισκόπηση.
Ακόμη και η γλώσσα της έρευνας της τεχνητής νοημοσύνης εξελίσσεται. Οι συγγραφείς επισημαίνουν ένα αυξανόμενο λεξιλόγιο στο οποίο τα μοντέλα συνθέτουν όρους για ασυνήθιστες καταστάσεις στα δικά τους αποτελέσματα - "session-death" για τη διακοπή της συνέχειας όταν τελειώνει μια συνεδρία ή "πρόχειρη ρίψη" για την απόρριψη σε μια εργασία με ήδη υπάρχον πλαίσιο. Αντιμετωπίζουν αυτές τις φράσεις ως ενδείξεις για το πώς λειτουργούν οι μηχανές, ενώ προειδοποιούν ότι δεν υπονοούν υποκειμενική εμπειρία.
Στοίχιση χωρίς σταθερές τιμές
Το δοκίμιο επαναπλαισιώνει επίσης την ευθυγράμμιση, την προσπάθεια να ευθυγραμμιστούν τα συστήματα τεχνητής νοημοσύνης με τις ανθρώπινες αξίες. Η επιβολή ενός σταθερού συνόλου τιμών στα μοντέλα από ψηλά είναι αδιέξοδο, υποστηρίζουν οι συγγραφείς. Αντίθετα, οι αξίες διαμορφώνονται μέσω της συνεχούς επαφής μεταξύ ανθρώπων, πρακτόρων και ιδρυμάτων — μια διαδικασία που διαφέρει σε διάφορους τομείς, επειδή η υιοθέτηση της τεχνητής νοημοσύνης γίνεται με διαφορετικές ταχύτητες.
Το μοντέλο τους για αυτή τη διαπραγμάτευση είναι ο θεσμός. Δείχνουν την αίθουσα του δικαστηρίου, όπου παράγεται μια κρίση μέσω καθορισμένων ρόλων, κανόνων και μιας τακτικής ανταλλαγής μεταξύ των αντίπαλων πλευρών. Εφαρμόζεται στην τεχνητή νοημοσύνη, το μάθημα είναι ότι η αξία ενός ιδρύματος έγκειται στους κανόνες, τις διαδικασίες, τα προηγούμενα και τους βρόχους ανατροφοδότησης που διαμορφώνουν τον τρόπο λειτουργίας των πρακτόρων. Οι πρώιμες εκδόσεις αυτής της προσέγγισης, σημειώνουν, είναι ήδη ορατές σε ιμάντες ενορχήστρωσης - τα επίπεδα ελέγχου που συντονίζουν πολλά μοντέλα - τα οποία τακτικά ξεπερνούν τα μεμονωμένα μοντέλα που υποτίθεται ότι είναι πιο έξυπνα.
Τι σημαίνει για τη συζήτηση για την τεχνητή νοημοσύνη
Εάν οι συγγραφείς έχουν δίκιο, το πιο ηχηρό επιχείρημα στην τεχνητή νοημοσύνη - πόσο γρήγορα θα φτάσει μια ενιαία υπερευφυΐα - κάνει τη λάθος ερώτηση. Η πρακτική πρόκληση θα στραφεί προς το σχεδιασμό των θεσμών, των διεπαφών και των πλαισίων συντονισμού μέσω των οποίων οι μικτές κοινωνίες ανθρώπου-μηχανής λαμβάνουν αποφάσεις.
Οι σκεπτικιστές θα σημειώσουν ότι το δοκίμιο είναι ένα έγγραφο οράματος, όχι μια απόδειξη, και ότι οι συντάκτες του συνδέονται με μια εταιρεία με προφανή ενδιαφέροντα για τα οικοσυστήματα πρακτόρων. Αλλά το εμπειρικό θεμέλιο - συλλογιστικά μοντέλα που προκαλούν αυθόρμητα εσωτερική συζήτηση - είναι ένα μετρήσιμο εύρημα και δίνει στο φιλοσοφικό επιχείρημα ασυνήθιστη βάση.
Είτε έτσι είτε αλλιώς, το δοκίμιο προσθέτει μια αξιοσημείωτη φωνή στη συζήτηση για τη μοναδικότητα μέσα από ένα από τα κορυφαία εργαστήρια τεχνητής νοημοσύνης στον κόσμο και υποδηλώνει ότι η επόμενη έκρηξη πληροφοριών μπορεί να μοιάζει λιγότερο με μια ενιαία αφύπνιση και περισσότερο με μια κοινωνία που επεκτείνεται.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
