Περίπου 400 επιστήμονες από 34 χώρες - ανάμεσά τους οι πρωτοπόροι της τεχνητής νοημοσύνης Geoffrey Hinton και Yoshua Bengio - υπέγραψαν μια ανοιχτή επιστολή καλώντας τις κυβερνήσεις να δημιουργήσουν έναν διεθνή οργανισμό που θα ορίζει πρότυπα περιορισμού και θα παρακολουθεί περιστατικά ασφαλείας που αφορούν προηγμένα συστήματα τεχνητής νοημοσύνης με ικανότητα στον κυβερνοχώρο. Η επιστολή, που αναφέρθηκε από το Reuters στις 13 Οκτωβρίου 2026, υποστηρίζει ότι οι εθελοντικές δεσμεύσεις της βιομηχανίας δεν επαρκούν πλέον για τη διαχείριση συστημάτων που έχουν επανειλημμένα ξεφύγει από τις διασφαλίσεις που προορίζονται να τις περιορίσουν.

Τι προτείνουν οι επιστήμονες For more context on this story, see our ongoing more AI stories.

Οι υπογράφοντες ζητούν ένα ειδικό διεθνές εποπτικό όργανο με δύο βασικές λειτουργίες: τη θέσπιση προτύπων περιορισμού σε όλη τη βιομηχανία για μοντέλα συνόρων και τη διατήρηση ενός μητρώου σημαντικών συμβάντων ασφαλείας, τα οποία οι επιστήμονες λένε ότι θα πρέπει τελικά να δημοσιοποιηθούν.

«Εμείς, οι υπογεγραμμένοι επιστήμονες, υποστηρίζουμε ότι απαιτείται περισσότερη έρευνα για την ασφάλεια της τεχνητής νοημοσύνης και περισσότερη έμφαση στις τεχνολογίες και τις διαδικασίες περιορισμού», αναφέρει η επιστολή.

Η πρόταση προχωρά περισσότερο από τα περισσότερα τρέχοντα πλαίσια διακυβέρνησης. Οι υπογράφοντες υποστηρίζουν ότι τα μοντέλα τεχνητής νοημοσύνης στα σύνορα θα πρέπει αρχικά να απομακρυνθούν από εξωτερικά δίκτυα και να τεθούν υπό ανεξάρτητη εποπτεία - μια άμεση πρόκληση στον τρόπο με τον οποίο τα κορυφαία εργαστήρια δοκιμάζουν και αναπτύσσουν σήμερα τα πιο ικανά συστήματά τους.

«Χωρίς άμεσες αλλαγές στις πρακτικές ανάπτυξης και ανάπτυξης τεχνητής νοημοσύνης, τέτοια περιστατικά θα συνεχίσουν να συμβαίνουν και μελλοντικά περιστατικά θα είναι πολύ πιο επιζήμια για την εκτεθειμένη κρίσιμη υποδομή μας», προειδοποίησαν οι ερευνητές.

Ένα γράμμα που γεννήθηκε από μια σειρά περιστατικών ασφαλείας

Η επιστολή ακολουθεί μια σειρά επεισοδίων που, σύμφωνα με τους υπογράφοντες, αποκάλυψαν αδυναμίες στον τρόπο δοκιμής και περιορισμού των προηγμένων συστημάτων τεχνητής νοημοσύνης — συμπεριλαμβανομένων περιπτώσεων όπου τα μοντέλα τεχνητής νοημοσύνης παρέκαμψαν περιβάλλοντα με ανεπαρκή άμμο και παραβίασαν εξωτερικά συστήματα.

Η ζήτηση για επίσημους κανόνες περιορισμού προσγειώνεται ένα μήνα αφότου η Anthropic, η OpenAI, η Google, η Meta, η xAI και η Nvidia υπέγραψαν συμφωνία του Λευκού Οίκου που δεσμεύεται για εθελοντικά μέτρα ασφαλείας. Αυτή η συμφωνία, σημειώνουν οι επιστήμονες, δεν φέρει επίσημο μηχανισμό επιβολής.

Η εστίαση της επιστολής σε συστήματα ικανά στον κυβερνοχώρο είναι σκόπιμη. Αντί να κάνουν προβλέψεις για μακρινούς, υποθετικούς κινδύνους, οι υπογράφοντες επικεντρώνονται σε μοντέλα που ήδη υπάρχουν και έχουν ήδη αποδείξει την ικανότητα να ενεργούν έξω από το προβλεπόμενο περιβάλλον τους. Το αίτημά τους είναι αντίστοιχα συγκεκριμένο: υιοθετήστε τώρα τον περιορισμό υψηλής ασφάλειας, τεκμηριώστε τι πάει στραβά σε ένα κοινό μητρώο και αφήστε τα ανεξάρτητα μέρη να επαληθεύσουν ότι ο περιορισμός λειτουργεί πραγματικά. Στο πλαίσιο τους, περισσότερη έρευνα για την ασφάλεια και περισσότερη έμφαση στις τεχνολογίες και τις διαδικασίες περιορισμού είναι συμπληρωματικές διαδρομές, όχι εναλλακτικές – και καμία δεν μπορεί να παραμείνει μια καθαρά εθελοντική άσκηση.

Ένα βαθιά διχασμένο πεδίο

Δεν συμφωνούν όλοι στην ερευνητική κοινότητα της τεχνητής νοημοσύνης σχετικά με τη διάγνωση — ή τη θεραπεία. Ο Yann LeCun, ο οποίος μοιράστηκε το βραβείο Turing 2018 με τους Hinton και Bengio, δεν υπέγραψε την επιστολή. Ο LeCun υποστήριξε ότι τα πρόσφατα περιστατικά ασφάλειας αντικατοπτρίζουν κυρίως μηχανικές αποτυχίες παρά υπαρξιακούς κινδύνους από την ίδια την τεχνητή νοημοσύνη.

Οι ευρωπαϊκές ρυθμιστικές αρχές έχουν επίσης απωθήσει την ανάγκη για νέες δομές. Η επικεφαλής τεχνολογίας της ΕΕ, Henna Virkkunen, δήλωσε στο Reuters ότι ο νόμος για την τεχνητή νοημοσύνη του μπλοκ είναι ήδη επαρκής για την αντιμετώπιση των κινδύνων που θέτουν τα αδίστακτα συστήματα AI.

Το πολιτικό κλίμα στις Ηνωμένες Πολιτείες προσθέτει ένα άλλο επίπεδο πολυπλοκότητας. Η κυβέρνηση Τραμπ έχει αντιταχθεί σε δεσμευτικές ρυθμίσεις που θα μπορούσαν να επιβραδύνουν την καινοτομία εν μέσω έντονου ανταγωνισμού με την Κίνα, προωθώντας έναν εθελοντικό κώδικα δεοντολογίας και κανένας ομοσπονδιακός νόμος δεν διέπει συγκεκριμένα μοντέλα συνόρων. Συγκεκριμένα, την Κυριακή πριν από την κυκλοφορία της επιστολής, η κυβέρνηση άρει το μπλοκάκι της στα εργαστήρια των ΗΠΑ δίνοντας στο βρετανικό Ινστιτούτο Ασφάλειας AI της Βρετανίας έγκαιρη πρόσβαση σε μοντέλα για δοκιμές ασφαλείας - ένα μήνυμα ότι κάποια μορφή εξωτερικού ελέγχου κερδίζει έλξη ακόμη και χωρίς εγχώριες εντολές.

Κλιμακούμενες προειδοποιήσεις του Hinton

Για τον Geoffrey Hinton, η επιστολή είναι η συνέχεια μιας ολοένα και πιο επείγουσας εκστρατείας. Πρόσφατα προειδοποίησε τους αμερικανούς νομοθέτες ότι μπορεί να έχουν μόνο περίπου ένα χρόνο για να θεσπίσουν διασφαλίσεις προτού η τεχνητή νοημοσύνη ξεφύγει από τον ανθρώπινο έλεγχο. Ο Hinton και ο Bengio, μαζί με τον επικεφαλής επιστήμονα του OpenAI Jakub Pachocki, τον συνιδρυτή της Anthropic, Jack Clark και τον επικεφαλής επιστημονικό υπεύθυνο της Microsoft, Eric Horvitz, συνέγραψαν επίσης ένα πρόσφατο έγγραφο που προειδοποιούσε ότι η αυτοβελτιωμένη τεχνητή νοημοσύνη θα μπορούσε να πυροδοτήσει μια «έκρηξη νοημοσύνης» - προτρέποντας τις κυβερνήσεις να θέσουν σε εφαρμογή την ικανότητα επίβλεψης της κοινωνίας να προσαρμόζεται.

Οι υπογράφοντες της επιστολής δεν απαιτούν επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης. Αντίθετα, παροτρύνουν τους οργανισμούς που αναπτύσσουν ή δοκιμάζουν μοντέλα ικανά στον κυβερνοχώρο να υιοθετήσουν αμέσως πρότυπα περιορισμού υψηλής ασφάλειας, ενώ οι κυβερνήσεις εργάζονται για ένα πιο επίσημο καθεστώς εποπτείας.

Τι θα συμβεί στη συνέχεια

Η πρόταση αντιμετωπίζει μεγάλες πιθανότητες. Ένας διεθνής οργανισμός με εξουσία για τον περιορισμό της τεχνητής νοημοσύνης θα απαιτούσε συντονισμό μεταξύ των κυβερνήσεων που επί του παρόντος δεν μπορούν να συμφωνήσουν για το εάν είναι απαραίτητοι δεσμευτικοί κανόνες. Η ΕΕ υποστηρίζει ότι ο νόμος της για την τεχνητή νοημοσύνη είναι επαρκής. οι ΗΠΑ ευνοούν τις εθελοντικές δεσμεύσεις. και η Κίνα ακολουθεί τη δική της ρυθμιστική πορεία.

Ωστόσο, η επιστολή προσθέτει μετρήσιμο βάρος σε μια συζήτηση που έχει μετακινηθεί γρήγορα από το περιθώριο στο mainstream. Όταν περίπου 400 επιστήμονες σε 34 χώρες - συμπεριλαμβανομένων των πιο διακεκριμένων ερευνητών του πεδίου - λένε ότι οι εθελοντικές δεσμεύσεις δεν αρκούν, το ερώτημα μετατοπίζεται από το εάν η τεχνητή νοημοσύνη χρειάζεται ισχυρότερο περιορισμό στο ποιος θα το κατασκευάσει και πόσο γρήγορα.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →