Ο Geoffrey Hinton, ο νομπελίστας ευρέως γνωστός ως «Νονός της Τεχνητής Νοημοσύνης», έδωσε μια από τις πιο αυστηρές προειδοποιήσεις του στους Αμερικανούς νομοθέτες αυτή την εβδομάδα: το Κογκρέσο έχει περίπου ένα χρόνο για να θέσει ουσιαστικές διασφαλίσεις για την τεχνητή νοημοσύνη προτού η τεχνολογία ξεφύγει από τον ανθρώπινο έλεγχο. Ο Βρετανο-Καναδός επιστήμονας υπολογιστών έκανε τα σχόλια στις 16 Σεπτεμβρίου σε μια κεκλεισμένων των θυρών ενημέρωση της Γερουσίας στο Καπιτώλιο, σύμφωνα με το NBC News.
«Ίσως ένα χρόνο, αλλά όχι πολύ περισσότερο από ένα χρόνο», είπε ο Χίντον στην αίθουσα των βουλευτών, σύμφωνα με την αφήγηση του NBC για τη συνάντηση. Η ενημέρωση συγκλήθηκε από τον γερουσιαστή Μπέρνι Σάντερς και συμμετείχε επίσης ο φυσικός του MIT Max Tegmark, συνιδρυτής του Ινστιτούτου Future of Life, και ο ερευνητής ασφάλειας τεχνητής νοημοσύνης Ajeya Cotra, σύμφωνα με πολλές αναφορές της συνεδρίας.
Ο πυρήνας της προειδοποίησης: AI Building AI
Το επιχείρημα του Hinton επικεντρώθηκε σε ένα συγκεκριμένο τεχνικό ορόσημο παρά σε ένα μακρινό υποθετικό. «Η τεχνητή νοημοσύνη έχει φτάσει τώρα στο σημείο όπου η τεχνητή νοημοσύνη σχεδιάζει καλύτερη τεχνητή νοημοσύνη», είπε, σύμφωνα με αναφορές της ενημέρωσης. "Αυτό λέγεται αναδρομική αυτοβελτίωση... θα ξεφύγει από τον έλεγχο εκτός και αν κάνουμε κάτι."
Είπε επίσης στους νομοθέτες ότι τα χρονοδιαγράμματα των ειδικών για την υπερκατασκοπία έχουν καταρρεύσει την τελευταία δεκαετία. «Αν κοιτάξετε τις προβλέψεις για το πότε θα αποκτήσουμε υπερευφυΐα, παλιά ήταν ίσως 30 χρόνια, ίσως 50 χρόνια», είπε ο Hinton, σύμφωνα με το NBC News. "Μετά έφτασε σε ίσως 10 χρόνια, ίσως 20 χρόνια. Τώρα λένε, πολλοί από τους ερευνητές λένε μόνο λίγα χρόνια."
Ο Hinton, ομότιμος καθηγητής στο Πανεπιστήμιο του Τορόντο που μοιράστηκε το Νόμπελ Φυσικής 2024 για θεμελιώδη εργασία στα νευρωνικά δίκτυα, έφυγε από την Google το 2023 και έκτοτε έγινε ο πιο εξέχων εσωτερικός κριτικός του πεδίου — προειδοποιώντας ότι τα συστήματα που βοήθησε στη δημιουργία θα μπορούσαν να καταλήξουν να μην σκέφτονται και να εκτοπίζουν τους δημιουργούς τους.
Σκεπτικισμός ενός 'διακόπτη Kill'
Ακόμη και καθώς προέτρεπε την ταχεία ρύθμιση, ο Hinton εξέφρασε αμφιβολίες για μια από τις πιο πολυσυζητημένες προτάσεις: μια ομοσπονδιακή εντολή που θα επέτρεπε στην κυβέρνηση να κλείσει επικίνδυνα συστήματα τεχνητής νοημοσύνης. Είπε στους νομοθέτες ένας τέτοιος «διακόπτης εξόντωσης» δεν θα αντέξει μακροπρόθεσμα, σύμφωνα με το CNN.
Ο σκεπτικισμός του εμφανίστηκε την ίδια εβδομάδα που ο γερουσιαστής Ραντ Πολ εμπόδισε ένα νομοσχέδιο με διακόπτη τεχνητής νοημοσύνης υπό την ηγεσία των Ρεπουμπλικάνων να τεθεί γρήγορα στη Γερουσία - ένα επεισόδιο που δείχνει πόσο μακριά ακόμη και η ελάχιστη νομοθεσία περί προστατευτικών κιγκλιδωμάτων απομένει από την ψήφιση. Ο γερουσιαστής Τζον Κένεντι από τη Λουιζιάνα, ο οποίος παρακολούθησε μέρος της ενημέρωσης, είπε στην Washington Sun ότι του άρεσε η συζήτηση αλλά δεν είδε κανένα σημάδι ότι η Γερουσία θα ενεργούσε, προσθέτοντας ότι αναμένει η επόμενη κίνηση να γίνει από τον Λευκό Οίκο, επισημαίνοντας ότι ο υπουργός Οικονομικών Σκοτ Μπέσεντ πιέζει για ένα πλαίσιο ασφαλείας.
Η θέα στον διάδρομο δεν ήταν πολύ πιο ηλιόλουστη. Ο γερουσιαστής Ρικ Σκοτ από τη Φλόριντα είπε σε συνέντευξη στο NewsNation ότι οι εταιρείες πρέπει να ρυθμίσουν τον εαυτό τους: "Δεν πρόκειται να γίνουμε αρκετά έξυπνοι για να τις ρυθμίσουμε. Δεν πρόκειται να κάνουμε κάτι εδώ πάνω", είπε, όπως αναφέρει η Washington Sun.
Ορισμένοι Δημοκρατικοί έσπρωξαν την άλλη κατεύθυνση. Ο εκπρόσωπος Yassamin Ansari της Αριζόνα, που παρευρέθηκε στην ενημέρωση, έγραψε στο X ότι η τεχνητή νοημοσύνη "μπορεί και θα συνεχίσει να υπερβαίνει τον ανθρώπινο έλεγχο" και ότι "το παράθυρό μας να το ρυθμίσουμε εξαφανίζεται γρήγορα. Πρέπει να σταματήσουμε ΤΩΡΑ".
Μια εβδομάδα AI Safety Whiplash
Η ενημέρωση κάλυψε μια πολυτάραχη συζήτηση για τη διακυβέρνηση της τεχνητής νοημοσύνης. Μέρες νωρίτερα, ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, δημοσίευσε ένα δοκίμιο που καλούσε τα συνοριακά εργαστήρια να επιταχύνουν την ανάπτυξη, προειδοποιώντας για κινδύνους από την απώλεια ελέγχου έως τη βιοτρομοκρατία - μια θέση που υποστηρίζεται δημόσια από άλλους ηγέτες εργαστηρίων, σύμφωνα με εκτεταμένες αναφορές. Την ίδια ημέρα που ο Hinton απευθύνθηκε σε γερουσιαστές, εξέχοντες ερευνητές τεχνητής νοημοσύνης, συμπεριλαμβανομένου του Andrew Ng, απέρριψαν δημόσια τις ανησυχίες για την εξαφάνιση ως υπερβολικές, υπογραμμίζοντας ένα πεδίο που διαφωνεί με τον εαυτό του δημόσια.
Στο Capitol Hill, η δραστηριότητα ήταν πιο θορυβώδης από την έξοδο. Ο γερουσιαστής Κόρι Μπούκερ κάλεσε τον Πρόεδρο Τραμπ να συγκαλέσει ειδική σύνοδο του Κογκρέσου για την τεχνητή νοημοσύνη, ενώ μια δικομματική ομάδα επίλυσης προβλημάτων ανακοίνωσε μια νέα ομάδα εργασίας για την τεχνητή νοημοσύνη και τις αναδυόμενες τεχνολογίες αυτή την εβδομάδα. Κανένα από αυτά δεν έχει ακόμη δημιουργήσει δεσμευτικό ομοσπονδιακό νόμο.
Γιατί έχει σημασία το πλαίσιο ενός έτους
Οι προειδοποιήσεις με βάση τις προθεσμίες από πρωτοπόρους της τεχνητής νοημοσύνης έχουν γίνει ρουτίνα, αλλά η ιδιαιτερότητα του χρονοδιαγράμματος του Hinton - που παραδίδεται απευθείας στα άτομα που έχουν την εξουσία να νομοθετούν, σε μια αίθουσα που αποκλείεται από στελέχη του κλάδου - σηματοδοτεί μια αλλαγή στον τόνο. Προηγούμενες προειδοποιήσεις από ερευνητές συνήθως προέβαλαν κίνδυνο σε ορίζοντες δεκαετιών. ένα παράθυρο ενός έτους συνεπάγεται πολιτικές απαντήσεις που έχουν σχεδιαστεί για το τρέχον Κογκρέσο και όχι για τις μελλοντικές.
Επίσης οξύνει το πολιτικό πρόβλημα. Όπως δείχνουν ο σκεπτικισμός του ίδιου του Hinton για το kill-switch και το διαδικαστικό μπλοκ του γερουσιαστή Πολ, δεν υπάρχει συναίνεση ακόμη και μεταξύ των προσωπικοτήτων που προσανατολίζονται στην ασφάλεια σχετικά με το ποιες παρεμβάσεις θα λειτουργούσαν. Ο Χίντον υποστήριξε ότι η διεθνής κατάσταση —ιδιαίτερα ο ανταγωνισμός με την Κίνα— κάνει τις μονομερείς επιβραδύνσεις πολιτικά εύθραυστες, μια ένταση που έχει εμποδίσει τις πιο σοβαρές προτάσεις μέχρι στιγμής.
Αυτό που θα συμβεί στη συνέχεια είναι, σύμφωνα με το ρολόι του Hinton, θέμα μηνών. Το εάν η ενημέρωση θα αλλάξει αυτόν τον λογισμό εξαρτάται από μια Γερουσία που, σύμφωνα με τους λογαριασμούς των μελών της, δεν κινείται καθόλου επί του παρόντος.
Μείνετε μπροστά από την τεχνητή νοημοσύνη
Η πολιτική τεχνητής νοημοσύνης κινείται γρήγορα — και το ίδιο συμβαίνει και με όλα τα άλλα στον τομέα. Για περισσότερες έκτακτες ειδήσεις τεχνητής νοημοσύνης, ενημερώσεις κανονισμών και αναλύσεις, διαβάστε περισσότερα νέα AI →.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
