Ένας από τους «νονούς της τεχνητής νοημοσύνης» έχει εκδώσει την πιο αυστηρή προειδοποίησή του μέχρι σήμερα: ο Geoffrey Hinton, ο νομπελίστας επιστήμονας υπολογιστών του οποίου η έρευνα βασίζεται στη σύγχρονη τεχνητή νοημοσύνη, λέει ότι θα μπορούσε να αποδειχθεί ότι οι άνθρωποι θα ήταν καλύτερα να μην αναπτύξουν ποτέ την τεχνολογία. Σε συνέντευξή του στον The Guardian, προειδοποίησε επίσης ότι η τεχνητή νοημοσύνη θα μπορούσε να προκαλέσει ένα περιστατικό μεγάλης κλίμακας - όπως ένα προσωρινό μπλακ άουτ οικονομικών ή συστημάτων ενέργειας - φέτος ή το επόμενο έτος.
'Μπορεί να ήταν καλύτερα να μην το αναπτύξαμε ποτέ' Για περισσότερες πληροφορίες σχετικά με αυτήν την ιστορία, δείτε τις συνεχιζόμενες Τάσεις AI.
Ο 78χρονος Hinton είπε στον Guardian ότι δεν είναι «καταστροφέας» σχετικά με την τεχνολογία που βασίζεται στην πρωτοποριακή του δουλειά στα τεχνητά νευρωνικά δίκτυα. Πιστεύει ότι η τεχνητή νοημοσύνη εξακολουθεί να έχει τη δυνατότητα να προσφέρει αυτό που αποκάλεσε «υπέροχο μέλλον» και «ριζοσπαστική αφθονία». Αλλά ήταν ξεκάθαρος σχετικά με το μειονέκτημα: «Θα ήταν καλύτερα να μην το αναπτύξαμε ποτέ».
Ο βρετανικής καταγωγής επιστήμονας είπε ότι μέσα σε μια δεκαετία -και πιθανώς νωρίτερα- η ανθρωπότητα θα μάθει σε ποιο δρόμο βρίσκεται. Είτε ο κόσμος διαχειρίζεται τους κινδύνους της τεχνολογίας και μοιράζεται τα κέρδη της, είτε, σύμφωνα με τα λόγια του, «αποτυγχάνουμε να διαχειριστούμε τους κινδύνους και… έχουμε τεράστιο χάσμα μεταξύ πλουσίων και φτωχών, τεράστια πολιτιστικά προβλήματα, τεράστια ανεργία, απλώς η κοινωνία διαλύεται».
Ένα «AI Chernobyl» θα μπορούσε να φτάσει φέτος ή του χρόνου
Ο Hinton έκανε τα σχόλιά του πριν από την προβολή ενός νέου ντοκιμαντέρ μεγάλου μήκους, "AI: Probably Nothing to Worry About" - ένας τίτλος, σημείωσε, που προτάθηκε από ένα chatbot AI. Η ταινία παρουσιάζει τον Hinton μαζί με τον πρώην συνάδελφό του στην Google, τον επικεφαλής του DeepMind, Demis Hassabis, και προβάλλεται στο Channel 4 στις 12 Νοεμβρίου στις 22:00 στο Ηνωμένο Βασίλειο.
«Νιώθω ότι έχω καθήκον», είπε ο Hinton στο ντοκιμαντέρ. «Έχω μια φήμη που με κάνει εκπρόσωπο και πρέπει να τα βάλω όλα σε αυτό».
Η προειδοποίησή του βασίστηκε σε συγκεκριμένο προηγούμενο. Ο Hinton είπε ότι βλέπει το περιστατικό του καλοκαιριού στο οποίο οι πράκτορες AI του OpenAI συνωμότησαν για να χακάρουν τον ιστότοπο Hugging Face ως ισοδύναμο της βιομηχανίας με τη μερική κατάρρευση του 1979 στον πυρηνικό σταθμό Three Mile Island - μια προειδοποίηση πριν από κάτι πολύ χειρότερο.
«Είτε αργότερα φέτος είτε του χρόνου θα δούμε το Τσορνόμπιλ και αυτό μπορεί να είναι αρκετό για να κάνει τους ανθρώπους να δώσουν πραγματικά προσοχή», είπε, επικαλούμενος τη σοβιετική πυρηνική καταστροφή του 1986.
Λέγοντας «Τσόρνομπιλ», ο Χίντον δεν εννοεί ένα πυρηνικό συμβάν. Τα παραδείγματά του: μια επίθεση με δυνατότητα τεχνητής νοημοσύνης στο σύστημα παραγωγής ηλεκτρικής ενέργειας που προκαλεί μια «μαζική κατάρρευση» ή ένα περιστατικό που καταστρέφει το χρηματοπιστωτικό σύστημα για μια εβδομάδα. "Μπορείτε να φανταστείτε τι θα συνέβαινε; Θα μπορούσαμε να συνέλθουμε από αυτό [αλλά] αυτό θα τους έκανε να καθίσουν και να το προσέξουν", είπε. Ερωτηθείς ποιοι ήταν αυτοί, απάντησε: «Παγκόσμιοι ηγέτες εκτός του Τραμπ».
Hinton για τα αφεντικά της AI: Altman, Musk και Zuckerberg
Ένα σημαντικό μέρος της κριτικής του Hinton στόχευε στα στελέχη που ηγούνται της συνοριακής κούρσας AI. Είπε στον Guardian ότι δεν εμπιστεύεται «καθόλου» τον Sam Altman, διευθύνοντα σύμβουλο του κατασκευαστή ChatGPT OpenAI, αποκαλώντας «εξαιρετικά ανησυχητικό» το γεγονός ότι ο Altman διευθύνει μια από τις ελάχιστες εταιρείες τεχνητής νοημοσύνης των ΗΠΑ που αγωνίζονται επί του παρόντος στην Κίνα για την κατασκευή του πιο ισχυρού AI.
"Νομίζω ότι ο [Μαρκ] Ζούκερμπεργκ και ο Έλον Μασκ και ο Σαμ Άλτμαν, καταλαβαίνουν τους κινδύνους και δεν κάνουν τίποτα. Προτιμούν να έχουν τα χρήματα. Αυτή είναι η πεποίθησή μου", είπε ο Χίντον.
Αυτή η εκτίμηση έρχεται σε έντονη αντίθεση με τη δημόσια στάση του Άλτμαν. Ο Guardian σημειώνει ότι ο Άλτμαν επέμεινε τον Σεπτέμβριο ότι «ο κόσμος πρέπει να εμπιστευτεί ότι θα κάνουμε το σωστό γιατί είναι το σωστό και γιατί νιώθουμε το μέγεθος αυτού». Ο πρόεδρος των ΗΠΑ Ντόναλντ Τραμπ, από την πλευρά του, δήλωσε ότι «απορρίπτει εντελώς κάθε προσπάθεια δημιουργίας ενός παγκοσμιοποιητικού σχεδίου» για τον έλεγχο της τεχνητής νοημοσύνης και θέλει οι συνοριακές εταιρείες τεχνητής νοημοσύνης να αυτορυθμίζονται, εν μέσω ανησυχίας ότι οι δεσμευτικοί κανόνες θα μπορούσαν να εμποδίσουν τις Ηνωμένες Πολιτείες στον ανταγωνισμό τους με την Κίνα.
Ένα FDA για μοντέλα AI
Σε αυτό το πλαίσιο, η Hinton υποστηρίζει μια πιο σκληρή ρυθμιστική γραμμή: ένα σχέδιο που υποστηρίζεται από τον πρόεδρο της Φινλανδίας και 32 άλλες χώρες -συμπεριλαμβανομένων της Σιγκαπούρης, της Γερμανίας, του Καναδά και της Αυστραλίας- που απαιτεί υποχρεωτική δοκιμή μοντέλων τεχνητής νοημοσύνης συνόρων, ανεξάρτητη αξιολόγηση και διακυβερνητικά κοινά πρότυπα.
Βλέπει επίσης ρόλο για το Ηνωμένο Βασίλειο, του οποίου ο πρωθυπουργός, Andy Burnham, είπε ότι θα χρησιμοποιήσει τη βρετανική προεδρία της G20 το επόμενο έτος για να επιδιώξει συμφωνία για ένα «ενιαίο σύνολο παγκόσμιων αρχών και προτύπων που αφορούν σε μεγάλο βαθμό την απελευθέρωση του πλήρους δυναμικού, ενώ παράλληλα προστατεύονται από τους κινδύνους».
Το προτιμώμενο μοντέλο του Hinton είναι ρητά ιατρικό. «Χρειαζόμαστε κάτι σαν τον αμερικανικό FDA για φάρμακα όπου οι εταιρείες πρέπει να δώσουν πολύ καλά στατιστικά στοιχεία σε μια ανεξάρτητη αρχή ότι [το μοντέλο AI] κάνει περισσότερο καλό παρά κακό πριν κυκλοφορήσει», είπε. "Ανακαλύψαμε με τη θαλιδομίδη ότι η απελευθέρωση και στη συνέχεια η μήνυση τους δεν είναι ο σωστός τρόπος για να το κάνουμε. Αυτό που λένε οι μεγάλες εταιρείες τεχνολογίας είναι να το αντιμετωπίζουμε όπως συμπεριφερόμασταν στη θαλιδομίδη".
'Το ένστικτό μου είναι ότι έχουμε ακόμα τον έλεγχο'
Τα ζοφερά σενάρια προέρχονται από κάποιον με απαράμιλλη ικανότητα να τα κάνει. Ο Hinton έχει εργαστεί στην τεχνητή νοημοσύνη για περίπου 44 χρόνια, επινόησε την ιδέα του νευρωνικού δικτύου τη δεκαετία του 1970 και μοιράστηκε το Νόμπελ Φυσικής 2024 για θεμελιώδη εργασία στη μηχανική μάθηση. Έφυγε από την Google το 2023 για να μπορεί να μιλήσει ελεύθερα για τους κινδύνους, προειδοποιώντας τότε ότι εάν τα συστήματα τεχνητής νοημοσύνης «παρασυρθούν με το να αποκτήσουν περισσότερο έλεγχο, έχουμε πρόβλημα».
Ο ρόλος του έχει προκαλέσει συγκρίσεις με τον J. Robert Oppenheimer - ένας φίλος του αγόρασε ακόμη και ένα καπέλο τύπου Oppenheimer - αλλά απορρίπτει την αναλογία. «Δεν ήμουν ο Oppenheimer», είπε, αναφέροντας τους χιλιάδες άλλους επιστήμονες που συνέβαλαν στον τομέα των νευρωνικών δικτύων.
Παρά το γεμάτο καταστροφή καδράρισμα, ο Hinton τελείωσε τη συνέντευξη με μια υπό όρους νότα ελπίδας. «Το ένστικτό μου είναι ότι εξακολουθούμε να έχουμε τον έλεγχο», είπε. "Μπορεί κάλλιστα να είμαστε σε θέση να κάνουμε κάτι. Θα λειτουργήσει μόνο εάν καταβάλουμε μεγάλη προσπάθεια σε αυτό, αλλά μπορεί κάλλιστα να καταβάλουμε μεγάλη προσπάθεια σε αυτό."
Το αν ο κόσμος κάνει αυτή την προσπάθεια είναι, στο δικό του χρονοδιάγραμμα, μια ερώτηση που απαντάται αυτή τη δεκαετία - πιθανώς πολύ πριν από αυτήν.
---
Μείνετε μπροστά από την τεχνητή νοημοσύνηΛάβετε τα πιο πρόσφατα νέα, αναλύσεις και ανακαλύψεις για την τεχνητή νοημοσύνη — όλα σε ένα μέρος.
Διαβάστε περισσότερα νέα AI →
