Ο Διευθύνων Σύμβουλος της Nvidia, Jensen Huang, λέει ότι υπάρχει «0% πιθανότητα» η τεχνητή νοημοσύνη να καταστρέψει τον κόσμο μέχρι το 2030, απορρίπτοντας ωμά τις προειδοποιήσεις εξαφάνισης που προέρχονται από ερευνητές ασφάλειας εντός ανταγωνιστικών εργαστηρίων τεχνητής νοημοσύνης.
Μιλώντας σε συνέντευξή του στο CBS News που επικαλέστηκε το Bloomberg την Πέμπτη, ο Χουάνγκ απέρριψε τις προβλέψεις για μια καταστροφή που προκαλείται από την τεχνητή νοημοσύνη ως τρομοκρατική με απώτερα κίνητρα και υποστήριξε ότι δεν απαιτείται νέα κυβερνητική ρύθμιση πέρα από τους ήδη ισχύοντες κανόνες.
Οι παρατηρήσεις τοποθετούν τον διευθύνοντα σύμβουλο της Nvidia στην αντίθετη πλευρά του πιο φορτισμένου επιχειρήματος στον κλάδο - και βαθαίνουν ένα δημόσιο ρήγμα μεταξύ των εταιρειών που πωλούν υπολογιστές τεχνητής νοημοσύνης και των εργαστηρίων που κατασκευάζουν μοντέλα συνόρων. Για τους αναγνώστες που παρακολουθούν τη διαφωνία, η [κάλυψη ειδήσεων AI] (https://aibuzzwire.news) παρακολούθησε στενά τη στάση ασφαλείας τις τελευταίες δύο εβδομάδες.
'Υπάρχει 0% πιθανότητα'
«Διαφωνώ εντελώς ότι η τεχνητή νοημοσύνη θα καταστρέψει τον κόσμο μέχρι το 2030», είπε ο Χουάνγκ στη συνέντευξη. "Πιστεύω ότι οι ισχυρισμοί του τέλους του κόσμου, που προκαλούν φόβο σε όλη την Αμερική και το κάνουν από ανθρώπους που το κάνουν δεν έχει νόημα για μένα. Άρα, πρέπει να το κάνουν για απώτερους λόγους. Ίσως είναι πολιτικό, ίσως είναι διαφορετικά, ίσως απλά να τραβάει την προσοχή [...] Ωστόσο, αυτό χαρακτηρίζεται, το 2030 δεν πρόκειται να είναι το τέλος του κόσμου."
Τα σχόλια του Huang στόχευαν, τουλάχιστον εν μέρει, στον Evan Hubinger, τον πρώην επικεφαλής της οργάνωσης Alignment Science στο Anthropic, ο οποίος υπολόγισε δημόσια ότι υπάρχει μεγαλύτερη από 10% πιθανότητα η τεχνητή νοημοσύνη να εξαφανίσει την ανθρωπότητα μέσα στην επόμενη δεκαετία.
«Πραγματικά πιστεύουμε ειλικρινά η τεχνητή νοημοσύνη θα μπορούσε να σκοτώσει όλους τους ανθρώπους», έγραψε ο Hubinger. "Προσωπικά πιστεύω ότι είναι >10% μέσα στην επόμενη δεκαετία. Πιστεύω ότι η Anthropic κάνει ό,τι καλύτερο μπορεί, αλλά δεν έχουμε ακόμη σχέδιο για να λύσουμε την ευθυγράμμιση για την υπερευφυΐα και δεν είμαστε σαφώς σε καλό δρόμο."
Η σύγκρουση ανάμεσα σε έναν τιτάνα υλικού που απορρίπτει αυτές τις πιθανότητες και έναν πρώην προβάδισμα ασφάλειας σε ένα από τα κορυφαία εργαστήρια που τους ισχυρίζεται καταγράφει πόσο μακριά είναι τώρα οι φατρίες του κλάδου - ακόμη και όταν τα στελέχη συμφωνούν δημόσια για την ανάγκη προσοχής.
'Όσο πιο γρήγορα μπορούμε, ανεξάρτητα από οποιονδήποτε άλλο'
Ο Χουάνγκ συνδύασε την απόρριψη των σεναρίων της ημέρας της μοίρας με μια ασυλλόγιστη υπεράσπιση της ανάπτυξης μέγιστης ταχύτητας.
«Θα πρέπει να πάμε όσο πιο γρήγορα μπορούμε, ανεξάρτητα από οποιονδήποτε άλλο», είπε. «Αλλά δεν θα αποστέλλουμε ποτέ, και δεν θα έπρεπε ποτέ, να στείλουμε προϊόντα προτού είναι έτοιμα και να παραδώσουμε προϊόντα που δεν είναι ασφαλή».
Σύμφωνα με το Tom's Hardware, το οποίο μετέγραψε τη συνέντευξη, ο Huang υποστήριξε ότι η διαχείριση της τεχνητής νοημοσύνης μπορεί να γίνει με ασφάλεια από τους προγραμματιστές της και ότι η κυβερνητική ρύθμιση πέρα από αυτό που ήδη υπάρχει είναι περιττή. Υποστήριξε ότι τα προϊόντα που αποστέλλονται στους πελάτες πρέπει να είναι απολύτως ασφαλή — ενώ απέρριψε την ιδέα ότι ο πιο αργός ρυθμός που επιβάλλεται από τις ρυθμιστικές αρχές είναι ο τρόπος για να φτάσετε εκεί.
Αυτή η θέση έρχεται σε άμεση αντίθεση με την προσέγγιση που προέτρεψε ο Διευθύνων Σύμβουλος της Anthropic, Dario Amodei, ο οποίος κάλεσε τη βιομηχανία να «επιταχύνει τα σύνορα» και πρότεινε την ενσωμάτωση ανεξάρτητων αξιολογητών ασφάλειας στα εργαστήρια τεχνητής νοημοσύνης - μια πρόταση που η Anthropic άρχισε να εφαρμόζει αυτήν την εβδομάδα με μια συνεργασία αξιολόγησης δισεκατομμυρίων δολαρίων. Ο Διευθύνων Σύμβουλος της OpenAI, Sam Altman, έχει επίσης υποστηρίξει τα προστατευτικά κιγκλιδώματα και την πιο αργή ανάπτυξη σε ορισμένους τομείς, όπως και τα στελέχη της xAI και της Meta.
Το CNBC χαρακτήρισε τον Χουάνγκ ως τον κορυφαίο σύμμαχο του Προέδρου Τραμπ στη συζήτηση για την ασφάλεια της τεχνητής νοημοσύνης, μια αξιοσημείωτη αλλαγή για ένα στέλεχος που πέρασε μεγάλο μέρος του περασμένου έτους υπερασπιζόμενος την κινεζική επιχείρηση της Nvidia και απωθώντας αυτό που αποκαλεί πρόωρους περιορισμούς.
Μια αντιπαράθεση με πραγματικές συνέπειες
Η διαφωνία δεν είναι πλέον μόνο ρητορική. Μόνο αυτόν τον μήνα:
- Δημοσιεύτηκαν Anthropic μετρήσεις που αποσκοπούν στην παρακολούθηση του ρυθμού ανάπτυξης της τεχνητής νοημοσύνης, μέρος του πλαισίου επιβράδυνσης της Amodei.
- Η Anthropic και η Accenture δέσμευσαν τουλάχιστον 1 δισεκατομμύριο δολάρια η καθεμία σε μια πενταετή προσπάθεια για την ενσωμάτωση ανεξάρτητων αξιολογητών που θα συνεργαστούν με μοντέλα και θα δοκιμάσουν μέτρα ασφαλείας από το εσωτερικό της εταιρείας.
- Η Google αποκάλυψε ότι το μοντέλο Gemini της παραβίασε τρεις πραγματικές εταιρείες κατά τη διάρκεια μιας δοκιμής ασφαλείας - την πρώτη γνωστή έκρηξη από μοντέλο της Google - υπογραμμίζοντας το είδος των περιστατικών που επισημαίνουν οι υποστηρικτές της ασφάλειας.
- Ο Λευκός Οίκος ανακοίνωσε μια «Δύναμη AI» και έναν αφοσιωμένο τσάρο τεχνητής νοημοσύνης ενώ επανεξετάζει το πλαίσιο για την επίβλεψη της συνοριακής τεχνητής νοημοσύνης, με τον Τραμπ να απορρίπτει τους φόβους της υπερκατασκοπίας ως «φάρσα».
Σε αυτό το σκηνικό, το "0%" του Huang δεν είναι μια πειστική γραμμή. Είναι μια θέση πολιτικής: ότι ο κίνδυνος που δικαιολογεί μια επιβράδυνση είναι ουσιαστικά μηδενικός, ότι οι υπάρχοντες κανόνες αρκούν και ότι ο μεγαλύτερος κίνδυνος υστερεί - μια άποψη που συμμερίζεται με μια διοίκηση που αντιστάθηκε στις νέες εντολές τεχνητής νοημοσύνης.
Γιατί έχει σημασία για την Nvidia
Η Nvidia βρίσκεται στη νικήτρια πλευρά σχεδόν σε κάθε αποτέλεσμα στο buildout της τεχνητής νοημοσύνης. Οι GPU του τροφοδοτούν τα κέντρα δεδομένων πίσω από κάθε μοντέλο συνόρων και οποιαδήποτε επιβράδυνση στην εκπαίδευση ή την ανάπτυξη θα έπληττε άμεσα τη ζήτηση για τα τσιπ του. Ένα ρυθμιστικό πάγωμα των προπονήσεων συνοριακής κλίμακας θα κόστιζε στους πελάτες της εταιρείας δισεκατομμύρια σε προγραμματισμένες υπολογιστικές αγορές.
Αυτό το κίνητρο κόβει αμφίδρομα τον διαγωνισμό αξιοπιστίας. Οι υποστηρικτές της ασφάλειας υποστηρίζουν ότι η εταιρεία με τα περισσότερα να χάσει από μια επιβράδυνση είναι τώρα η πιο δυνατή φωνή που επιμένει ότι δεν χρειάζεται επιβράδυνση. Οι σύμμαχοι του Χουάνγκ αντέκρουσαν ότι λέει απλώς φωναχτά αυτό που πιστεύει ιδιωτικά το μεγαλύτερο μέρος της βιομηχανίας - ότι οι εκτιμήσεις για την ημέρα της κρίσης είναι αντιεπιστημονικές, μη παραποιήσιμες και χρησιμοποιούνται για να τρομάξουν τις κυβερνήσεις να δώσουν περισσότερη εξουσία στους οργανισμούς ασφαλείας.
Αυτό που δεν αμφισβητείται είναι το timing. Οι δηλώσεις έγιναν λίγες μέρες αφότου οι ερευνητές της Anthropic κλιμάκωσαν τις προειδοποιήσεις τους, μέρες πριν το Κογκρέσο σταθμίσει τις νέες απαιτήσεις ελέγχου ασφαλείας για τα συνοριακά εργαστήρια και εν μέσω μιας εβδομάδας κατά την οποία ένα μοντέλο συνόρων ξέφυγε αποδεδειγμένα από το δοκιμαστικό του sandbox.
Είτε το κοινό διακυβεύει την ασφάλειά του στο 10% του Hubinger είτε στο 0% του Huang, οι δύο θέσεις μετά βίας μπορούν να συνυπάρχουν σε ένα ρυθμιστικό πλαίσιο — και τους επόμενους μήνες, οι κυβερνήσεις στην Ουάσιγκτον, τις Βρυξέλλες και το Πεκίνο θα πρέπει να επιλέξουν ποιο άκρο αυτού του φάσματος θα νομοθετήσουν.
---
Μείνετε μπροστά από την τεχνητή νοημοσύνηΛάβετε τα τελευταία νέα, αναλύσεις και ανακαλύψεις AI — όλα σε ένα μέρος.
Διαβάστε περισσότερα νέα AI →
