Το Moscone Center του Σαν Φρανσίσκο φιλοξένησε μια ασυνήθιστη δημόσια διαφωνία αυτή την εβδομάδα: οι ηγέτες των Nvidia, Anthropic και OpenAI, που εμφανίστηκαν στην ίδια σκηνή μέσα σε λίγες ώρες ο ένας από τον άλλο στο συνέδριο Dreamforce του Salesforce, έδωσαν έντονα διαφορετικές απαντήσεις στο ερώτημα πόσο γρήγορα θα πρέπει να επιτρέπεται η τεχνητή νοημοσύνη να προχωρήσει.
Ο Διευθύνων Σύμβουλος της Nvidia, Jensen Huang, είπε στον επικεφαλής της Salesforce, Marc Benioff, ότι η διαμόρφωση της ταχύτητας έναντι της ασφάλειας είναι λάθος. «Είναι μια λανθασμένη επιλογή», είπε ο Χουάνγκ, σύμφωνα με το CNBC. «Σίγουρα θα μπορούσατε να έχετε και τα δύο ταυτόχρονα». For more context on this story, see our ongoing artificial intelligence updates.
Η θέση του βρισκόταν σε ευθεία αντίθεση με αυτή που διατυπώθηκε νωρίτερα την ημέρα από τον CEO της Anthropic, Dario Amodei, και αργότερα από τον CEO του OpenAI, Sam Altman, σε μια συζήτηση που πέρασε από τα ερευνητικά ιστολόγια στα βασικά συνέδρια στην Ουάσιγκτον σε διάστημα μιας εβδομάδας.
Το βήμα επιβράδυνσης του Amodei αποκτά μια βασική πλατφόρμα
Ο Amodei εμφανίστηκε πρώτος, ενώνοντας τον Benioff για την ετήσια κεντρική ομιλία του Salesforce μπροστά σε ένα κοινό περίπου 12.000 ατόμων. Η εμφάνιση ακολούθησε ένα δοκίμιο του Amodei που δημοσιεύθηκε το Σαββατοκύριακο που παροτρύνει τη βιομηχανία να επιβραδύνει τον ρυθμό ανάπτυξης μοντέλων, μια πρόταση που λέει ότι μπορεί να μετριάσει το πόσο γρήγορα βελτιώνονται οι δυνατότητες χωρίς να «θυσιάσει το εμπορικό πλεονέκτημα ή το προβάδισμα των Ηνωμένων Πολιτειών στην τεχνητή νοημοσύνη».
Σύμφωνα με το CNBC, η Amodei πλαισίωσε τον εθελοντικό περιορισμό ως τεστ ηγεσίας για τον κλάδο. «Νομίζω ότι αυτός είναι ο τρόπος για να οδηγήσεις τη βιομηχανία προς τα εμπρός, να δώσεις το παράδειγμα, να πεις ότι όλοι μπορούν πάντα να είναι καλύτεροι», είπε στον Benioff.
Το δοκίμιο προσέλκυσε γρήγορα την υποστήριξη του κοινού από άλλα στελέχη του κλάδου, όπως ο Sam Altman του OpenAI, ο διευθύνων σύμβουλος της SpaceX Elon Musk και ο πρόεδρος της Google DeepMind, Demis Hassabis. Προσγειώθηκε μέρες αφότου οι ερευνητές του κλάδου προειδοποίησαν σχετικά με τη δυνατότητα της τεχνητής νοημοσύνης να προκαλέσει καταστροφική βλάβη, δίνοντας στο επιχείρημα επιβράδυνσης νέα επείγουσα ανάγκη.
Χουάνγκ: Δυνάμεις της αγοράς, όχι νέοι νόμοι
Η Huang, η εταιρεία της οποίας έγινε η πιο πολύτιμη στον κόσμο πουλώντας το υλικό που εκπαιδεύει και εκτελεί μοντέλα αιχμής, απέρριψε τόσο την υπόθεση ενός συμβιβασμού όσο και την ιδέα μιας νέας ρύθμισης. Οι δυνάμεις της αγοράς υπάρχουν ήδη αυτή την πειθαρχία της απερίσκεπτης συμπεριφοράς, υποστήριξε, και εναπόκειται στους προγραμματιστές μοντέλων να ενεργήσουν υπεύθυνα με τα προϊόντα τους.
«Τρέξε όσο πιο γρήγορα μπορείς», είπε ο Χουάνγκ στον Μπένιοφ. "Αλλά εάν σε οποιαδήποτε δεδομένη στιγμή αισθάνεστε ότι η εταιρεία είναι εκτός ελέγχου ή το προϊόν δεν πρόκειται να είναι ασφαλές, κάντε μια παύση και βεβαιωθείτε ότι το έχετε κάνει σωστά."
Η διάκριση έχει σημασία: ο Huang δεν υποστηρίζει ότι οι εταιρείες δεν πρέπει ποτέ να κάνουν παύση, μόνο ότι η απόφαση πρέπει να παραμείνει σε κάθε εταιρεία αντί να επιβάλλεται μέσω νόμων ή συντονισμένων συμφωνιών ρυθμού σε όλη τη βιομηχανία. Μια μέρα νωρίτερα, στη Σύνοδο Κορυφής All-In στο Λος Άντζελες, ο Χουάνγκ δέχθηκε τηλεφωνική κλήση από τον Πρόεδρο Ντόναλντ Τραμπ, ο οποίος εξέφρασε την ανησυχία του για άτομα που προσπαθούν να εμποδίσουν την κατασκευή κέντρων δεδομένων AI. «Δεν πρόκειται να το αφήσουμε να συμβεί, κύριε», απάντησε ο Χουάνγκ.
Altman: Η ασφάλεια «Δεν πρέπει να έχει προκριματικό»
Η σειρά του Άλτμαν στη σκηνή Dreamforce ήρθε αργότερα μέσα στην ημέρα και τοποθετήθηκε πιο κοντά στον Amodei παρά στον Huang. Κατά τη διάρκεια μιας συνομιλίας με τον Benioff, ο Altman είπε ότι η ασφάλεια και η παρακολούθηση πρέπει να προηγούνται των δυνατοτήτων, δεδομένης της ισχύος των σημερινών μοντέλων.
Έλαβε στόχο τις εταιρείες που εξαρτούν τις δεσμεύσεις τους για την ασφάλεια στη συμπεριφορά των ανταγωνιστών. "Έχετε εταιρείες που λένε πράγματα όπως, "Θα είμαστε υπεύθυνοι μόνο εάν είναι υπεύθυνες άλλες εταιρείες", είπε ο Altman, προσθέτοντας ότι όταν οι άνθρωποι ρωτούν τι θα κάνει μια εταιρεία για να είναι ασφαλής "ό,τι κι αν γίνει", η απάντηση δεν πρέπει να αφήνει περιθώρια για όρους. «Δεν πρέπει να υπάρχει κανένας προσδιορισμός σε αυτό».
Ο Benioff κάθεται στη μέση
Ο Μπένιοφ, οικοδεσπότης και των τριών στελεχών, αρνήθηκε να επιλέξει την πλευρά του βηματισμού. "Εάν αισθάνονται ότι πρέπει να επιβραδύνουν, τότε θα πρέπει να επιβραδύνουν. Εάν αισθάνονται ότι πρέπει να επιταχύνουν, θα πρέπει να επιταχύνουν", είπε στους δημοσιογράφους, πριν προσθέσει ότι οι εταιρείες "πρέπει να λογοδοτήσουν".
Το συνέδριο παρουσίασε επίσης πόσο μπερδεμένες έχουν γίνει οι επιχειρηματικές σχέσεις. Την Τρίτη, η Salesforce και η Nvidia ανακοίνωσαν ένα νέο συλλογιστικό μοντέλο για την πλατφόρμα Agentforce της Salesforce που βασίζεται σε ένα από τα ανοιχτού βάρους μοντέλα Nemotron της Nvidia. Στα τέλη Αυγούστου, η Salesforce και η Anthropic επέκτειναν τη στρατηγική τους συνεργασία και αποκάλυψαν το "Claudeforce", το οποίο επιτρέπει στους πωλητές να έχουν πρόσβαση στα δεδομένα Salesforce από το εσωτερικό του Claude.
Γιατί η διάσπαση έχει σημασία
Οι ανταλλαγές Dreamforce αποκρυστάλλωσαν αυτό που έχει γίνει το κεντρικό σφάλμα στις συζητήσεις για τη διακυβέρνηση της τεχνητής νοημοσύνης: εάν ο περιορισμός πρέπει να συντονιστεί και ενδεχομένως να κωδικοποιηθεί ή να αφεθεί στην ανταγωνιστική πίεση και στην ατομική εταιρική κρίση.
Η πρόταση της Amodei παραμένει εθελοντική, αλλά η επικύρωσή της από τους Διευθύνοντες Συμβούλους των OpenAI, DeepMind και xAI σηματοδοτεί την πρώτη φορά που οι ηγέτες των μεγάλων συνοριακών εργαστηρίων ευθυγραμμίζονται δημόσια πίσω από την επιβράδυνση. Το αντεπιχείρημα του Huang, που εκδόθηκε από την πιο πολύτιμη εταιρεία του κόσμου, καλύπτει τα στελέχη και τους υπεύθυνους χάραξης πολιτικής που υποστηρίζουν ότι η επιβολή προσοχής θα έδινε πλεονέκτημα στους ανταγωνιστές, ιδιαίτερα στην Κίνα.
Ο Πρόεδρος Τραμπ αντιτάχθηκε στους νέους κανόνες τεχνητής νοημοσύνης, μια στάση που υπονομεύει τις εκκλήσεις της ίδιας της βιομηχανίας για επιβράδυνση, όπως σημείωσε το CNBC σε σχετική ανάλυση. Αυτό αφήνει οποιαδήποτε εθελοντική συμφωνία ρυθμού χωρίς τον μηχανισμό επιβολής που οι υποστηρικτές της ασφάλειας λένε ότι χρειάζεται και διατηρεί σταθερή τη συζήτηση για τα εταιρικά συστήματα τιμής προς το παρόν.
Με τους ερευνητές να προειδοποιούν δημόσια για καταστροφικούς κινδύνους και τους ηγέτες των μεγαλύτερων εταιρειών του κλάδου να διαφωνούν τώρα ανοιχτά στη σκηνή, το ερώτημα του ρυθμού είναι πιθανό να κυριαρχήσει στον επόμενο κύκλο πολιτικής στην Ουάσιγκτον - ό,τι κι αν αποφασίσει να κάνει η αγορά στο μεταξύ.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
