Ο διευθύνων σύμβουλος της Qualcomm λέει ότι οι μεγαλύτερες εταιρείες τεχνητής νοημοσύνης του ζητούν κάτι που δεν μπορούν να κάνουν τα τρέχοντα smartphone: να τρέχουν μοντέλα 100 δισεκατομμυρίων παραμέτρων στο ίδιο το τηλέφωνο, συνεχώς, μέχρι το 2028.
Μιλώντας σε μια συνέντευξη στις 8 Οκτωβρίου που αναφέρθηκε από το Fortune και ελήφθη αυτή την εβδομάδα από καταστήματα όπως το TOKENPOST και το Startup Fortune, ο Cristiano Amon είπε ότι πολλές εταιρείες τεχνητής νοημοσύνης - τα ονόματα των οποίων αρνήθηκε να δώσει - πιέζουν για smartphone που μπορούν να κρατήσουν ένα μοντέλο 100 δισεκατομμυρίων παραμέτρων σε λειτουργία όλο το εικοσιτετράωρο. Για τους αναγνώστες που ακολουθούν τη μετατόπιση της τεχνητής νοημοσύνης από το cloud στις τσέπες και τους καρπούς, είναι το πιο σαφές σήμα ζήτησης μέχρι στιγμής και η ενότητα ειδήσεις υλικού AI παρακολουθεί πού ακολουθεί αυτή η ώθηση.
Η ζήτηση προέρχεται από τα εργαστήρια AI, όχι από τον οδικό χάρτη της Qualcomm
Ο αριθμός έχει σημασία από πού προέρχεται. Η Amon δεν ανακοίνωνε τον στόχο προϊόντος της Qualcomm. μετέδωσε αυτά που τα εργαστήρια τεχνητής νοημοσύνης λένε στη μεγαλύτερη εταιρεία κατασκευής τσιπ κινητών στον κόσμο που θέλουν να κατασκευάσουν. Τα σημερινά κορυφαία τσιπ ξεπερνούν πολύ κάτω από αυτό το νούμερο — το Snapdragon 8 Elite Extreme Gen 6, η κορυφαία πλατφόρμα για κινητά της Qualcomm, μπορεί να εκτελεί μοντέλα με συνδυασμό ειδικών πάνω από 30 δισεκατομμύρια παραμέτρους στη συσκευή, με παράθυρο περιβάλλοντος περίπου 32.000 tokens.
Ένα μοντέλο 100 δισεκατομμυρίων παραμέτρων που λειτουργεί ασταμάτητα είναι υπερτριπλάσιο από αυτό το ανώτατο όριο και αλλάζει το μηχανολογικό πρόβλημα σε είδος, όχι μόνο σε βαθμό. Όπως σημειώνει η αναφορά του Startup Fortune, το αίτημα δεν αφορά μια μεγαλύτερη έκδοση του βοηθού που χρησιμοποιούν ήδη οι άνθρωποι. Είναι για agent AI: λογισμικό που παρακολουθεί, αιτιολογεί και ενεργεί για λογαριασμό ενός χρήστη αντί να περιμένει μια προτροπή, πράγμα που σημαίνει ότι το μοντέλο πρέπει να παραμείνει στη μνήμη και να συνεχίσει να κάνει συμπεράσματα στο παρασκήνιο όλη την ημέρα χωρίς να μαγειρεύει την μπαταρία ή το σασί.
Γιατί η μνήμη είναι το σημείο συμφόρησης
Το χάσμα μεταξύ 30 δισεκατομμυρίων και 100 δισεκατομμυρίων παραμέτρων είναι ουσιαστικά ένα πρόβλημα μνήμης. Τα βάρη των μοντέλων στη συσκευή πρέπει να μένουν στη μνήμη RAM και ο τριπλασιασμός του αριθμού παραμέτρων, διατηρώντας παράλληλα τη συνεχή λειτουργία των συμπερασμάτων, πολλαπλασιάζει το εύρος ζώνης της μνήμης και τις απαιτήσεις ισχύος με τρόπους που το τρέχον ναυαρχικό υλικό δεν σχεδιάστηκε ποτέ να απορροφά.
Ο Amon αναγνώρισε ότι η παροχή τσιπ μνήμης για smartphone είναι υπό "προσωρινό περιορισμό" - η ίδια έλλειψη που ανέβασε τις τιμές των τηλεφώνων σε ολόκληρο τον κλάδο φέτος - αλλά το πλαισίωνε ως πίεση που θα αναγκάσει τα σχέδια τσιπ πιο αποδοτικά στη μνήμη παρά απλώς περισσότερη μνήμη. Αυτό ανταποκρίνεται στις πρόσφατες επιλογές πυριτίου της Qualcomm: το 8 Elite Extreme Gen 6 συνδυάζει το Hexagon NPU του με ένα νέο Element Accelerator και μια μεγαλύτερη κοινόχρηστη πισίνα μνήμης ειδικά για να διατηρεί τον λανθάνοντα χρόνο και την κατανάλωση ενέργειας υπό έλεγχο για συμπεράσματα σχετικά με το μείγμα των ειδικών στη συσκευή.
Οι μάρκες που πρέπει να γεφυρώσουν το χάσμα
Η τρέχουσα ναυαρχίδα της Qualcomm - το Snapdragon 8 Elite Gen 6 και το 8 Elite Extreme Gen 6, που βασίζεται σε διαδικασία 2nm - πρόκειται να τροφοδοτήσει τα τηλέφωνα ναυαρχίδων του 2027 από Honor, iQOO, Motorola, OnePlus, OPPO, Redmi, RedMagic, στην κορυφαία κατηγορία των Galaxy S, όπως η Samsung και η κατηγορία Xia. εύρος. Εάν η λίστα επιθυμιών του 2028 της βιομηχανίας τεχνητής νοημοσύνης πρέπει να εκπληρωθεί, είναι αυτός ο κύκλος τσιπ και ο επόμενος που πρέπει να προσφέρουν την αρχιτεκτονική μνήμης, τα θερμικά και την αποδοτικότητα της μπαταρίας για να κρατήσουν ζωντανό ένα μοντέλο συνοριακής κλίμακας στην τσέπη του πουκαμίσου.
Ο Amon είπε επίσης, σύμφωνα με τις αναφορές του Fortune, ότι η Qualcomm συνεργάζεται με σχεδόν όλους τους σημαντικότερους παίκτες τεχνητής νοημοσύνης σε έργα υλικού που δεν έχουν αποκαλυφθεί, συμπεριλαμβανομένων κατηγοριών συσκευών πέρα από τηλέφωνα. Αυτό είναι σύμφωνο με την πρόσφατη στάση της εταιρείας να τοποθετεί το πυρίτιο Snapdragon ως το προεπιλεγμένο επίπεδο συμπερασμάτων για την τεχνητή νοημοσύνη άκρων όπου κι αν προσγειώνεται — τηλέφωνα, αυτοκίνητα, υπολογιστές και γυαλιά.
Τι θα σήμαινε στην πραγματικότητα η συνεχής τεχνητή νοημοσύνη στη συσκευή
Εάν οι εταιρείες τεχνητής νοημοσύνης λάβουν αυτό που ζητούν, η αλλαγή θα ήταν δομική και όχι αισθητική. Ένα μοντέλο που λειτουργεί όλη μέρα στο παρασκήνιο μπορεί να παρατηρεί το πλαίσιο, να προβλέπει τις ανάγκες και να ενεργεί χωρίς μετ' επιστροφής ταξίδι σε ένα κέντρο δεδομένων — κάτι που συνεπάγεται χαμηλότερο λανθάνοντα χρόνο, καλύτερο απόρρητο και κανένα κόστος στο cloud ανά ερώτημα. Υπονοεί επίσης τηλέφωνα με μεγαλύτερη, ταχύτερη, πιο απαιτητική μνήμη από ό,τι φέρουν οι σημερινές ναυαρχίδες, σε μια αγορά όπου η τιμολόγηση της μνήμης έχει ήδη αυξηθεί.
Υπάρχει υγιής σκεπτικισμός που πρέπει να εφαρμοστεί εδώ. Στελέχη τσιπ έχουν κάνει τολμηρές προβλέψεις τεχνητής νοημοσύνης στη συσκευή στο παρελθόν και το 2028 είναι αρκετά μακριά ώστε η αξίωση να λειτουργεί εν μέρει ως διαπραγματευτική θέση με προμηθευτές μνήμης, κατασκευαστές τηλεφώνων και τα ίδια τα εργαστήρια τεχνητής νοημοσύνης. Αλλά η κατεύθυνση του αιτήματος είναι αξιοσημείωτη: οι εταιρείες τεχνητής νοημοσύνης δεν ζητούν ταχύτερες GPU στο cloud αυτή τη φορά. Ζητούν ένα τηλέφωνο που δεν σταματά να σκέφτεται.
Είτε οι πελάτες της Qualcomm αποστέλλουν αυτήν τη συσκευή το 2028 είτε αργότερα, το σημείο συμφόρησης δεν είναι παράμετροι – είναι το εύρος ζώνης μνήμης ανά watt. Η εταιρεία που θα το λύσει αυτό, στο Ρέντμοντ ή στο Σαν Ντιέγκο ή στην Ταϊπέι, θα κατέχει τον επόμενο ορισμό ενός ναυαρχίδας τηλεφώνου.
Μείνετε μπροστά από την τεχνητή νοημοσύνη
Chip wars, λανσαρίσματα μοντέλων και πρωτοποριακές ανακαλύψεις στην τεχνητή νοημοσύνη — καλύπτονται χωρίς διαφημιστική εκστρατεία.
Διαβάστε περισσότερα νέα AI →
