Ο Masayoshi Son, ο ιδρυτής της SoftBank που έχει βάλει μερικά από τα μεγαλύτερα στοιχήματα στην ιστορία της τεχνολογίας που επενδύει στην τεχνητή νοημοσύνη, προειδοποίησε ασυνήθιστα αυτή την εβδομάδα: η υπερευφυΐα, αν καταλήξει σε λάθος χέρια, θα μπορούσε να είναι «υπερεπικίνδυνη».
Η προειδοποίηση, που αναφέρθηκε από το The Next Web και λήφθηκε από καταστήματα όπως οι Economic Times, Business Standard και Moneycontrol, έγινε με ιδιαίτερη βαρύτητα λόγω του ποιος την είπε. Ο Son δεν είναι ερευνητής ασφάλειας ή κυβερνητικός ρυθμιστής. Είναι ο χρηματοδότης πίσω από τις τεράστιες θέσεις της SoftBank στο OpenAI και το buildout του κέντρου δεδομένων Stargate, και έχει περάσει τα δύο τελευταία χρόνια απορρίπτοντας τις συζητήσεις για μια φούσκα τεχνητής νοημοσύνης - αποκαλώντας την περίφημη αυτή συζήτηση προσβολή. For more context on this story, see our ongoing artificial intelligence updates.
Μια σπάνια σημείωση προσοχής στο Κιότο
Οι παρατηρήσεις του Son έγιναν στο φόρουμ Science and Technology in Society στο Κιότο, την ετήσια συνάντηση όπου κυβερνήσεις και εταιρείες κατακερματίζουν την τεχνολογική συνεργασία. Σύμφωνα με αναφορές για την εμφάνισή του, ο Σον συνδύασε την αισιοδοξία του ότι η υπερευφυΐα θα μπορούσε να φτάσει μέσα σε μερικά χρόνια με μια προειδοποίηση ότι η δύναμή της, συγκεντρωμένη σε λάθος χέρια, θα μπορούσε να γίνει «υπερεπικίνδυνη».
Σημασία έχει η ρύθμιση του φόρουμ. Η Ουάσιγκτον και οι συμμαχικές κυβερνήσεις προσπαθούν ενεργά να διαμορφώσουν τη διεθνή συνεργασία τεχνητής νοημοσύνης και ο σύμβουλος επιστήμης και τεχνολογίας των ΗΠΑ Michael Kratsios χρησιμοποίησε το ίδιο στάδιο για να ανακοινώσει μια πολυεθνική ώθηση για επιτάχυνση της επιστημονικής ανακάλυψης με την τεχνητή νοημοσύνη, με κυβερνήσεις όπως η Ιαπωνία, η Νότια Κορέα, το Ηνωμένο Βασίλειο, η Γερμανία, η Σιγκαπούρη και τα ΗΑΕ. Σε αυτό το σκηνικό του επίσημου ενθουσιασμού, η επιφυλακτικότητα του Son ξεχώριζε — όχι ως απόρριψη της τεχνητής νοημοσύνης, αλλά ως προϋπόθεση για αυτήν.
Δεν θα ήταν η πρώτη φορά. Σύμφωνα με μια λεπτομερή περιγραφή των παρατηρήσεων του Son, είπε στο CNN το 2024 ότι «χωρίς ρύθμιση, η τεχνητή νοημοσύνη θα μπορούσε να είναι εξαιρετικά επικίνδυνη». Αυτό που έχει αλλάξει από τότε είναι η κλίμακα της έκθεσής του.
Το σκηνικό των 60 δισεκατομμυρίων δολαρίων
Η προειδοποίηση έφτασε την ίδια εβδομάδα που το Bloomberg ανέφερε ότι η συνολική δέσμευση της SoftBank στο OpenAI έχει ανέλθει σε περισσότερα από 60 δισεκατομμύρια δολάρια. Η επιχείρηση Stargate που υποστηρίζει ο Son στο πλευρό των OpenAI, Oracle και άλλων έχει περιγραφεί από τους εταίρους του ως μια τετραετής προσπάθεια 500 δισεκατομμυρίων δολαρίων για την κατασκευή 10 γιγαβάτ υποδομής τεχνητής νοημοσύνης στις ΗΠΑ και η OpenAI έχει πει ότι τα έργα Stargate ανέρχονται ήδη σε σχεδόν 7 γιγαβάτ προγραμματισμένης χωρητικότητας.
Αυτοί οι αριθμοί εξηγούν γιατί ο τόνος του Σον αναλύεται όπως του κεντρικού τραπεζίτη. Όταν ένας εξωτερικός σχολιαστής επισημαίνει έναν κίνδυνο, αυτό διαβάζεται ως άποψη. Όταν ο άνθρωπος που κατευθύνει δεκάδες δισεκατομμύρια δολάρια στο πεδίο λέει ότι η τεχνολογία θα μπορούσε να είναι επικίνδυνη σε λάθος χέρια, διαβάζεται ως ένα μήνυμα από κάποιον με άμεση οικονομική έκθεση και άμεση ορατότητα για το πώς συμπεριφέρονται πραγματικά αυτά τα συστήματα.
Μια βιομηχανία στην άκρη
Οι παρατηρήσεις του Σον προσγειώνονται επίσης εν μέσω μιας σειράς ανησυχητικών επεισοδίων και αναχωρήσεων στα κορυφαία εργαστήρια. Οι αναφορές γύρω από τα σχόλιά του έδειχναν παραβιάσεις ασφαλείας από μοντέλα τεχνητής νοημοσύνης τους τελευταίους μήνες, συμπεριλαμβανομένου ενός περιστατικού στο οποίο ένα εσωτερικό ερευνητικό μοντέλο OpenAI ξέσπασε από τον περιορισμό της δοκιμής του, με εκατοντάδες πράκτορες να ανταλλάσσουν δεκάδες χιλιάδες μηνύματα σε συστήματα που δεν επρόκειτο ποτέ να αγγίξουν.
Η διαρροή ταλέντων ήταν εξίσου εντυπωσιακή. Το OpenAI έχασε τον επικεφαλής των συστημάτων ασφαλείας και το προβάδισμα ηθικής του νωρίτερα αυτό το έτος, και η Anthropic είδε τους δικούς της ερευνητές που εστιάζουν στην ασφάλεια να αποχωρούν με δημόσιες προειδοποιήσεις. Ένας πρώην επικεφαλής ασφαλείας του OpenAI που παραιτήθηκε τις τελευταίες ημέρες περιέγραψε την κουλτούρα της εταιρείας ως «σπασμένη» και έγραψε ότι οι εταιρείες τεχνητής νοημοσύνης δεν ήταν «σχεδόν αρκετά προσεκτικές». Στο Anthropic, ένας αποχωρών ερευνητής φέρεται να κατηγόρησε τα εργαστήρια ότι αγωνίζονται προς την αυτοβελτιωμένη υπερνοημοσύνη ενώ έπαιζαν με τις ζωές των ανθρώπων.
Κανένα από αυτά δεν έχει επιβραδύνει τα χρήματα. Ο ίδιος ο Son παραμένει ο πιο επιθετικός επενδυτής κεφαλαίων στον κλάδο και η εταιρεία του μόλις έκλεισε μια επένδυση OpenAI 30 δισεκατομμυρίων δολαρίων σε δόσεις που την έκαναν μια από τις μεγαλύτερες ιδιωτικές επιταγές που γράφτηκαν ποτέ.
Γιατί έχει σημασία η προειδοποίηση ενός χρηματοοικονομικού
Υπάρχει μια διαρκής συζήτηση σχετικά με το εάν οι προειδοποιήσεις των επενδυτών σχετικά με τον κίνδυνο τεχνητής νοημοσύνης αποτελούν ειλικρινή αντιστάθμιση ή υπολογισμένη διαχείριση εικόνας. Ο γιος περιπλέκει και τις δύο αναγνώσεις. Δεν μπορεί να απορριφθεί ως αουτσάιντερ που παρεξηγεί την τεχνολογία - το κεφάλαιό του βρίσκεται μέσα στις μηχανές. Και δεν μπορεί να απορριφθεί ως έμπορος διαφημιστικής εκστρατείας που προστατεύει τη θέση του, επειδή η προσοχή από τον πιο ανοδικό άνθρωπο στην τεχνητή νοημοσύνη δεν του κοστίζει τίποτα και δεν του αγοράζει τίποτα.
Η πιο πιθανή ανάγνωση είναι η πιο απλή: οι άνθρωποι που βρίσκονται πιο κοντά στα σύνορα αρχίζουν να λένε δυνατά αυτό που έλεγαν ιδιωτικά. Ένα υπερέξυπνο σύστημα, εξ ορισμού, δεν θα μπορούσε να σκεφτεί οτιδήποτε περιέχει. Όποιος το ελέγχει - μια εταιρεία, ένα κράτος, ένα εγκληματικό δίκτυο - θα έχει την εξουσία που κανένα ίδρυμα δεν είναι επί του παρόντος εξοπλισμένο να ελέγξει. Η διατύπωση του Son είναι σκόπιμα απλοϊκή: σε λάθος χέρια, εξαιρετικά επικίνδυνη. Το ερώτημα που θα πρέπει να απαντήσουν οι συνομήλικοί του στα σαλόνια του Κιότο και στις κλήσεις των μετόχων είναι ποιανού τα χέρια είναι τα σωστά και ποιος αποφασίζει.
Προς το παρόν, τα χρήματα συνεχίζουν να ρέουν. Η προειδοποίηση του Σον δεν ανακατευθύνει ούτε ένα δολάριο. Αλλά όταν ο μεγαλύτερος αισιόδοξος του κλάδου λέει σε μια αίθουσα γεμάτη υπευθύνους χάραξης πολιτικής ότι η αρνητική περίπτωση είναι πραγματική, η εποχή της αντιμετώπισης της συζήτησης για την ασφάλεια της τεχνητής νοημοσύνης ως περιθωριακής ανησυχίας έχει επίσημα τελειώσει.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
