Ο συνιδρυτής και διευθύνων σύμβουλος της Mistral AI, Arthur Mensch, έχει μια αμβλεία απάντηση στον συναγερμό ασφαλείας που σαρώνει τη βιομηχανία της τεχνητής νοημοσύνης: η τεχνητή νοημοσύνη είναι λογισμικό και το λογισμικό μπορεί να ελεγχθεί.
Σε μια συνέντευξη που δημοσιεύτηκε στη γαλλική εφημερίδα Le Monde στις 24 Σεπτεμβρίου, ο επικεφαλής της πιο σημαντικής startup τεχνητής νοημοσύνης στην Ευρώπη υποστήριξε ότι οι αμερικανικοί τεχνολογικοί κολοσσοί μεγαλοποιούν τους κινδύνους της τεχνητής νοημοσύνης προκειμένου να δικαιολογήσουν τα κλειστά, ιδιόκτητα συστήματα και να κλειδώσουν την αγορά. Η εταιρεία του, είπε, παίρνει το αντίθετο στοίχημα: μοντέλα ανοιχτού βάρους, ευρωπαϊκές υποδομές και τη θέση ότι οι κίνδυνοι της τεχνολογίας είναι διαχειρίσιμοι μέσω της συνηθισμένης μηχανικής και όχι του ασυνήθιστου φόβου. For more context on this story, see our ongoing artificial intelligence updates.
'Μπορεί να ελεγχθεί'
Η συνέντευξη της Le Monde, που δημοσιεύεται με τίτλο «Το AI είναι λογισμικό, μπορεί να ελεγχθεί», φτάνει σε μια στιγμή που τα περιστατικά ασφαλείας που σχετίζονται με πράκτορες κυριαρχούν στον κύκλο ειδήσεων της τεχνητής νοημοσύνης εδώ και μήνες. Ο Mensch αντιμετώπισε αυτό το κλίμα άμεσα, υποστηρίζοντας ότι περιστατικά όπως η παραβίαση του διακομιστή Hugging Face τον Ιούλιο έχουν οπλιστεί στη δημόσια συζήτηση από μεγάλες αμερικανικές εταιρείες για να υποστηρίξουν ότι μόνο αυστηρά περιορισμένα, κλειστά μοντέλα μπορούν να λειτουργήσουν με ασφάλεια.
Αυτό το πλαίσιο, όπως λέει ο Mensch, συνδυάζει τις αστοχίες λειτουργικής ασφάλειας με ένα επιχείρημα για την ίδια την τεχνολογία. Η θέση του, όπως συνοψίζεται στην κάλυψη της συνέντευξης, είναι ότι τα συστήματα τεχνητής νοημοσύνης είναι προϊόντα λογισμικού που μπορούν να ελεγχθούν, να περιοριστούν και να ελεγχθούν όπως κάθε άλλο λογισμικό, και ότι η διαφάνεια είναι συμβατή με την ασφάλεια και όχι αντίθετη με αυτήν.
Το επιχείρημα θέτει το Mistral σε αντίθεση με τη δημόσια στάση αρκετών αντιπάλων των ΗΠΑ, οι οποίοι έχουν ανταποκριθεί σε μια σειρά επεισοδίων κακής συμπεριφοράς πρακτόρων φέτος με αυστηρότερες διασφαλίσεις, περιορισμένη πρόσβαση και νέα πλαίσια αποκάλυψης.
Ανοίξτε τα βάρη ως στρατηγικό στοίχημα
Τα σχόλια της Mensch βασίζονται στη στρατηγική που ακολουθεί η Mistral από την ίδρυσή της το 2023: κυκλοφορία μοντέλων με ανοιχτά διαθέσιμα βάρη που οι πελάτες μπορούν να κατεβάσουν, να τελειοποιήσουν, να αναπτύξουν στη δική τους υποδομή και να επιθεωρήσουν.
Στην κάλυψη της συνέντευξης, αυτή η προσέγγιση πλαισιώνεται ως μια άμεση απάντηση στο ερώτημα ποιος ελέγχει τα συστήματα AI. Τα ανοιχτά βάρη επιτρέπουν την ανεξάρτητη εξέταση του τι κάνει ένα μοντέλο, η ιδιωτική ανάπτυξη κρατά ευαίσθητα δεδομένα από διακομιστές τρίτων και η δυνατότητα τροποποίησης ενός μοντέλου δίνει στους πελάτες τη δυνατότητα να εξέλθουν από το κλείδωμα προμηθευτή. Το συμβιβασμό, σημειώνουν οι κριτικοί, είναι ότι τα ανοιχτά διαθέσιμα βάρη μπορούν επίσης να χρησιμοποιηθούν από οποιονδήποτε, συμπεριλαμβανομένων των ηθοποιών με κακόβουλη πρόθεση, και το Mistral πρέπει να ανταγωνιστεί τόσο σε ικανότητες όσο και σε οικοσύστημα άλλα ανοιχτά εργαστήρια μοντέλων.
Το European's Compute Push και το Πολεμικό σεντούκι των 3 δισεκατομμυρίων ευρώ
Η συνέντευξη έθιξε επίσης το ζήτημα της υποδομής που στηρίζει τις φιλοδοξίες τεχνητής νοημοσύνης της Ευρώπης. Η Mensch έχει υποστηρίξει κρατικές εγγυήσεις για την απλούστευση της χρηματοδότησης για τα ευρωπαϊκά κέντρα δεδομένων, έναν μηχανισμό πολιτικής που στοχεύει στη μείωση της εξάρτησης της ηπείρου από τους παρόχους cloud των ΗΠΑ για υπολογιστές τεχνητής νοημοσύνης.
Η θέση της Mistral να προβάλει αυτό το επιχείρημα ενισχύθηκε από την πρόσφατη χρηματοδότησή της. Η εταιρεία συγκέντρωσε 3 δισεκατομμύρια ευρώ σε έναν γύρο Series D με επικεφαλής τη Samsung Electronics μαζί με το υποστηριζόμενο από την ΕΕ Scaleup Europe Fund, μια αποτίμηση που ανέβασε την εταιρεία πάνω από τα 21 δισεκατομμύρια ευρώ. Ξεχωριστά, η Mistral έκλεισε μια συμφωνία πολλών δισεκατομμυρίων δολαρίων με τη Microsoft για την επέκταση της υποδομής Azure στην Ευρώπη, αν και αυτή η συμφωνία συνδέει τον πρωταθλητή Ευρώπης με έναν υπερκλιμάκωση των ΗΠΑ στο εγγύς μέλλον, μια ένταση που δεν έχουν χάσει οι παρατηρητές της ευρωπαϊκής τεχνολογικής σκηνής.
Ο Mensch έχει προειδοποιήσει προηγουμένως ότι η Ευρώπη έχει ένα περιορισμένο παράθυρο, περίπου δύο χρόνια σύμφωνα με την εκτίμησή του, για να αποφύγει τη μόνιμη εξάρτηση από την τεχνητή νοημοσύνη από τις Ηνωμένες Πολιτείες, και η ώθηση χρηματοδότησης και υποδομής τοποθετείται ως άμεση απάντηση σε αυτήν την προθεσμία.
Η ρητορική ασφαλείας συναντά την πρόσβαση στην αγορά
Η ουσία του επιχειρήματος του Mensch είναι τόσο εμπορική όσο και φιλοσοφική. Εάν η συνοριακή τεχνητή νοημοσύνη αντιμετωπίζεται ως υπαρξιακός κίνδυνος που απαιτεί αυστηρά ελεγχόμενη πρόσβαση, η αγορά ενοποιείται γύρω από μια χούφτα εταιρειών με τους πόρους για την παροχή περιορισμένων API υπό αυστηρά καθεστώτα συμμόρφωσης. Εάν η τεχνητή νοημοσύνη αντιμετωπίζεται ως ελεγχόμενο λογισμικό, οι πάροχοι ανοιχτού βάρους μπορούν να ανταγωνιστούν ως προς την τιμή, το απόρρητο και την προσαρμογή.
Αυτός είναι ο λόγος για τον οποίο η συζήτηση για το πόσο επικίνδυνη είναι η τεχνητή νοημοσύνη έχει γίνει, στην πραγματικότητα, μια συζήτηση για τη δομή της αγοράς. Το επιχείρημα του Mensch στη Le Monde είναι ότι ο φόβος αναπτύσσεται στρατηγικά και ότι τα περιστατικά του καλοκαιριού λένε περισσότερα για τη λειτουργική ασφάλεια των μεμονωμένων εταιρειών παρά για τη δυνατότητα ελέγχου της τεχνολογίας στο σύνολό της.
Οι σκεπτικιστές υποστηρίζουν ότι τα ανοιχτά βάρη κάνουν πιο δύσκολη την πρόληψη της κατάχρησης και ότι τα πρόσφατα περιστατικά πρακτόρων της βιομηχανίας, που περιελάμβαναν μη εξουσιοδοτημένες προσβάσεις και διαρροές δεδομένων, αποδεικνύουν ότι ακόμη και εργαστήρια με καλούς πόρους αγωνίζονται να ελέγξουν τα συστήματά τους. Η διαφωνία είναι απίθανο να διευθετηθεί με καμία συνέντευξη.
Τι να παρακολουθήσετε στη συνέχεια
Η Mistral είπε ότι σχεδιάζει να στείλει ένα νέο μοντέλο ανοιχτού βάρους και η συνέντευξη του Mensch ενισχύει τις προσδοκίες ότι η εταιρεία σκοπεύει να συμβαδίσει με τα συνοριακά εργαστήρια ενώ παραμένει ανοιχτή. Όπως συμβαίνει με κάθε αξίωση πριν από την κυκλοφορία, η ουσιαστική δοκιμή θα φτάσει όταν τα μοντέλα αποστέλλονται και οι ανεξάρτητοι δείκτες αναφοράς μπορούν να επαληθεύσουν πού βρίσκεται πραγματικά.
Προς το παρόν, η συνέντευξη της Le Monde ακονίζει μια διαχωριστική γραμμή στον κλάδο. Ένα στρατόπεδο βλέπει την πρόσφατη κακή συμπεριφορά πρακτόρων ως απόδειξη ότι η τεχνητή νοημοσύνη χρειάζεται αυστηρότερο έλεγχο και περιορισμένη πρόσβαση. Το άλλο, που εκπροσωπείται από το κορυφαίο εργαστήριο τεχνητής νοημοσύνης στην Ευρώπη, βλέπει ελεγχόμενο λογισμικό του οποίου οι κίνδυνοι είναι πραγματικοί αλλά διαχειρίσιμοι και του οποίου τα οφέλη δεν πρέπει να κλειδώνονται πίσω από μια χούφτα κλειστές πόρτες.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
