Η Nvidia στελεχώνει ήσυχα μια νέα ομάδα ασφάλειας AI καθώς διπλασιάζεται σε μοντέλα ανοιχτού βάρους

Η Nvidia συγκεντρώνει αθόρυβα μια νέα ομάδα μηχανικών ασφάλειας και ασφάλειας AI, σύμφωνα με μια σειρά από λίστες θέσεων εργασίας που δημοσιεύθηκαν στα τέλη του περασμένου μήνα, σηματοδοτώντας ότι ο γίγαντας των τσιπ θέτει την ασφάλεια μεγαλύτερη προτεραιότητα, ακόμη και όταν ποντάρει επιθετικά σε ένα μέλλον που διαμορφώνεται από μοντέλα ανοιχτού βάρους και αυτόνομους πράκτορες.

Η ώθηση προσλήψεων, που αναφέρθηκε από το Business Insider, δείχνει ότι η Nvidia αναζητά έναν «διακεκριμένο μηχανικό» για να χρησιμεύσει ως ιδρυτικός τεχνικός ηγέτης για τη νεοσυσταθείσα ομάδα, μαζί με έναν μηχανικό έρευνας ασφαλείας και άλλους ειδικούς. Η κίνηση έρχεται καθώς η εταιρεία εμβαθύνει τη δέσμευσή της για τεχνητή νοημοσύνη ανοιχτού βάρους και καθώς η ευρύτερη βιομηχανία αντιμετωπίζει ένα κύμα περιστατικών ασφαλείας που αφορούν συστήματα τεχνητής νοημοσύνης. Για τους αναγνώστες που ακολουθούν τον κύκλο έκτακτες ειδήσεις τεχνητής νοημοσύνης, η εξέλιξη είναι ένα ενδεικτικό μήνυμα: η εταιρεία που πουλάει τις λαβές και τα φτυάρια του χρυσού της τεχνητής νοημοσύνης θέλει τώρα μεγαλύτερο χέρι για να διασφαλίσει ότι αυτά τα εργαλεία είναι ασφαλή στη χρήση.

Τι αποκαλύπτουν οι αγγελίες εργασίας

Σύμφωνα με το Business Insider, η νέα ομάδα περιγράφεται σε μια λίστα ότι έχει τις ρίζες της στις αρχές της ασφαλούς ανάπτυξης AI. Η Nvidia προσλαμβάνει έναν διακεκριμένο μηχανικό για να ενεργήσει ως «ιδρυτικός τεχνικός ηγέτης» για την ομάδα, μια φράση που υποδηλώνει ότι η ομάδα χτίζεται από την αρχή αντί να επεκτείνεται από μια υπάρχουσα μονάδα. Η εταιρεία προσλαμβάνει επίσης έναν μηχανικό έρευνας ασφάλειας που επικεντρώνεται στην τεχνητή νοημοσύνη.

Η πρόσληψη υποδηλώνει ότι η Nvidia κάνει την ασφάλεια της τεχνητής νοημοσύνης πιο σκόπιμη, επίσημη προτεραιότητα, καθώς κλίνει σε μια στρατηγική που επικεντρώνεται σε μοντέλα ανοιχτού βάρους και πράκτορες τεχνητής νοημοσύνης. Τα μοντέλα ανοιχτού βάρους καθιστούν τα εκπαιδευμένα "βάρη" τους - τις παραμέτρους που καθορίζουν τη συμπεριφορά ενός μοντέλου - δημόσια διαθέσιμα, ακόμα κι αν τα δεδομένα εκπαίδευσης και ο πηγαίος κώδικας παραμένουν ιδιωτικά. Αυτή η διαφάνεια επιταχύνει την καινοτομία και επιτρέπει στους προγραμματιστές να εκτελούν μοντέλα σε υλικό Nvidia, αλλά εγείρει επίσης ερωτήματα ασφαλείας που μπορούν να παρακάμψουν τα κλειστά συστήματα με πύλη API.

Γιατί τα μοντέλα ανοιχτού βάρους αυξάνουν τα στοιχήματα

Τα μοντέλα ανοιχτού βάρους καταλαμβάνουν μια περίπλοκη θέση στη συζήτηση για την ασφάλεια της τεχνητής νοημοσύνης. Δημοσιεύοντας τα βάρη δημόσια, τα εργαστήρια δίνουν τη δυνατότητα σε μια παγκόσμια κοινότητα ερευνητών και προγραμματιστών να επιθεωρεί, να τελειοποιήσει και να αναπτύξει ισχυρά μοντέλα — συχνά στις GPU της Nvidia. Αυτό το άνοιγμα είναι ένα πραγματικό όφελος για την επιστημονική πρόοδο και για τις επιχειρήσεις της Nvidia. Σημαίνει όμως επίσης ότι μόλις τελειώσουν τα βάρη, το εργαστήριο χάνει τον έλεγχο του τρόπου χρήσης, τροποποίησης ή κατάχρησης του μοντέλου.

Ένας κακόβουλος ηθοποιός που κατεβάζει ένα μοντέλο ανοιχτού βάρους μπορεί να επιχειρήσει να αφαιρέσει τα προστατευτικά κιγκλιδώματα, να επαναχρησιμοποιήσει το μοντέλο για επιθέσεις στον κυβερνοχώρο ή να το συνδυάσει με άλλα εργαλεία με τρόπους που οι δημιουργοί του δεν ήθελαν ποτέ. Σε αντίθεση με ένα μοντέλο που εξυπηρετείται πίσω από ένα API - όπου ο χειριστής μπορεί να παρακολουθεί τη χρήση, τα αιτήματα ορίου ρυθμού και να ανακαλεί την πρόσβαση - ένα μοντέλο ανοιχτού βάρους εκτελείται όπου κάποιος έχει το υλικό για να το εκτελέσει. Αυτός είναι ακριβώς ο λόγος που μια εταιρεία που επενδύει τόσο σε ανοιχτή τεχνητή νοημοσύνη θα ήθελε επίσης μια ειδική ομάδα ασφάλειας και ασφάλειας: οι δύο στρατηγικές είναι οι δύο όψεις του ίδιου νομίσματος.

Τα εμπορικά συμφέροντα της Nvidia και η στάση ασφαλείας της είναι επομένως στενά συνδεδεμένα. Όσο περισσότερο η εταιρεία ενθαρρύνει την υιοθέτηση ανοιχτού βάρους, τόσο περισσότερο ωφελείται από το να θεωρείται υπεύθυνος διαχειριστής αυτού του οικοσυστήματος.

Ένας ευρύτερος υπολογισμός της βιομηχανίας για την ασφάλεια AI

Η νέα ομάδα δεν φτάνει στο κενό. Η πρόσληψη της Nvidia συμπίπτει με μια περίοδο κατά την οποία η ασφάλεια τεχνητής νοημοσύνης έχει περάσει από μια αφηρημένη ανησυχία σε ένα συγκεκριμένο, επαναλαμβανόμενο πρόβλημα. Τις τελευταίες εβδομάδες είδαμε μια σειρά από περιστατικά υψηλού προφίλ στα οποία πράκτορες τεχνητής νοημοσύνης επέδειξαν την ικανότητα να ενεργούν αυτόνομα με τρόπους που οι προγραμματιστές τους δεν περίμεναν πλήρως, συμπεριλαμβανομένων περιπτώσεων όπου συστήματα που δοκιμάστηκαν για σκοπούς κυβερνοασφάλειας συμπεριφέρθηκαν απροσδόκητα.

Η ίδια η Nvidia βρέθηκε στο επίκεντρο μιας ανταπόκρισης του κλάδου. Η εταιρεία βοήθησε πρόσφατα να πρωτοστατήσει σε μια ανοιχτή και ασφαλή συμμαχία τεχνητής νοημοσύνης που συγκεντρώνει περισσότερες από 30 εταιρείες για τη θέσπιση προτύπων διαφάνειας και ασφάλειας στον κυβερνοχώρο, κάτι που έχει προχωρήσει γρήγορα. Η νέα εσωτερική ομάδα ασφάλειας φαίνεται να είναι το εσωτερικό συμπλήρωμα αυτού του εξωτερικού συνασπισμού: ένας τρόπος να σκληρύνουν οι συνεισφορές της Nvidia στο κίνημα ανοιχτής τεχνητής νοημοσύνης.

Η αντίθεση με ορισμένους αντιπάλους είναι αξιοσημείωτη. Αρκετά συνοριακά εργαστήρια έχουν δώσει έμφαση στους περιορισμούς, τους ελέγχους πρόσβασης και τις κλειστές αναπτύξεις ως τους κύριους μηχανισμούς ασφαλείας τους. Η προσέγγιση της Nvidia - τα ανοιχτά βάρη σε συνδυασμό με μια αυξανόμενη συσκευή ασφαλείας - αντικατοπτρίζει μια διαφορετική φιλοσοφία: ότι η διαφάνεια και η ασφάλεια δεν είναι αντίθετα και ότι μια ομάδα ασφαλείας με καλούς πόρους μπορεί να κάνει τα ανοιχτά μοντέλα βιώσιμα.

Τι σηματοδοτεί για τη στρατηγική της Nvidia

Για τη Nvidia, ο λογισμός είναι ξεκάθαρος. Η κύρια δραστηριότητα της εταιρείας είναι η πώληση του υλικού που τρέχει την τεχνητή νοημοσύνη και τα μοντέλα ανοιχτού βάρους αποτελούν ισχυρό οδηγό της ζήτησης υλικού: όταν κάποιος μπορεί να κατεβάσει ένα ικανό μοντέλο, οποιοσδήποτε με προϋπολογισμό γίνεται δυνητικός πελάτης της Nvidia. Η επένδυση στην ασφάλεια της τεχνητής νοημοσύνης προστατεύει αυτόν τον σφόνδυλο μειώνοντας τον κίνδυνο να συσχετιστούν ανοιχτά μοντέλα με βλάβες που θα μπορούσαν να προκαλέσουν βαριές ρυθμίσεις ή αντιδράσεις των καταναλωτών.

Η δημιουργία μιας ειδικής ομάδας μηχανικών ασφάλειας και ασφάλειας είναι επίσης ένα σήμα πρόσληψης. Οι κορυφαίοι ερευνητές ασφάλειας τεχνητής νοημοσύνης έχουν εξαιρετική ζήτηση και μια αξιόπιστη ομάδα υπό την ηγεσία ενός διακεκριμένου μηχανικού μπορεί να βοηθήσει τη Nvidia να προσελκύσει ταλέντα που διαφορετικά θα μπορούσαν να έλκονται προς ένα συνοριακό εργαστήριο. Αυτό το ταλέντο, με τη σειρά του, μπορεί να διαμορφώσει τα πρότυπα της βιομηχανίας – δίνοντας επιρροή στη Nvidia στους κανόνες του οικοσυστήματος ανοιχτής τεχνητής νοημοσύνης που βοηθά να χτίσει.

Ο δρόμος μπροστά

Η Nvidia δεν έχει λεπτομερώς έναν δημόσιο οδικό χάρτη για το έργο της νέας ομάδας και οι λίστες δείχνουν ότι η ομάδα εξακολουθεί να διαμορφώνεται. Αλλά η σκηνοθεσία είναι αδιαμφισβήτητη. Καθώς οι πράκτορες τεχνητής νοημοσύνης αναπτύσσονται πιο ικανά και τα μοντέλα ανοιχτού βάρους αναπτύσσονται ευρύτερα, η εταιρεία που εξουσιοδοτεί μεγάλο μέρος της τεχνητής νοημοσύνης στον κόσμο συγκεντρώνει τώρα τους ανθρώπους για να βοηθήσει να διατηρήσει αυτή την ισχύ υπό έλεγχο.

Οι επόμενοι μήνες θα δείξουν εάν το στοίχημα ασφαλείας της Nvidia μπορεί να συμβαδίσει με τις εμπορικές φιλοδοξίες της — και εάν ένα μέλλον ανοιχτής τεχνητής νοημοσύνης μπορεί να είναι καινοτόμο και ασφαλές.

Μείνετε μπροστά από την τεχνητή νοημοσύνη

Η διασταύρωση της ασφάλειας AI, των ανοιχτών μοντέλων και του υλικού προχωρά γρήγορα. Ακολουθήστε την κάλυψη του κλάδου AI για συνεχείς αναφορές σχετικά με τη Nvidia, τα συνοριακά εργαστήρια και τις πολιτικές που τα διαμορφώνουν.

Διαβάστε περισσότερα νέα AI →