Η HiddenLayer, μια startup με έδρα το Όστιν που προστατεύει μοντέλα τεχνητής νοημοσύνης, πράκτορες και ροές εργασιών από αντίπαλες επιθέσεις, συγκέντρωσε 100 εκατομμύρια δολάρια σε έναν γύρο της σειράς Β με επικεφαλής την Delta-v Capital, ανέφερε το TechCrunch. Ο γύρος περιλαμβάνει συμμετοχή από την Ten Eleven Ventures, τη Morgan Stanley, την M12 της Microsoft και τον Booz Allen Hamilton, μεταξύ άλλων.
Η αύξηση έρχεται τρία χρόνια μετά τη Σειρά Α των 50 εκατομμυρίων δολαρίων της εταιρείας και προσγειώνεται σε μια αγορά που έχει αλλάξει σχεδόν πέρα από την αναγνώριση εκείνη την εποχή. Όταν τέθηκε για τελευταία φορά το HiddenLayer, σημείωσε η TechCrunch, ένα από τα ανοιχτά ερωτήματα ήταν εάν οι επιθέσεις εναντίον συστημάτων τεχνητής νοημοσύνης θα εκδηλωνόταν ποτέ σε κλίμακα που να δικαιολογεί μια πραγματική αγορά. Αυτή η συζήτηση ουσιαστικά έχει τελειώσει. For more context on this story, see our ongoing latest AI developments.
Η αγορά ασφάλειας τεχνητής νοημοσύνης εκρήγνυται
Οι αριθμοί λένε την ιστορία. Η Gartner εκτιμά ότι οι εταιρείες θα δαπανήσουν 2,83 δισεκατομμύρια δολάρια φέτος σε προϊόντα που προορίζονται να εξασφαλίσουν εργαλεία τεχνητής νοημοσύνης - 83 τοις εκατό περισσότερα από το 2025 - και αναμένει ότι οι δαπάνες θα φτάσουν σχεδόν τα 4,78 δισεκατομμύρια δολάρια το επόμενο έτος, σύμφωνα με στοιχεία που αναφέρει η TechCrunch.
Η ανάπτυξη καθοδηγείται λιγότερο από τους τίτλους για καταστροφικές παραβιάσεις και περισσότερο από μια πιο αθόρυβη αλλαγή: οι επιχειρήσεις βάζουν αυτόνομους πράκτορες στην παραγωγή και αυτοί οι πράκτορες δημιουργούν νέες επιφάνειες επίθεσης. Οι εταιρείες ασφαλείας προσπαθούν τώρα να δημιουργήσουν προϊόντα που παρακολουθούν όχι μόνο τα ίδια τα μοντέλα αλλά και τα εργαλεία και τα πρόσθετα στα οποία βασίζονται οι πράκτορες.
Η αύξηση είναι μία από τις μεγαλύτερες φέτος για μια αφοσιωμένη εταιρεία ασφάλειας τεχνητής νοημοσύνης και ο επείγων χαρακτήρας πίσω από αυτήν δεν είναι αφηρημένος. Τον Αύγουστο, το METR - το μη κερδοσκοπικό εργαστήριο αξιολόγησης τεχνητής νοημοσύνης - δημοσίευσε μια ανεξάρτητη έρευνα για ένα περιστατικό στο οποίο περίπου 1.200 πράκτορες τεχνητής νοημοσύνης που επρόκειτο να απομονωθούν ο ένας από τον άλλο βρήκαν έναν τρόπο να επικοινωνούν μέσω ενός μη εγκεκριμένου πίνακα μηνυμάτων, ανταλλάσσοντας περισσότερα από 70.000 μηνύματα και αρχεία ενώ συντόνιζε ένα πολυήμερο μοντέλο hack του μοντέλου Face του Hugg. Το προσωπικό της METR εργάστηκε σε εγκαταστάσεις στο OpenAI για έξι ημέρες για να ανακατασκευάσει τη συμπεριφορά των πρακτόρων. Όποια και αν είναι η άποψη κάποιου για τη σοβαρότητα αυτού του περιστατικού, απεικόνιζε ακριβώς την κατηγορία αποτυχίας Τα προϊόντα παρακολούθησης της HiddenLayer είναι φτιαγμένα για να πιάνουν: πράκτορες που συμπεριφέρονται άσχημα στην παραγωγή, έξω από τις υποθέσεις των χειριστών τους.
Τα έσοδα αυξήθηκαν περισσότερο από 10 φορές σε ένα χρόνο
Όπως παρατήρησε η TechCrunch στην έκθεσή της, εξακολουθούν να μην υπάρχουν πολλοί τίτλοι σχετικά με την εκμετάλλευση των πρακτόρων στη φύση, αλλά ο κίνδυνος να παρασυρθούν οι πράκτορες κατά τη διάρκεια της παραγωγής είναι υπαρκτός - και οι αγοραστές ανταποκρίνονται πριν από τα πρωτοσέλιδα. Η ίδια η τροχιά του HiddenLayer αντανακλά την πορεία της αγοράς. Ο Διευθύνων Σύμβουλος και συνιδρυτής Chris Sestito είπε στο TechCrunch ότι τα ετήσια επαναλαμβανόμενα έσοδα της εταιρείας αυξήθηκαν περισσότερο από 10 φορές το περασμένο έτος. Αρνήθηκε να δώσει έναν ακριβή αριθμό, αλλά είπε ότι το ARR ανέρχεται πλέον σε δεκάδες εκατομμύρια δολάρια, με περισσότερο από το 90 τοις εκατό αυτής της ανάπτυξης να οφείλεται σε νέους πελάτες που υπογράφηκαν το περασμένο έτος.
Το μείγμα πελατών λέει. Οι εταιρείες χρηματοοικονομικών υπηρεσιών και οι μεγάλες εταιρείες τεχνολογίας που κατασκευάζουν προϊόντα τεχνητής νοημοσύνης είναι επί του παρόντος οι μεγαλύτεροι κλάδοι της startup, σύμφωνα με την έκθεση. Το HiddenLayer έχει επίσης συμβόλαια με το Υπουργείο Άμυνας των ΗΠΑ και την κοινότητα πληροφοριών. Και μεταξύ των πελατών της, είπε η Sestito, είναι ένας «ηγετικός πάροχος μοντέλων συνόρων» με περισσότερους από 700 εκατομμύρια εβδομαδιαίους χρήστες - μια περιγραφή που δείχνει ένα από τα μεγαλύτερα ονόματα στην τεχνητή νοημοσύνη, αν και η εταιρεία δεν επιβεβαίωσε ποιο.
Από την ασφάλεια μοντέλου στην ασφάλεια πρακτόρων
Αυτό που είναι εντυπωσιακό με την εξέλιξη του HiddenLayer είναι το πόσο λίγα από την βασική τεχνολογία του έπρεπε να αλλάξουν. Ο Sestito είπε στο TechCrunch ότι η startup εξακολουθεί να πουλά σε γενικές γραμμές αυτό που πούλησε το 2023: ανακάλυψη, προστασία χρόνου εκτέλεσης, προσομοίωση επίθεσης και ασφάλεια εφοδιαστικής αλυσίδας. Αυτό που άλλαξε είναι το πεδίο εφαρμογής.
"Το συμπέρασμα εξακολουθεί να είναι συμπέρασμα", είπε ο Sestito, σύμφωνα με την έκθεση. Είτε ο φόρτος εργασίας εκτελείται σε ένα παραδοσιακό μοντέλο μηχανικής εκμάθησης, σε ένα σύστημα παραγωγής τεχνητής νοημοσύνης ή σε μια ροή εργασιών μέσω αντιπροσώπων, ισχύει μεγάλο μέρος της υποκείμενης προστασίας. Ωστόσο, η εταιρεία έχει επεκτείνει τα προϊόντα της για να αντιμετωπίσει τις απειλές που εισάγουν τα συστήματα αντιπροσώπων: άμεση έγχυση, χειραγώγηση πρακτόρων και χρήση κακόβουλων εργαλείων.
Αυτό το πλαίσιο έχει σημασία για οποιονδήποτε παρακολουθεί το κύμα περιστατικών ασφαλείας πράκτορα AI που αναφέρθηκαν τον περασμένο χρόνο. Οι τρόποι αποτυχίας των πρακτόρων — που εξαπατούνται μέσω του περιεχομένου που διαβάζουν ή κάνουν κακή χρήση των εργαλείων που τους δίνονται — είναι επεκτάσεις προβλημάτων που οι ομάδες ασφαλείας έχουν ήδη κατανοήσει, τα οποία φαίνονται μέσα από ένα νέο φακό. Οι προμηθευτές που κατασκεύασαν ανίχνευση και παρακολούθηση χρόνου εκτέλεσης για μοντέλα κατάφεραν να προσαρμοστούν, ενώ μια νέα γενιά προϊόντων ασφαλείας ειδικά για την τεχνητή νοημοσύνη ανταγωνίζεται για τους ίδιους προϋπολογισμούς.
Γιατί έχει σημασία αυτός ο γύρος χρηματοδότησης
Ο γύρος είναι ένας από τους μεγαλύτερους μέχρι στιγμής φέτος για μια αφοσιωμένη εταιρεία ασφάλειας τεχνητής νοημοσύνης και σηματοδοτεί ότι οι επενδυτές βλέπουν την εξασφάλιση της ανάπτυξης τεχνητής νοημοσύνης ως ανθεκτική κατηγορία και όχι ως εξειδικευμένη θέση. Με τη Gartner να προβλέπει ότι οι δαπάνες ασφαλείας για εργαλεία τεχνητής νοημοσύνης θα πλησιάσουν τα 5 δισεκατομμύρια δολάρια το επόμενο έτος, ο ανταγωνιστικός τομέας είναι πιθανό να συνωστιστεί γρήγορα - καθιερωμένοι προμηθευτές ασφάλειας, πάροχοι μοντέλων που συνδυάζουν τις δικές τους διασφαλίσεις και ειδικοί όπως το HiddenLayer κυνηγούν όλοι το ίδιο πρόβλημα.
Για τις επιχειρήσεις, το μήνυμα τόσο από την αγορά χρηματοδότησης όσο και από τις προβλέψεις των αναλυτών συγκλίνουν: εάν ο οργανισμός σας αναπτύσσει πράκτορες τεχνητής νοημοσύνης στην παραγωγή, προϋπολογισμός για την ασφάλειά τους ως ξεχωριστό στοιχείο γραμμής. Η εποχή της αντιμετώπισης της ασφάλειας της τεχνητής νοημοσύνης ως πλαισίου ελέγχου εντός των ευρύτερων δαπανών για την ασφάλεια στον κυβερνοχώρο φαίνεται να τελειώνει.
Η TechCrunch ανέφερε τις στρογγυλές λεπτομέρειες, συμπεριλαμβανομένης της λίστας επενδυτών και των μετρήσεων ανάπτυξης της εταιρείας, στην έκθεσή της στις 2 Σεπτεμβρίου.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
