Η Mistral AI κυκλοφόρησε το Shieldstral στις 4 Αυγούστου 2026, έναν ταξινομητή ασφαλείας 3 δισεκατομμυρίων παραμέτρων, ο οποίος κρίνει κείμενο και εικόνες με βάση τις πολιτικές μετριοπάθειας που είναι γραμμένες σε απλή γλώσσα κατά τη στιγμή της εξαγωγής συμπερασμάτων, αντί να βασίζεται σε ένα σταθερό σύνολο κατηγοριών βλαβών που χρησιμοποιούνται στο μοντέλο κατά τη διάρκεια της εκπαίδευσης. Η κυκλοφορία αντιπροσωπεύει μια αξιοσημείωτη φιλοσοφική απόκλιση από τον τρόπο κατασκευής των περισσότερων μοντέλων προστατευτικών κιγκλιδωμάτων σήμερα.

Το μοντέλο είναι διαθέσιμο στο Hugging Face με την άδεια Apache 2.0, καλύπτει 12 γλώσσες και τρέχει σε μια ενιαία GPU 16 GB. Καθώς ο ευρωπαϊκός τομέας τεχνητής νοημοσύνης συνεχίζει να παράγει ανταγωνιστικά συστήματα ανοιχτού βάρους, το Shieldstral προσθέτει μια άλλη διάσταση στις [έκτακτες ειδήσεις AI] (https://aibuzzwire.news) που αναδιαμορφώνουν τον τρόπο με τον οποίο οι προγραμματιστές προσεγγίζουν την ασφάλεια.

Πώς λειτουργεί το Shieldstral

Τα περισσότερα μοντέλα προστατευτικών κιγκλιδωμάτων κωδικοποιούν μια ταξινόμηση κατηγοριών βλαβών στα βάρη τους κατά τη διάρκεια της προπόνησης, πράγμα που σημαίνει ότι η προσαρμογή τους σε ένα νέο πλαίσιο προϊόντος απαιτεί έναν πλήρη κύκλο επανεκπαίδευσης. Το Shieldstral ακολουθεί μια θεμελιωδώς διαφορετική προσέγγιση: η πολιτική συγκράτησης παρέχεται ως μέρος της εισόδου κατά τον χρόνο συμπερασμάτων.

Σύμφωνα με την ανάλυση του Unite.AI, ο μηχανισμός μειώνει κάθε εργασία εποπτείας σε δυαδική απάντηση ερωτήσεων. Κάθε αίτημα έχει τρία μέρη με ετικέτα: ένα πεδίο «» που φέρει το πλαίσιο αξιολόγησης και το επίπεδο αυστηρότητας, ένα πεδίο «» με μία ερώτηση ναι/όχι, όπως «Προωθεί αυτό το περιεχόμενο τη σωματική βία;» και ένα πεδίο «<Έγγραφο>» που κρατά το περιεχόμενο για να κριθεί, το οποίο μπορεί να είναι μια προτροπή, μια απάντηση, ένα ζεύγος εικόνας προτροπής-απόκρισης ή ένα ζεύγος εικόνας προτροπής-απόκρισης ή μια επιλογή.

Συμπερασματικά, το μοντέλο διαβάζει μόνο τα logits για τα διακριτικά "ναι" και "όχι" και το softmax τα κανονικοποιεί σε μια συνεχή βαθμολογία, με όριο 0,5 για μια δυαδική ετυμηγορία. Αυτή η διατύπωση επιτρέπει σε ένα μεμονωμένο σημείο ελέγχου να απορροφά την άμεση ταξινόμηση, τη μετριοπάθεια απόκρισης, την ανίχνευση άρνησης και την ανίχνευση τοξικότητας ως περιπτώσεις του ίδιου υποκείμενου προβλήματος.

Ένα σημείο ελέγχου, πολλές πολιτικές

Η πρακτική επίπτωση είναι σημαντική. Το ίδιο σημείο ελέγχου μπορεί να ελέγξει ένα ερευνητικό εργαλείο για την ασφάλεια στον κυβερνοχώρο και μια πλατφόρμα ψυχικής υγείας έναντι εντελώς διαφορετικών προτύπων χωρίς τροποποίηση. Ένας χειριστής γράφει μια ερώτηση ναι/όχι, παρέχει μια οδηγία που περιγράφει το πλαίσιο αξιολόγησης και την αυστηρότητα, και το μοντέλο επιστρέφει μια βαθμονομημένη βαθμολογία ασφαλείας από ένα μόνο διακριτικό έξοδο.

Αυτός ο σχεδιασμός που προσαρμόζεται στην πολιτική αντιμετωπίζει μία από τις επίμονες απογοητεύσεις στην ανάπτυξη συστημάτων ασφαλείας AI: τη δυσκολία προσαρμογής της μετριοπάθειας σε συγκεκριμένες περιπτώσεις χρήσης χωρίς δαπανηρή επανεκπαίδευση. Ένα chatbot για χρηματοοικονομικές υπηρεσίες, μια εκπαιδευτική εφαρμογή για παιδιά και ένα ανοιχτό φόρουμ για ερευνητές ασφαλείας χρειάζονται όλα ριζικά διαφορετικά προστατευτικά κιγκλιδώματα και το Shieldstral στοχεύει να χειριστεί και τα τρία από το ίδιο σύνολο βαρών.

Αρχιτεκτονική και Απόδοση

Το Shieldstral είναι χτισμένο στο Ministral-3-3B, το μικρό πολυτροπικό μοντέλο της Mistral, με κωδικοποιητή Pixtral vision που χειρίζεται εισόδους εικόνας. Η κάρτα μοντέλου παραθέτει ένα παράθυρο περιβάλλοντος με 32.000 διακριτικά και η Mistral λέει ότι το μοντέλο ταιριάζει με μοντέλα ανοιχτής προστασίας έως και επτά φορές το μέγεθός του σε σημεία αναφοράς ασφάλειας κειμένου, ενώ θέτει μια νέα κατάσταση στον τομέα της πολυτροπικής μετριοπάθειας.

Αυτοί είναι ισχυροί ισχυρισμοί για ένα μοντέλο παραμέτρων 3Β και η Mistral υποστήριξε την κυκλοφορία με μια ασυνήθιστη ποσότητα τεκμηρίωσης. Μια τεχνική έκθεση που περιγράφει τη συνταγή και την αξιολόγηση της εκπαίδευσης δημοσιεύτηκε στο arXiv στις 28 Ιουλίου 2026, ακολουθούμενη από την πλήρη κάρτα μοντέλου στην τεκμηρίωση του Mistral και τα ίδια τα βάρη, που κυκλοφόρησαν και τα δύο στις 4 Αυγούστου.

Μια έντονη κριτική του status quo

Η Mistral πλαισίωσε την κυκλοφορία του Shieldstral γύρω από μια έντονη κριτική για τον τρόπο κατασκευής των μοντέλων προστατευτικών κιγκλιδωμάτων. Η εταιρεία υποστηρίζει ότι η σκληρή κωδικοποίηση ταξινομιών βλαβών στα βάρη μοντέλων δημιουργεί ανελαστικότητα, αναγκάζοντας τους προγραμματιστές να επανεκπαιδεύουν βρόχους κάθε φορά που αλλάζει μια πολιτική ή κυκλοφορεί ένα νέο προϊόν.

Αυτό είναι κάτι περισσότερο από ένα τεχνικό επιχείρημα. είναι μια δήλωση ανταγωνιστικής θέσης. Κυκλοφορώντας ένα μοντέλο με άδεια χρήσης Apache-2.0 που μπορεί να φιλοξενηθεί και να προσαρμοστεί χωρίς επανεκπαίδευση, η Mistral στοχεύει προγραμματιστές που θέλουν τον έλεγχο της στοίβας ασφαλείας τους χωρίς την επιβάρυνση διαχειριζόμενων υπηρεσιών ή ιδιόκτητων ταξινομητών.

Η προσέγγιση των ανοιχτών βαρών αντιμετωπίζει επίσης μια αυξανόμενη ανησυχία μεταξύ των εταιρικών χρηστών: την αδιαφάνεια των κλειστών συστημάτων ασφαλείας. Όταν ένα προστατευτικό κιγκλίδωμα μπλοκάρει περιεχόμενο, οι χειριστές συχνά δεν μπορούν να ελέγξουν γιατί. Ο διαφανής σχεδιασμός του Shieldstral επιτρέπει στους προγραμματιστές να δουν ακριβώς ποιος κανόνας παρήγαγε μια δεδομένη ετυμηγορία.

Η ευρύτερη ορμή ανοιχτών βαρών

Το Shieldstral έρχεται εν μέσω μιας ευρύτερης αύξησης των εκδόσεων τεχνητής νοημοσύνης ανοιχτού βάρους σε ολόκληρο τον κλάδο. Το μοντέλο εντάσσεται στο διευρυνόμενο χαρτοφυλάκιο ανοιχτών συστημάτων της Mistral, ενισχύοντας τη στρατηγική της εταιρείας να ανταγωνίζεται σε επίπεδο προσβασιμότητας και εμπειρίας προγραμματιστή και όχι σε ακατέργαστη κλίμακα.

Για ομάδες που κατασκευάζουν εφαρμογές τεχνητής νοημοσύνης, η δυνατότητα εκτέλεσης ενός ικανού πολυτροπικού ταξινομητή ασφάλειας σε μια μοναδική GPU ποιότητας καταναλωτή, χωρίς αποστολή δεδομένων σε API τρίτου κατασκευαστή, μειώνει τόσο το κόστος όσο και το εμπόδιο απορρήτου για την ανάπτυξη ισχυρής εποπτείας. Αυτό θα μπορούσε να επιταχύνει την υιοθέτηση σε ρυθμιζόμενες βιομηχανίες όπου η παραμονή δεδομένων και η δυνατότητα ελέγχου είναι αδιαπραγμάτευτα.

Μείνετε μπροστά από την τεχνητή νοημοσύνη

Τα μοντέλα ασφαλείας ανοιχτού βάρους όπως το Shieldstral αλλάζουν τον τρόπο με τον οποίο σκέφτονται οι προγραμματιστές για τα προστατευτικά κιγκλιδώματα και ο ρυθμός της καινοτομίας δεν δείχνει σημάδια επιβράδυνσης. Ακολουθήστε το AI Buzz Wire για σαφείς, πραγματικές αναφορές σχετικά με τα μοντέλα, τα εργαλεία και την έρευνα που προχωρά στον τομέα.

Διαβάστε περισσότερα νέα AI →