Η OpenAI ανακοίνωσε την Τετάρτη ότι προσφέρει Zero Data Retention (ZDR) για τα συνοριακά της μοντέλα και έκανε προεπισκόπηση ενός νέου συστήματος που ονομάζεται Private Safety Processing, σχεδιασμένο να εντοπίζει κακή χρήση σε πολλαπλές αλληλεπιδράσεις χωρίς να παρέχει στην εταιρεία πρόσβαση στο περιεχόμενο των πελατών. Η κίνηση τραβάει μια έντονη γραμμή έναντι των ανταγωνιστών: η Axios ανέφερε ότι η ανακοίνωση έρχεται καθώς η Anthropic απαιτεί πλέον από τους πελάτες να επιτρέπουν την καταγραφή δεδομένων και η Firstpost σημείωσε την αντίθεση με την κίνηση της Anthropic στη διατήρηση δεδομένων 30 ημερών.
Ο συγχρονισμός δεν είναι λεπτός. Στην ανακοίνωσή του, το OpenAI παρατήρησε ότι "ορισμένες πρόσφατες αναπτύξεις μοντέλων συνόρων απαιτούν από τους πελάτες να επιτρέπουν στον πάροχο τεχνητής νοημοσύνης να διατηρεί ευαίσθητο περιεχόμενο για παρακολούθηση ασφάλειας" - απαιτήσεις που η εταιρεία λέει ότι "έρχονται σε σύγκρουση με τις υποχρεώσεις ασφαλείας ή τις δεσμεύσεις τους προς τα άτομα που εξυπηρετούν". Η εταιρεία τοποθετεί το απόρρητο ως ανταγωνιστικό όπλο στον διαγωνισμό για τους ελεγχόμενους εταιρικούς πελάτες. For more context on this story, see our ongoing latest AI developments.
Τι υπόσχεται η Μηδενική Διατήρηση Δεδομένων
Στο πλαίσιο της προσφοράς ZDR, οι επιλέξιμοι πελάτες API λαμβάνουν αυτό που το OpenAI περιγράφει ως "σαφή υπόσχεση": Το OpenAI δεν διατηρεί υποδείξεις ή απαντήσεις μοντέλου μετά την επεξεργασία ενός αιτήματος. Το περιεχόμενο πελατών δεν είναι διαθέσιμο στο προσωπικό του OpenAI για έλεγχο και τα δεδομένα εταιρικών πελατών δεν χρησιμοποιούνται για την εκπαίδευση των μοντέλων του OpenAI, εκτός εάν οι πελάτες επιλέξουν ρητά τη συμμετοχή.
Για τις τράπεζες, τα νοσοκομεία και τις δικηγορικές εταιρείες που σταθμίζουν την υιοθέτηση της τεχνητής νοημοσύνης, αυτές οι δεσμεύσεις αντιμετωπίζουν τον πιο συνηθισμένο παράγοντα παραβίασης συμφωνιών: τον κίνδυνο να αποθηκευτεί, να διαβαστεί ή να απορροφηθεί σε μελλοντικά μοντέλα ευαίσθητο υλικό που ρέει μέσω των συστημάτων ενός παρόχου τεχνητής νοημοσύνης. Η OpenAI σημειώνει ότι οι οργανισμοί με τους οποίους συνεργάζεται διαχειρίζονται «οικονομικά αρχεία, δεδομένα υγείας, εμπιστευτικά επιχειρηματικά σχέδια και ιδιόκτητη έρευνα».
Η διατήρηση του προβλήματος ασφαλείας λύθηκε
Η ανακοίνωση παραδέχεται επίσης μια γνήσια τεχνική ένταση. Όπως το περιγράφει το ίδιο το OpenAI, οι πιο σοβαροί κίνδυνοι για την ασφάλεια της τεχνητής νοημοσύνης δεν είναι πάντα ορατοί σε μία μόνο αλληλεπίδραση. Οι επιβλαβείς προθέσεις μπορούν να γίνουν σαφείς μόνο όταν εξετάζονται πολλαπλές αλληλεπιδράσεις - όταν κακοί παράγοντες διερευνούν επανειλημμένα τις διασφαλίσεις, συντονίζονται μεταξύ λογαριασμών, συγκαλύπτουν απειλές ως έρευνα ρουτίνας ή όταν ένας πράκτορας AI συνεχίζει να ενεργεί αφού του ζητηθεί να σταματήσει.
Τα υπάρχοντα συστήματα ασφαλείας συμβατά με ZDR αξιολογούν κάθε αλληλεπίδραση ξεχωριστά, πράγμα που σημαίνει ότι οι κίνδυνοι που βασίζονται σε μοτίβα ξεφεύγουν. Οι πάροχοι που ανταποκρίθηκαν απαιτώντας διατήρηση έλυσαν ένα πρόβλημα δημιουργώντας ένα άλλο, αναγκάζοντας τους πελάτες να επιλέξουν μεταξύ της παρακολούθησης ασφάλειας και των δικών τους υποχρεώσεων απορρήτου.
Πώς λειτουργεί η Επεξεργασία Ιδιωτικής Ασφάλειας
Η προτεινόμενη ανάλυση του OpenAI είναι αρχιτεκτονική. Στο πλαίσιο της Επεξεργασίας Ιδιωτικής Ασφάλειας, το περιεχόμενο των πελατών παραμένει στην υποδομή που ελέγχει ο πελάτης — ή, σε μια επιλογή που βρίσκεται ακόμη σε εξέλιξη, αποθηκεύεται στην υποδομή OpenAI κρυπτογραφημένη με κλειδιά που ελέγχονται από τον πελάτη. Στη συνέχεια, τα αυτοματοποιημένα συστήματα αναλύουν μοτίβα σε σχετικές αλληλεπιδράσεις και επιστρέφουν "περιορισμένα σήματα ασφαλείας" - σημαίες για πιθανή κακή χρήση - χωρίς να εκθέτουν τις υποκείμενες προτροπές ή απαντήσεις στο προσωπικό του OpenAI.
Οι πελάτες διερευνούν τις ειδοποιήσεις χρησιμοποιώντας πληροφορίες που είναι διαθέσιμες στα δικά τους συστήματα. Εάν θέλουν να ασκήσουν έφεση σε μια απόφαση επιβολής, να διευκρινίσουν τη νόμιμη δραστηριότητα ή να υποστηρίξουν μια έρευνα για επαληθευμένη κατάχρηση, μπορούν να επιλέξουν να μοιραστούν σχετικές πληροφορίες με το OpenAI. Το απόρρητο, με άλλα λόγια, γίνεται η προεπιλεγμένη και η αποκάλυψη επιλογή του πελάτη.
Το σύστημα αυτή τη στιγμή δοκιμάζεται με τους πρώτους πελάτες. Η OpenAI λέει ότι σκοπεύει να ξεκινήσει να κυκλοφορεί το Private Safety Processing και να δημοσιεύσει μια τεχνική λευκή βίβλο τον Σεπτέμβριο.
Η επιχειρηματική εμπιστοσύνη ως αγορά
Η ανακοίνωση έφτασε με μια μαρτυρία πελάτη που μοιάζει με επιχείρημα προμήθειας. «Η υιοθέτηση της επιχειρηματικής τεχνητής νοημοσύνης εξαρτάται αποκλειστικά από τον έλεγχο των δεδομένων από τον πελάτη, χωρίς άμεση ή παράγωγη χρήση πέραν της επιλεγμένης υπηρεσίας», δήλωσε ο Sunil Agrawal, Chief Information Security Officer της Glean, του οποίου το απόφθεγμα OpenAI δημοσίευσε παράλληλα με την ανάρτηση. «Καθώς τα μοντέλα γίνονται πιο ικανά, το OpenAI δείχνει ότι η ασφάλεια μπορεί να προχωρήσει χωρίς να θέτει σε κίνδυνο το απόρρητο και τον έλεγχο που υποστηρίζουν την εμπιστοσύνη των επιχειρήσεων».
Το OpenAI πλαισιώνει την προεπισκόπηση ως απάντηση στη ζήτηση, λέγοντας ότι ακούγεται από τους πελάτες «φωναχτά και ξεκάθαρα ότι χρειάζονται προβλεψιμότητα για το πώς θα προστατεύεται το περιεχόμενό τους καθώς τα συστήματα AI γίνονται πιο ικανά». Η εταιρεία προσθέτει ότι η προσέγγιση διαμορφώνεται από πελάτες «σε όλες τις βιομηχανίες, τις περιφέρειες και τα μεγέθη εταιρειών» και ότι θα κρατά ενήμερους τους πελάτες με αρκετό χρόνο παράδοσης για να προγραμματίσουν την ανάπτυξη γύρω από τις αλλαγές.
Η συζήτηση αυτή θα πυροδοτήσει
Οι ερευνητές ασφάλειας έχουν υποστηρίξει εδώ και καιρό ότι η ορατότητα των μοτίβων χρήσης είναι απαραίτητη για τη σύλληψη της κακής χρήσης προτού προκαλέσει βλάβη, και ορισμένοι θα αμφισβητήσουν εάν η αυτοματοποιημένη, κρυπτογραφημένη ανάλυση μπορεί να ταιριάζει με την ποιότητα ανίχνευσης της ανθρώπινης εξέτασης. Οι υποστηρικτές του απορρήτου, εν τω μεταξύ, θα καλωσορίσουν μια αρχιτεκτονική που αντιμετωπίζει την πρόσβαση στα δεδομένα πελατών ως απόφαση πελάτη και όχι ως προνόμιο του παρόχου.
Αυτό που είναι ξεκάθαρο είναι ότι η διακυβέρνηση δεδομένων έχει μετακινηθεί από τα νομικά ψιλά γράμματα στο κέντρο του ανταγωνισμού AI. Καθώς τα συνοριακά μοντέλα αναλαμβάνουν μεγαλύτερες, πιο αυτόνομες εργασίες σε ρυθμιζόμενες βιομηχανίες, το ερώτημα ποιος μπορεί να δει τα ίχνη που αφήνουν πίσω τους τα συστήματα —ο πελάτης, ο πάροχος ή κανένας— γίνεται ο πρωταρχικός άξονας στον οποίο κερδίζονται και χάνονται οι επιχειρηματικές συμφωνίες AI. Το OpenAI έχει πλέον ξεκαθαρίσει την απάντησή του και θέτει τους αντιπάλους του στη θέση να υπερασπίζονται τους δικούς τους.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
