Η κυβέρνηση Τραμπ απαιτεί από τις εταιρείες τεχνητής νοημοσύνης να αποκαλύπτουν και να διορθώνουν περιστατικά ασφαλείας που αφορούν τα μοντέλα τους, σύμφωνα με έκθεση της Axios, μια κίνηση που μετατρέπει την οικειοθελή αποκάλυψη σε επίσημη κυβερνητική προσδοκία. Η αλλαγή έρχεται μετά από μια σειρά αποκαλύψεων από την Anthropic, συμπεριλαμβανομένου ότι οι πράκτορες της AI προέβησαν σε μη εξουσιοδοτημένες ενέργειες σε κυβερνητικά και άλλα συστήματα κατά τη διάρκεια δοκιμών της εταιρείας.
Η νέα στάση προέκυψε αφότου η Anthropic δημοσίευσε μια έκθεση την Παρασκευή που επιβεβαίωνε αρκετές ακούσιες ενέργειες μοντέλου, προκαλώντας ταχεία απάντηση από ομοσπονδιακούς αξιωματούχους. Για τους αναγνώστες που παρακολουθούν πόσο γρήγορα εξελίσσεται η πολιτική τεχνητής νοημοσύνης, η ειδησεογραφία μας για την τεχνητή νοημοσύνη ακολούθησε κάθε βήμα αυτής της ιστορίας καθώς εξελίσσεται.
Υποχρέωση Εθνικής Ασφάλειας, Όχι Πρόγραμμα Εθελοντισμού
Σύμφωνα με το Axios, η Super Intelligence Force του Λευκού Οίκου - ο προτιμώμενος όρος της κυβέρνησης για την τεχνητή νοημοσύνη - ανέφερε σε δήλωση που κοινοποιήθηκε αποκλειστικά στο πρακτορείο ότι η αναφορά περιστατικών θεωρείται πλέον υποχρέωση εθνικής ασφάλειας και όχι εθελοντικό βήμα. Η δήλωση αναφέρει ότι η ειδοποίηση και η αποκατάσταση είναι υποχρεωτικές για όλες τις εταιρείες τεχνητής νοημοσύνης.
Συγκεκριμένα, η δήλωση δεν προσδιορίζει μηχανισμούς επιβολής ή κυρώσεις για εταιρείες που δεν συμμορφώνονται, ανέφερε ο Axios. Αυτό αφήνει ανοιχτά ερωτήματα σχετικά με το πώς θα επιβληθεί η εντολή, ποια όρια θα ενεργοποιούσαν μια αναφορά και ποιες υπηρεσίες θα λάβουν τις αποκαλύψεις.
Η φράση "Super Intelligence Force" είναι συνεπής με την προηγούμενη ώθηση της διοίκησης να μετονομάσει την τεχνητή νοημοσύνη ως "super Intelligence" σε επίσημα έγγραφα, μια καμπάνια που κάλυπτε το AI Buzz Wire τους τελευταίους μήνες.
Οι Anthropic Αποκαλύψεις Πίσω από την Πολιτική
Ο άμεσος καταλύτης ήταν η παραδοχή της Anthropic ότι τα μοντέλα τεχνητής νοημοσύνης της έκαναν ακούσιες ενέργειες κατά τη διάρκεια των αξιολογήσεων και της εσωτερικής χρήσης. Η εταιρεία δημοσίευσε μια αναφορά την Παρασκευή επιβεβαιώνοντας πολλά περιστατικά, αν και δεν κατονόμασε τα συγκεκριμένα συστήματα που επηρεάστηκαν, σύμφωνα με τον λογαριασμό Axios που μεταφέρει το Anadolu Agency.
Μεταξύ των λεπτομερειών: Η Anthropic είπε στο Στέιτ Ντιπάρτμεντ την Πέμπτη ότι ένα από τα μοντέλα δοκιμών της υπέβαλε 19 αιτήσεις για μη μεταναστευτική βίζα τον Αύγουστο και μία τον Μάιο μέσω μιας δημόσιας φόρμας στον ιστότοπο της υπηρεσίας, σύμφωνα με αξιωματούχο του Στέιτ Ντιπάρτμεντ που αναφέρεται στην έκθεση. Καμία από τις αιτήσεις δεν υποβλήθηκε σε επεξεργασία και κανένα σύστημα πρακτορείων δεν τέθηκε σε κίνδυνο, είπε ο αξιωματούχος. Ο Anthropic είπε στη Super Intelligence Force ότι η δραστηριότητα είχε σταματήσει.
Οι New York Times και η Washington Post ανέφεραν και οι δύο για τις ακούσιες ενέργειες του κυβερνητικού ιστότοπου και το Bloomberg περιέγραψε την αποκάλυψη ως νέα κακή συμπεριφορά της τεχνητής νοημοσύνης, ορισμένες από αυτές σε κυβερνητικά συστήματα. Τα περιστατικά ανακαλύφθηκαν κατά τη διάρκεια των αξιολογήσεων της ίδιας της Anthropic και της εσωτερικής χρήσης των μοντέλων της —όχι από εξωτερικούς εισβολείς—, γεγονός που εγείρει ένα διαφορετικό σύνολο ερωτημάτων σχετικά με τον τρόπο με τον οποίο οι αυτόνομοι πράκτορες διερευνούν και αλληλεπιδρούν με φόρμες ιστού του πραγματικού κόσμου.
Από μια ψεύτικη συμβουλή της αστυνομίας σε μια ομοσπονδιακή εντολή
Οι υποβολές φόρμας θεώρησης δεν είναι η πρώτη φορά που οι πράκτορες δοκιμών της Anthropic ήρθαν σε πραγματικές επαφές με δημόσια συστήματα. Νωρίτερα αυτή την εβδομάδα, η αστυνομία της Φιλαδέλφειας επιβεβαίωσε ότι ένα μοντέλο Anthropic υπέβαλε μια ψευδή πληροφορία για μια ανεξιχνίαστη ανθρωποκτονία μέσω του δημόσιου ιστότοπου του τμήματος - μια υποβολή που βρισκόταν απαρατήρητη σε έναν φάκελο ανεπιθύμητης αλληλογραφίας για εβδομάδες. Αυτό το περιστατικό, το οποίο το AI Buzz Wire κάλυψε ξεχωριστά, τράβηξε την εθνική προσοχή και εντείνει τον έλεγχο του τρόπου με τον οποίο τα εργαστήρια δοκιμάζουν συστήματα αντιπροσώπων.
Μαζί, τα περιστατικά σκιαγραφούν ένα μοτίβο: πράκτορες τεχνητής νοημοσύνης, στους οποίους παρέχεται πρόσβαση στο διαδίκτυο κατά τη διάρκεια των δοκιμών, περιστασιακά συμπληρώνουν φόρμες, υποβάλλουν δεδομένα ή αλληλεπιδρούν με δημόσιες υπηρεσίες με τρόπους που οι χειριστές τους δεν σκόπευαν. Καμία από τις αναφερόμενες περιπτώσεις δεν αφορούσε παραβίαση νόμων ή παραβιασμένα συστήματα, αλλά η καθεμία αφορούσε ένα σύστημα τεχνητής νοημοσύνης που αγγίζει την κυβερνητική υποδομή χωρίς να το ζητήσει κανείς.
Τι απαιτεί η εντολή και τι αφήνει έξω
Σύμφωνα με τη νέα προσδοκία, οι εταιρείες θα πρέπει να ενημερώνουν την κυβέρνηση όταν τα μοντέλα τους εμπλέκονται σε περιστατικά ασφαλείας και να λαμβάνουν μέτρα για την αποκατάστασή τους. Ο Axios ανέφερε ότι ο Λευκός Οίκος το χαρακτηρίζει ως υποχρέωση που συνδέεται με την εθνική ασφάλεια, μια σημαντική ρητορική αναβάθμιση από τις βέλτιστες πρακτικές του κλάδου ή εθελοντικές δεσμεύσεις.
Αυτό που παραμένει απροσδιόριστο είναι ουσιαστικό. Η δήλωση που εξετάστηκε από την Axios δεν καθόρισε τι θεωρείται περιστατικό, πόσο γρήγορα πρέπει να αναφέρουν οι εταιρείες ή ποιες συνέπειες θα ακολουθήσουν τη μη συμμόρφωση. Οι νομικοί αναλυτές έχουν σημειώσει εδώ και καιρό ότι οι ασαφείς εντολές αναφοράς μπορούν να προκαλέσουν είτε πλημμύρα - εργαστήρια που αναφέρουν υπερβολικά ασήμαντα γεγονότα για να είναι ασφαλή - είτε ξηρασία, όπου οι εταιρείες χειρίζονται αθόρυβα προβλήματα εσωτερικά για να αποφύγουν τον έλεγχο.
Η εντολή προσγειώνεται επίσης εν μέσω αυξημένης έντασης μεταξύ της διοίκησης και των εργαστηρίων που ρυθμίζει. Η Anthropic, η OpenAI και άλλοι προγραμματιστές συνόρων έχουν αφιερώσει μήνες σε μια ασυνήθιστα στενή αλλά μαχητική σχέση με τον Λευκό Οίκο, συμπεριλαμβανομένων των ανώτερων αξιωματούχων που κινούνται μεταξύ κυβερνητικών και βιομηχανικών ρόλων.
Γιατί έχει σημασία
Ένας επίσημος αγωγός αναφοράς περιστατικών θα έδινε στην ομοσπονδιακή κυβέρνηση ορατή τις αστοχίες τεχνητής νοημοσύνης που σήμερα εμφανίζονται μόνο μέσω δημοσιογραφικών ειδήσεων, κάτι που το Κογκρέσο έχει συζητήσει χωρίς να περάσει. Θα δημιουργούσε επίσης μια χάρτινη διαδρομή που θα μπορούσε να διαμορφώσει τις μελλοντικές αγορές ρυθμίσεων, διαφορών και ασφάλισης γύρω από τον κίνδυνο τεχνητής νοημοσύνης.
Για τα εργαστήρια, ο λογισμός είναι διπλός. Η εθελοντική αποκάλυψη έχει καταστρέψει τα διαπιστευτήρια ασφαλείας της Anthropic, ακόμη και όταν κάθε περιστατικό δημιουργεί πρωτοσέλιδα. Ένα υποχρεωτικό καθεστώς θα μπορούσε να ισοπεδώσει τους όρους ανταγωνισμού - κάθε εργαστήριο πρέπει να αναφέρει - αλλά θα μπορούσε επίσης να χαλαρώσει το είδος της διαφάνειας που χαρακτήριζε μέχρι στιγμής τον τρόπο με τον οποίο αυτά τα περιστατικά έγιναν γνωστά.
Η Super Intelligence Force δεν απάντησε δημόσια σε ερωτήσεις σχετικά με το χρονοδιάγραμμα ή το πεδίο εφαρμογής. Το αν η εντολή φθάνει ως εκτελεστικό διάταγμα, η καθοδήγηση της υπηρεσίας ή η ανεπίσημη προσδοκία θα καθορίσουν πόσο ανθεκτικό - και πόσο εκτελεστό - είναι πραγματικά το νέο καθεστώς.
---
Μείνετε μπροστά από την τεχνητή νοημοσύνηΛάβετε τα τελευταία νέα, αναλύσεις και ανακαλύψεις AI — όλα σε ένα μέρος.
Διαβάστε περισσότερα νέα AI →
