Το προσωπικό του μικρού κυβερνητικού γραφείου των ΗΠΑ που είναι υπεύθυνο για τη δοκιμή της ασφάλειας των μοντέλων τεχνητής νοημοσύνης στα σύνορα κλήθηκε πρόσφατα να αναφέρεται ανεπίσημα σε γραφείο του Λευκού Οίκου, ανέφερε το Σάββατο το Associated Press, προκαλώντας νέες ανησυχίες για την ανεξαρτησία του κορυφαίου αξιολογητή ασφάλειας τεχνητής νοημοσύνης της χώρας.
Το γραφείο, το Center for Advancing Innovation and Standards for Super Intelligence - γνωστό ως CAISSI και στεγάζεται στο Υπουργείο Εμπορίου - σταμάτησε επίσης να δημοσιεύει την έρευνά του, σύμφωνα με το AP. Η έκθεση προσγειώνεται εν μέσω της αυξανόμενης ανησυχίας του κοινού για μια σειρά από ιστορίες σχετικά με ανεξέλεγκτους πράκτορες τεχνητής νοημοσύνης και περιγράφει έναν φύλακα που είναι ανεπαρκές, χωρίς ηγέτη και όλο και πιο ήσυχος. For more context on this story, see our ongoing AI trends.
Τι κάνει το CAISSI — και τι βρήκε το AP
Η CAISSI είναι επιφορτισμένη με την αξιολόγηση της ασφάλειας των νέων προσφορών τεχνητής νοημοσύνης πριν φτάσουν στο κοινό, μια εντολή που περιλαμβάνει την αξιολόγηση του πόσο καλά τα μοντέλα συνόρων αντιστέκονται στην κακή χρήση για κυβερνοεπιθέσεις και άλλες σοβαρές βλάβες. Σύμφωνα με το AP, το προσωπικό του κέντρου κλήθηκε «πρόσφατα» να παρουσιαστεί ανεπίσημα σε γραφείο του Λευκού Οίκου. Το ειδησεογραφικό πρακτορείο επικαλέστηκε δύο πρώην κυβερνητικούς αξιωματούχους με γνώση των συζητήσεων, οι οποίοι μίλησαν ανώνυμα για να προστατεύσουν τους σημερινούς υπαλλήλους. Ο Λευκός Οίκος δεν απάντησε σε συγκεκριμένες ερωτήσεις σχετικά με το κέντρο.
Η κλίμακα της επέμβασης είναι μέτρια. Το AP αναφέρει ότι η CAISSI λαμβάνει περίπου 10 εκατομμύρια δολάρια ετησίως - περίπου το ένα όγδοο από αυτά που λαμβάνει η αντίστοιχή της στο Ηνωμένο Βασίλειο, παρόλο που οι Ηνωμένες Πολιτείες είναι όπου κατασκευάζονται τα περισσότερα μοντέλα συνόρων.
Η άτυπη ρύθμιση αναφοράς είναι μόνο η τελευταία αναστάτωση στο κέντρο. Το AP περιγράφει ένα κενό ηγεσίας που εκτείνεται πριν από μήνες: ένας διευθυντής προσλήφθηκε τον Απρίλιο και απολύθηκε μέσα σε λίγες μέρες, η αντικατάστασή του διήρκεσε μερικούς μήνες πριν παραιτηθεί και ο επικεφαλής του μητρικού ινστιτούτου υπηρετεί επί του παρόντος ως αναπληρωτής διευθυντής. Στην πράξη, αυτό σημαίνει ότι κανείς με μόνιμη εντολή δεν υπερασπίζεται επί του παρόντος την ανεξαρτησία του κέντρου.
Ένας φύλακας που σταμάτησε να εκδίδει
Η πιο συνεπακόλουθη αλλαγή, σύμφωνα με το AP, είναι αυτό που δεν κάνει πλέον το κέντρο. Τον Αύγουστο, το Κογκρέσο ρώτησε γιατί η CAISSI σταμάτησε να δημοσιεύει δημοσίως αναφορές σχετικά με την απόδοση των συστημάτων τεχνητής νοημοσύνης στις δοκιμές ασφαλείας. Η δοκιμή πριν από την ανάπτυξη λειτουργεί ως δημόσιος έλεγχος στους κατασκευαστές μοντέλων μόνο εάν τα αποτελέσματά της είναι ορατά έξω από το εργαστήριο — και, προς το παρόν, δεν είναι.
Η στροφή δεν ήρθε από το πουθενά. Τον Οκτώβριο, το Reuters, επικαλούμενο δημοσίευμα της The Information, αποκάλυψε ότι η κυβέρνηση σχεδίαζε να μεταφέρει τρεις ανώτερους αξιωματούχους της CAISSI στον Λευκό Οίκο. Ένας αξιωματούχος του Λευκού Οίκου είπε στο The Information εκείνη την εποχή ότι τα προβλήματα συντονισμού με το Commerce έδειχναν την ανάγκη να φέρουμε την ηγεσία του κέντρου πιο κοντά στη λήψη αποφάσεων AI. Σύμφωνα με αυτή την αναφορά, οι αξιωματούχοι θα απαντούσαν στον Michael Kratsios, ο οποίος διευθύνει το Γραφείο Πολιτικής Επιστήμης και Τεχνολογίας, και τον National Cyber Director Sean Cairncross. Ο υπουργός Εμπορίου Χάουαρντ Λούτνικ είχε προσκαλέσει τους δύο να συνδιαχειρίζονται το κέντρο περίπου έξι μήνες νωρίτερα.
Διαβάστε μαζί, η νέα αναφορά του AP υποδηλώνει ότι το σχέδιο φτάνει στην πράξη — ανεπίσημα και πριν από οποιαδήποτε επίσημη αναδιάρθρωση.
Ανεξαρτησία, και στις δύο κατευθύνσεις
Οι επικριτές που επικαλείται το AP ανησυχούν ότι οι αποφάσεις που αφορούν την ασφάλεια στον κυβερνοχώρο και τον κίνδυνο βιολογικών όπλων θα μπορούσαν να πολιτικοποιηθούν ή ότι τα ευρήματα θα μπορούσαν να μαλακώσουν ώστε να ταιριάζουν στον κλάδο της τεχνολογίας. Ο Άμος Τοχ του Κέντρου Δικαιοσύνης Μπρέναν είπε στο AP ότι τέτοιες αποφάσεις έχουν τεράστια δημόσια συνέπεια και πρέπει να εξηγούνται δημόσια. Η Caroline Siegel Singh της Ομοσπονδίας Αμερικανών Επιστημόνων περιέγραψε κέντρα όπως το CAISSI ως ισχυρούς θεσμούς που μπορούν να βελτιώσουν δραστικά τη ζωή ή να κάνουν το αντίθετο.
Υπάρχει ένα αντεπιχείρημα και το AP δεν το απορρίπτει. Η αξιολόγηση της ικανότητας ενός μοντέλου να βοηθά στη σύνταξη κακόβουλου λογισμικού είναι ένα ζήτημα εθνικής ασφάλειας και μια διοίκηση που θέλει να είναι ορατή στο ποιος βλέπει αυτά τα αποτελέσματα έχει μια βάσιμη υπόθεση. Η δυσκολία είναι θεσμική: ένας διαιτητής που απαντά σε έναν από τους χορηγούς των ομάδων δεν είναι σε θέση να καλέσει το παιχνίδι απευθείας και το κέντρο σταμάτησε να δημοσιεύει αναφορές που διαφορετικά θα έδειχναν την ανεξαρτησία του.
Γιατί έχει σημασία για τους κατασκευαστές και τους αγοραστές
Για εταιρείες που βασίζονται σε μοντέλα συνόρων, ο πρακτικός κίνδυνος που προσδιορίζεται στην αναφορά δεν είναι απαγόρευση - είναι αβεβαιότητα. Εάν οι αξιολογήσεις παραμείνουν μυστικές και τροφοδοτούν τους ελέγχους των εξαγωγών και τις κρατικές προμήθειες, ένα εργαστήριο θα μπορούσε να χάσει μια σύμβαση ή μια αγορά με βάση ένα εύρημα που δεν μπορεί ποτέ να δει ή να αμφισβητήσει. Αυτός ο κίνδυνος θα μεταδιδόταν μέσω της αλυσίδας εφοδιασμού στα κατάντη προϊόντα χωρίς καμία προειδοποίηση.
Δύο πράγματα αξίζει να παρακολουθήσετε στη συνέχεια. Το πρώτο είναι αν η διοίκηση ορίζει μόνιμο διευθυντή για το κέντρο και ποιος τους επιλέγει. Το δεύτερο είναι εάν το Κογκρέσο, το οποίο έχει ήδη πιέσει το κέντρο για τη σιωπή του για τις δημοσιευμένες αναφορές, κινείται για να γράψει την ανεξαρτησία του κέντρου σε νόμο. Μέχρι να συμβεί κάποιο από τα δύο, ο συνοριακός διαιτητής ασφάλειας τεχνητής νοημοσύνης της Αμερικής λειτουργεί με προϋπολογισμό 10 εκατομμυρίων δολαρίων, χωρίς μόνιμο ηγέτη και μια γραμμή αναφοράς που κατευθύνεται προς τον Λευκό Οίκο.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
