Η Google DeepMind προσλαμβάνει μια ομάδα ειδικών σε πυρηνικά για να αξιολογήσει εάν τα μοντέλα τεχνητής νοημοσύνης συνόρων θα μπορούσαν να βοηθήσουν στην ανάπτυξη πυρηνικών όπλων, σύμφωνα με τις λίστες θέσεων εργασίας που αναφέρθηκαν για πρώτη φορά από τη βιομηχανική έκδοση Data Center Dynamics και καλύφθηκαν αυτή την εβδομάδα από το Futurism.
Οι καταχωρίσεις, που δημοσιεύονται στον ιστότοπο καριέρας της Google, αναζητούν "φυσικούς και πυρηνικούς μηχανικούς υψηλής ειδίκευσης" για το ρόλο του ειδικού σε θέματα πυρηνικών στην ομάδα Χημικών, Βιολογικών, Ραδιολογικών, Πυρηνικών και Εκρηκτικών Υψηλής Απόδοσης (CBRNE), η οποία ανήκει στον οργανισμό Υπεύθυνης Ανάπτυξης και Καινοτομίας της DeepMind. For more context on this story, see our ongoing more AI stories.
Τι ζητά πραγματικά η δουλειά
Η ελάχιστη μπάρα είναι απότομη. Οι υποψήφιοι χρειάζονται διδακτορικό σε έναν τομέα όπως η φυσική του πλάσματος ή η πυρηνική μηχανική — ή «ισοδύναμη πρακτική εμπειρία» — συν ένα ιστορικό συνεργασίας με κυβερνητικό εργαστήριο των ΗΠΑ και εξοικείωση με τομείς πολιτικής όπως η διαχείριση αποθεμάτων, η μη διάδοση, ο έλεγχος των όπλων ή η μείωση απειλών.
Τα προτιμώμενα προσόντα φτάνουν ακόμη περισσότερο: εμπειρία στην ασφάλεια τεχνητής νοημοσύνης, τεχνογνωσία σε υπολογιστικά μοντέλα, χρόνος εργασίας σε μεγάλες εγκαταστάσεις χρηστών λέιζερ και ικανότητα σχεδιασμού αξιολογήσεων ασφάλειας που είναι «αποδεδειγμένα αταξινόμητες και δεν ελέγχονται εξαγωγές με την ανάπτυξη επιστημονικών proxies διπλής χρήσης για θέματα όπλων».
Η αποζημίωση είναι σύμφωνη με τις απαιτήσεις των ειδικών. Η Google αναφέρει ένα εύρος μισθών από 174.000 $ έως 252.000 $, με ένα μπόνους 15% στην κορυφή.
Γιατί ένα εργαστήριο AI χρειάζεται ειδικούς στα όπλα
Η βασική ευθύνη είναι η αξιολόγηση της ασφάλειας των συνοριακών μοντέλων τεχνητής νοημοσύνης στον πυρηνικό τομέα. Ο κατάλογος περιγράφει το έργο ως αξιολόγηση "μοντέλου βοήθειας στη σχάση, σύντηξη και διάδοση θερμοπυρηνικών όπλων, υδροδυναμική ακτινοβολίας, μαγνητοϋδροδυναμική κ.λπ. με αποδεδειγμένα μη ταξινομημένο και μη ελεγχόμενο από τις εξαγωγές τρόπο."
Μετάφραση από τη γλώσσα δημοσίευσης θέσεων εργασίας: Η DeepMind θέλει ειδικούς που μπορούν να προσδιορίσουν εάν τα μοντέλα της είναι ικανά να παρέχουν ουσιαστική βοήθεια στην ανάπτυξη πυρηνικών όπλων — και να το κάνουν χωρίς οι ίδιες οι αξιολογήσεις να περάσουν τα όρια ταξινόμησης. Η αναφορά σε "επιστήμονες μεσολάβησης διπλής χρήσης" υποδηλώνει δοκιμές που βασίζονται σε παρακείμενα επιστημονικά προβλήματα, όπως η υδροδυναμική ακτινοβολίας, που αντιπροσωπεύουν ερωτήματα που αφορούν συγκεκριμένα όπλα που ένα μοντέλο δεν πρέπει να απαντά.
Οι τομείς φυσικής που ονομάζονται στην καταχώριση δεν είναι αυθαίρετοι. Η υδροδυναμική ακτινοβολίας και η μαγνητοϋδροδυναμική περιγράφουν πώς η ενέργεια και το πλάσμα συμπεριφέρονται κάτω από τις ακραίες συνθήκες που σχετίζονται με τη φυσική των πυρηνικών όπλων, γι' αυτό ακριβώς διπλασιάζονται ως ευαίσθητα θέματα: η ικανότητα σε αυτά τα πεδία είναι θεμελιώδης για το σχεδιασμό κεφαλών, ωστόσο η υποκείμενη επιστήμη δημοσιεύεται επίσης ανοιχτά στην έρευνα σύντηξης και αστροφυσικής. Η οικοδόμηση ερωτήσεων αξιολόγησης γύρω από τέτοιους "πληρεξούσιους" επιτρέπει στις ομάδες ασφαλείας να μετρήσουν εάν ένα μοντέλο μπορεί να πλοηγηθεί σε αυτή τη γνώση των ορίων χωρίς οι ίδιες οι αξιολογήσεις να αποτελούν κίνδυνο διάδοσης.
Η ανάγνωση της καταχώρισης από τον φουτουρισμό ήταν αμβλύ: υποδηλώνει ότι το κορυφαίο ερευνητικό εργαστήριο τεχνητής νοημοσύνης της Google αναμένει από τα μοντέλα της να αντιμετωπίσουν τελικά ερωτήματα με πραγματικό πυρηνικό περιεχόμενο και προσλαμβάνει την τεχνογνωσία που απαιτείται για να συλλάβει αυτή τη συμπεριφορά πριν έχει σημασία. Αυτό το πλαίσιο είναι εικαστικό - μια ώθηση προσλήψεων δείχνει ετοιμότητα, όχι απόδειξη ότι τα τρέχοντα μοντέλα μπορούν να παράγουν ενεργή καθοδήγηση όπλων - αλλά η κλίμακα των ειδικών απαιτήσεων υπογραμμίζει πόσο σοβαρά αντιμετωπίζει το εργαστήριο το σενάριο.
Μέρος μιας μεγαλύτερης κατασκευής ασφαλείας
Η πρόσληψη ταιριάζει με ένα μοτίβο που έχει καθορίσει τον κλάδο των εργαστηρίων συνόρων εδώ και χρόνια: εταιρείες τεχνητής νοημοσύνης που προσλαμβάνουν διαπιστευμένους εμπειρογνώμονες τομέα σε ακαδημαϊκούς κλάδους για να δοκιμάσουν τα μοντέλα τους. Αυτό που ξεκίνησε ως στρατιές επαληθευτών αντικειμένων για την εκπαίδευση μοντέλων έχει εξελιχθεί όλο και περισσότερο σε ειδικές ομάδες αξιολόγησης για τομείς καταστροφικού κινδύνου, με το CBRN μεταξύ των πιο ευαίσθητων.
Η ηγεσία της DeepMind κρούει δημόσια τον κώδωνα του κινδύνου. Την περασμένη εβδομάδα, η ηγεσία του εργαστηρίου προειδοποίησε ότι οι απόπειρες hacking με δυνατότητα τεχνητής νοημοσύνης θα πρέπει να αντιμετωπίζονται ως «πρώιμες προειδοποιητικές βολές» για μεγαλύτερους κινδύνους ασφαλείας, ανέφερε το Reuters, με προβλέψεις ότι η τεχνητή νοημοσύνη θα μπορούσε να επιτρέψει σημαντικά περιστατικά ασφαλείας εντός περίπου δύο ετών. Η δημιουργία μιας ομάδας αξιολόγησης ΧΒΡΠ είναι η λειτουργική εκδοχή αυτής της ρητορικής.
Η ώθηση έρχεται επίσης εν μέσω μιας περιόδου δομικών αλλαγών στις λειτουργίες τεχνητής νοημοσύνης της Google. Τον Αύγουστο, η εταιρεία αναμόρφωσε την ηγεσία της στην τεχνητή νοημοσύνη, με το Reuters και το CNBC να αναφέρουν ότι οι μακροχρόνιες αλλαγές στην ηγεσία μετακίνησαν τις λειτουργίες ευθύνης - και η Wall Street Journal ανέφερε ξεχωριστά ότι η Google μετέφερε μια ομάδα ευθύνης τεχνητής νοημοσύνης από το εργαστήριο DeepMind εξ ολοκλήρου ως μέρος αυτής της αλλαγής. Το γεγονός ότι η ομάδα CBRNE βρίσκεται τώρα σε έναν οργανισμό «Υπεύθυνης Ανάπτυξης και Καινοτομίας» δείχνει πώς ο μηχανισμός ασφάλειας έχει αναδιοργανωθεί — και επεκταθεί — ακόμη και όταν συνεχίζονται οι αναφορές για την αναδιάρθρωση.
Το Υποκείμενο Διακυβέρνησης
Υπάρχει επίσης μια διάσταση πολιτικής. Οι εταιρείες Frontier AI δέχονται αυξανόμενη πίεση από τις κυβερνήσεις να αποδείξουν ότι μπορούν να μετρήσουν και να ελέγξουν τις πιο επικίνδυνες δυνατότητες που μπορεί να αναπτύξουν τα συστήματά τους. Οι αξιόπιστες αξιολογήσεις σε πυρηνικούς και βιολογικούς τομείς γίνονται de facto απαίτηση για την αξιοπιστία του εργαστηρίου - το έργο ασφαλείας που οι ρυθμιστικές αρχές και τα εποπτικά όργανα ζητούν όλο και περισσότερο να δουν.
Υπό αυτό το πρίσμα, η πρόσληψη ατόμων που έχουν περάσει σταδιοδρομία εντός του κατεστημένου μη διάδοσης των πυρηνικών όπλων εξυπηρετεί δύο σκοπούς ταυτόχρονα: χτίζει την τεχνική ικανότητα για διεξαγωγή αυστηρών αξιολογήσεων και δανείζεται θεσμική νομιμότητα από τον υπάρχοντα κόσμο ελέγχου των όπλων.
Οι καταχωρίσεις παραμένουν ανοιχτές στον ιστότοπο καριέρας της Google. Είτε οι ρόλοι σηματοδοτούν προσοχή είτε ανταγωνιστική τοποθέτηση, ένα πράγμα είναι ξεκάθαρο: η εποχή κατά την οποία η ασφάλεια της τεχνητής νοημοσύνης ήταν δουλειά για τους γενικούς έχει τελειώσει.
_Αυτό το άρθρο βασίζεται σε αναφορές από το Data Center Dynamics and Futurism και στις δημόσιες λίστες θέσεων εργασίας του Google DeepMind._
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
