Google DeepMind sta assumendo un team di specialisti nucleari per valutare se i modelli di intelligenza artificiale di frontiera potrebbero aiutare nello sviluppo di armi nucleari, secondo gli annunci di lavoro riportati per la prima volta dalla pubblicazione di settore Data Center Dynamics e trattati questa settimana da Futurism.
Gli elenchi, pubblicati sul sito delle carriere di Google, cercano "fisici e ingegneri nucleari altamente qualificati" per il ruolo di esperti in materia nucleare nel team CBRNE (Chimico, Biologico, Radiologico, Nucleare e Esplosivi ad alto rendimento), che fa parte dell'organizzazione di sviluppo e innovazione responsabile di DeepMind. Per maggiori informazioni su questa storia, consulta la nostra aggiornamenti sull'intelligenza artificiale.
Cosa richiede effettivamente il lavoro
L’asticella minima è ripida. I candidati necessitano di un dottorato di ricerca in un campo come la fisica del plasma o l’ingegneria nucleare – o “esperienza pratica equivalente” – oltre a un’esperienza comprovata di collaborazione con un laboratorio del governo statunitense e familiarità con aree politiche tra cui la gestione delle scorte, la non proliferazione, il controllo degli armamenti o la riduzione delle minacce.
Le qualifiche preferite vanno ancora oltre: esperienza nella sicurezza dell'intelligenza artificiale, competenza nella modellazione computazionale, tempo trascorso lavorando presso le principali strutture per gli utenti di laser e capacità di progettare valutazioni di sicurezza che sono "dimostrabilmente non classificate e non controllate dall'esportazione sviluppando proxy scientifici a duplice uso per argomenti relativi alle armi".
La retribuzione è in linea con i requisiti specialistici. Google elenca una fascia salariale compresa tra $ 174.000 e $ 252.000, con un bonus del 15% in più.
Perché un laboratorio di intelligenza artificiale ha bisogno di esperti in armi
La responsabilità principale è valutare la sicurezza dei modelli di IA di frontiera nel settore nucleare. L'elenco descrive il lavoro come una valutazione di "modelli di assistenza nella fissione, fusione e proliferazione di armi termonucleari, idrodinamica delle radiazioni, magnetoidrodinamica, ecc. In modo manifestamente non classificato e non controllato dalle esportazioni".
Tradotto dal linguaggio degli annunci di lavoro: DeepMind vuole esperti che possano determinare se i suoi modelli sono in grado di fornire un aiuto significativo allo sviluppo di armi nucleari – e farlo senza che le valutazioni stesse oltrepassino i limiti di classificazione. Il riferimento ai “proxy scientifici a duplice uso” suggerisce test basati su problemi scientifici adiacenti, come l’idrodinamica delle radiazioni, che sostituiscono domande specifiche sulle armi a cui un modello non dovrebbe rispondere.
I domini fisici nominati nell'elenco non sono arbitrari. L’idrodinamica delle radiazioni e la magnetoidrodinamica descrivono come si comportano l’energia e il plasma nelle condizioni estreme rilevanti per la fisica delle armi nucleari, motivo per cui sono anche argomenti delicati: la competenza in questi campi è fondamentale per la progettazione delle testate, ma la scienza di base è anche pubblicata apertamente nella ricerca sulla fusione e sull’astrofisica. Costruire domande di valutazione attorno a tali "proxy" consente ai team di sicurezza di misurare se un modello può superare tale conoscenza di confine senza che le valutazioni stesse diventino un rischio di proliferazione.
La lettura della lista da parte del Futurismo è stata schietta: suggerisce che il principale laboratorio di ricerca sull'intelligenza artificiale di Google si aspetta che i suoi modelli alla fine affrontino domande con un reale contenuto nucleare, e sta assumendo le competenze necessarie per individuare quel comportamento prima che abbia importanza. Questa definizione è speculativa – una spinta alle assunzioni dimostra preparazione, non una prova che i modelli attuali possano produrre linee guida attuabili sulle armi – ma la portata dei requisiti specialistici sottolinea quanto seriamente il laboratorio tratti lo scenario.
Parte di un progetto di sicurezza più ampio
L’assunzione si adatta a un modello che definisce da anni il settore dei laboratori di frontiera: le aziende di intelligenza artificiale reclutano esperti di dominio con credenziali in tutte le discipline accademiche per testare sotto stress i loro modelli. Ciò che era iniziato come un esercito di fact-checker per l’addestramento dei modelli si è sempre più evoluto in team di valutazione dedicati per ambiti a rischio catastrofico, con CBRN tra i più sensibili.
La stessa leadership di DeepMind ha lanciato pubblicamente l'allarme. La settimana scorsa, la leadership del laboratorio ha avvertito che i tentativi di hacking abilitati dall’intelligenza artificiale dovrebbero essere trattati come “colpi di allarme precoce” di maggiori rischi per la sicurezza, ha riferito Reuters, con previsioni secondo cui l’intelligenza artificiale potrebbe consentire gravi incidenti di sicurezza entro circa due anni. La creazione di un gruppo di valutazione CBRN è la versione operativa di questa retorica.
La spinta arriva anche in un periodo di cambiamento strutturale nelle operazioni di intelligenza artificiale di Google. Ad agosto, la società ha rimescolato la sua leadership nel campo dell’intelligenza artificiale, con Reuters e CNBC che hanno riferito che i cambiamenti di leadership di lunga data hanno spostato le funzioni di responsabilità – e il Wall Street Journal ha riferito separatamente che Google ha trasferito un team di responsabilità dell’IA fuori dal laboratorio DeepMind interamente come parte di questo riassetto. Il fatto che il team CBRNE ora si trovi all’interno di un’organizzazione di “Sviluppo responsabile e innovazione” mostra come l’apparato di sicurezza sia stato riorganizzato – e ampliato – anche se continua la rendicontazione sulla ristrutturazione.
Il sottotesto della governance
Esiste anche una dimensione politica. Le aziende di intelligenza artificiale di frontiera sono sotto una crescente pressione da parte dei governi affinché dimostrino di poter misurare e controllare le capacità più pericolose che i loro sistemi potrebbero sviluppare. Valutazioni credibili nei settori nucleare e biologico stanno diventando un requisito de facto per la credibilità del laboratorio, il lavoro di sicurezza che le autorità di regolamentazione e gli organismi di supervisione chiedono sempre più di vedere.
Alla luce di ciò, assumere persone che hanno trascorso la loro carriera all’interno dell’establishment della non proliferazione ha due scopi contemporaneamente: sviluppa la capacità tecnica per eseguire valutazioni rigorose e prende in prestito la legittimità istituzionale dall’attuale mondo del controllo degli armamenti.
Gli annunci rimangono aperti sul sito delle opportunità di lavoro di Google. Sia che i ruoli segnalino cautela o posizionamento competitivo, una cosa è chiara: l’era in cui la sicurezza dell’IA era un lavoro per generalisti è finita.
_Questo articolo si basa sui report di Data Center Dynamics e Futurism e sugli annunci di lavoro pubblici di Google DeepMind._
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
