Una settimana dopo che OpenAI ha rilasciato 722 manoscritti matematici scritti da un modello di intelligenza artificiale inedito, la comunità della crittografia sta discutendo su una domanda che molte persone avevano archiviato come fantascienza: un sistema di intelligenza artificiale potrebbe eventualmente rompere la crittografia che protegge Internet? Secondo un rapporto di Scientific American gli esperti sono realmente divisi.
Il dibattito nasce dal rilascio da record di OpenAI, in cui ogni documento è stato scritto da un modello a cui il pubblico non può accedere. Il risultato è stato tutt’altro che impeccabile – OpenAI ha ritirato tre documenti in un giorno a causa di un errore di segno, e i matematici stanno ancora rivedendo il resto – ma la portata e l’incisività del lavoro hanno scosso i ricercatori che avevano ipotizzato che la matematica generata dalle macchine fosse lontana anni. Abbiamo coperto il rilascio iniziale dei 722 manoscritti e i successivi ritiri man mano che avvenivano.
La reazione della comunità matematica al rilascio stesso è stata combattiva: matematici di spicco, compresi i vincitori della medaglia Fields, hanno chiesto pubblicamente norme di verifica più severe per le dimostrazioni create dall'intelligenza artificiale, e il dibattito sulla crittografia è per molti versi un'estensione di tale argomento alla sicurezza applicata. Se non ci si può ancora fidare completamente della matematica generata dall’intelligenza artificiale, la domanda diventa quali parti dell’infrastruttura di fiducia possono permettersi di aspettare.
La preoccupazione del 15%.
La matematica è il fondamento della crittografia. Ogni messaggio crittografato e ogni accesso bancario si basa su un problema matematico ritenuto praticamente impossibile da risolvere. Matthew Green, un crittografo della Johns Hopkins University, ha espresso la sua preoccupazione in un post sui social media pochi giorni dopo il rilascio: vede circa il 15% di possibilità che il mondo possa perdere fiducia negli algoritmi di crittografia a chiave pubblica esistenti, i sistemi che consentono ai browser di stabilire connessioni sicure e verificare identità digitali senza condividere in anticipo una chiave segreta.
La paura ha precedenti storici. Un tempo i crittografi pensavano che le chiavi RSA a 512 bit fossero sicure, finché il setaccio dei campi numerici non ha reso notevolmente più semplice decifrarle e ha costretto l'industria ad allungare le chiavi: 2.048 bit è ora il minimo accettato. La preoccupazione di Green è che l'intelligenza artificiale possa trovare una scorciatoia simile nella crittografia a curva ellittica, che protegge gran parte del web e la maggior parte delle criptovalute, individuando strutture che gli esseri umani hanno mancato per decenni.
Gli scettici: nessuna prova di una svolta
Molti dei principali crittografi non vedono motivo di allarmarsi. Yehuda Lindell, professore alla Bar-Ilan University e responsabile della crittografia presso Coinbase, ha scritto che non esiste alcuna prova di una svolta contro i problemi matematici alla base della crittografia moderna. Dan Boneh, un professore di crittografia di Stanford, ha sottolineato che nessuno dei 722 articoli di OpenAI tratta di crittografia.
Govind Pimpale, ricercatore presso la Foundation for American Innovation, ha ammesso chiaramente lo stato attuale della situazione: nessun algoritmo attualmente utilizzato è stato violato dall’intelligenza artificiale. La sua preoccupazione è strutturale piuttosto che immediata: la crittografia a chiave pubblica si basa su una manciata di problemi matematici studiati da piccole comunità, e le macchine potrebbero dedicare a questi obiettivi ristretti uno sforzo molto maggiore di quanto abbiano mai fatto i ricercatori umani.
Cosa mostrano effettivamente le prove
I dati più concreti provengono da un recente preprint di Florian Tramèr, informatico dell'ETH di Zurigo, e colleghi, tra cui tre ricercatori di Anthropic. Il team ha confrontato i principali modelli di intelligenza artificiale con 191 sfide di violazione del codice e Tramèr ha affermato che è chiaro che la capacità di crittoanalisi dei modelli sta crescendo in modo estremamente rapido.
Altri ricercatori reindirizzano la preoccupazione verso i rischi a breve termine. Eyal Ronen dell'Università di Tel Aviv, coautore dello studio sulla crittoanalisi, ha osservato che l'intelligenza artificiale è già molto brava a individuare le vulnerabilità del software, una minaccia più immediata rispetto a ipotetiche violazioni della crittografia, dal momento che gli aggressori prendono nella stragrande maggioranza la strada più semplice disponibile, come rubare le chiavi da una macchina compromessa. Bart Preneel, professore di crittografia alla KU Leuven, ha aggiunto che la scala conta: anche un progresso matematico che ha reso gli attacchi un miliardo di volte più veloci potrebbe comunque renderli computazionalmente impraticabili contro sistemi adeguatamente configurati.
Perché la posta in gioco è così alta
La crittografia a chiave pubblica protegge silenziosamente le connessioni del browser, le firme degli aggiornamenti software, le transazioni di criptovaluta e le app di messaggistica. Una vera e propria rottura consentirebbe agli aggressori di impersonare banche, falsificare aggiornamenti software e leggere anni di traffico crittografato accumulato: si presume che le agenzie di intelligence stiano già tentando di contrastare le transizioni post-quantiche.
Anche un risultato parziale forzerebbe una dolorosa migrazione globale. Green ha avvertito che il processo di aggiornamento stesso potrebbe essere una catastrofe, sottolineando che le transizioni crittografiche pasticciate hanno storicamente introdotto nuove debolezze. Questo rischio è apparso evidente proprio questo mese, quando il sistema Claude Mythos di Anthropic ha identificato debolezze precedentemente sconosciute nelle implementazioni di crittografia, ricordando che gli stessi progressi dell’intelligenza artificiale che impressionano i matematici sono rivolti anche alla ricerca sulla sicurezza.
Per ora, il consenso rimane dove si trova di solito nella crittografia: nessun sistema implementato è rotto, ma il costo di presumere che duri per sempre è troppo alto per essere ignorato. Ciò che è cambiato questo mese è che il ritmo stesso della scoperta matematica è diventato la variabile sotto sorveglianza.
---
Stai al passo con l'intelligenza artificialeRicevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.
Leggi altre notizie sull'AI →
