OpenAI ha annunciato lunedì un nuovo gruppo consultivo indipendente sulla matematica e l'intelligenza artificiale, ospitato presso l'Institute for Advanced Study (IAS) di Princeton, nel New Jersey, e ha rivelato che lo stesso modello interno alla base del contestato risultato di Navier-Stokes ha, secondo i suoi calcoli, risolto più di 100 ulteriori problemi aperti nella maggior parte delle aree della matematica.
Il gruppo ha lo scopo di offrire ai matematici un canale formale nella ricerca aziendale orientata alla matematica in un momento in cui la comunità di ricerca è apertamente frustrata dal modo in cui tali risultati vengono pubblicati. "Questo gruppo fungerà da ponte verso la comunità matematica e il pubblico più ampio, dando ai matematici una voce su come andare avanti", ha affermato OpenAI nel suo annuncio, come citato da TechCrunch. Per maggiori informazioni su questa storia, consulta la nostra aggiornamenti sull'intelligenza artificiale.
Una risposta alla reazione di Navier-Stokes
La creazione del gruppo consultivo segue l'improvvisa pubblicazione di una presunta soluzione al problema del Premio Millennio di Navier-Stokes, un risultato che ha sbalordito i matematici sia per la sua ambizione che per la velocità con cui è stato pubblicato. In pratica, il nuovo gruppo di OpenAI svolgerà principalmente un ruolo consultivo: valutare il significato dei nuovi risultati e coordinarne il rilascio, in modo che le presunte scoperte arrivino con il contesto e il controllo degli esperti piuttosto che come annunci a sorpresa.
Il controllo non si è fermato. Lunedì Scientific American ha pubblicato un articolo chiedendo "OpenAI ha risolto il problema sbagliato di Navier-Stokes?" – un riflesso di quanta incertezza circonda ancora questa affermazione anche tra i giornalisti scientifici che la seguono da vicino.
Many prominent mathematicians have taken issue with the frenzied pace of recent claims more broadly. All'inizio di questo mese, 25 matematici vincitori della medaglia Fields hanno firmato una lettera aperta sostenendo che i laboratori di intelligenza artificiale stanno minacciando il lavoro intellettuale dei matematici mentre competono per confrontarsi a vicenda con soluzioni a problemi famosi. La preoccupazione non è che i problemi vengano risolti, ma che una cultura secolare di pubblicazione attenta e verificata viene schiacciata dai laboratori che corrono per i titoli dei giornali.
Potere consultivo: con limiti rigidi
La struttura del gruppo tenta di bilanciare l'indipendenza con la chiara intenzione di OpenAI di mantenere il controllo della propria agenda di ricerca. I membri non verranno pagati. Possono offrire consigli non richiesti, rendere pubbliche le proprie opinioni e controllare i propri membri – disposizioni che conferiscono all’organismo una misura di indipendenza dalla società che lo ha creato.
Ma il gruppo non ha il potere di rallentare nulla. Come afferma il post di OpenAI, "il gruppo non sarà responsabile di consigliarci su come accelerare i nostri progressi interni in matematica".
L'Institute for Advanced Study ha sottolineato lo stesso punto nel suo stesso annuncio. "Anche se daremo consigli, non abbiamo potere decisionale in nessuna azienda di intelligenza artificiale e la responsabilità delle decisioni prese da qualsiasi azienda ricadrà su quell'azienda", ha affermato l'istituto in una nota.
Quella divisione del lavoro – consulenza senza autorità – è il compromesso che ha reso possibile la partnership. La IAS ottiene un posto al tavolo della matematica; OpenAI mantiene il volante.
Nove membri, poca sovrapposizione con la critica
Nove eminenti matematici sono stati nominati come membri iniziali del gruppo. In particolare, solo uno di loro - Camillo De Lellis della IAS - ha anche firmato la lettera delle medaglie Fields all'inizio di questo mese, un segno che OpenAI non ha semplicemente reclutato nella stanza i suoi critici più accaniti.
Se ciò conta dipende da ciò che il gruppo fa con la sua piattaforma. Its members can publicly disagree with the company, and the design invites them to. An advisory body that never voices dissent would settle the question of its value quickly.
Perché è importante
L’annuncio è l’ultimo punto critico in un dibattito su come i laboratori di intelligenza artificiale dovrebbero gestire le affermazioni scientifiche generate dalle macchine. Un modello che pretende di risolvere un problema del Premio del Millennio è un'affermazione straordinaria, e la principale lamentela della comunità matematica è procedurale: risultati di questa portata meritano verifica e pubblicazione misurata, non annunci di cicli di stampa.
La verifica è il vero collo di bottiglia. Una prova che richiede giorni per essere prodotta da un modello può richiedere mesi a esperti umani per essere verificata, e la matematica non dispone di un’infrastruttura di revisione paritaria progettata per tale asimmetria. Questo è esattamente il problema per cui il mandato del gruppo – valutare l’importanza e coordinare il rilascio – è stato concepito per affrontare, almeno in linea di principio.
La mossa di OpenAI riconosce queste critiche pur fermandosi ben prima di cedere il controllo. Il gruppo può conferire legittimità, coordinare il modo in cui vengono presentati i risultati e fornire agli esterni una piattaforma pubblica, ma la società mantiene la piena autorità su ciò che i suoi modelli perseguono e sulla rapidità con cui. L’affermazione di oltre 100 problemi risolti ora risiede in un organismo che può modellare il modo in cui viene annunciato, non se viene realizzato.
Se i matematici tratteranno il gruppo consultivo come un controllo significativo o come una foglia di fico dipenderà da ciò che accadrà dopo: se la prossima importante affermazione arriverà con l’imprimatur del gruppo e, cosa più importante, con prove che la comunità potrà effettivamente verificare.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
