A OpenAI anunciou na segunda-feira um novo Grupo Consultivo independente em Matemática e Inteligência Artificial, sediado no Instituto de Estudos Avançados (IAS) em Princeton, Nova Jersey - e revelou que o mesmo modelo interno por trás do resultado contestado de Navier-Stokes, por conta própria, resolveu mais de 100 problemas abertos adicionais na maioria das áreas da matemática.
O objetivo do grupo é dar aos matemáticos um canal formal para a pesquisa matemática da empresa, num momento em que a comunidade de pesquisa está abertamente frustrada com a forma como esses resultados estão sendo divulgados. “Este grupo servirá como uma ponte para a comunidade matemática e para o público em geral, dando aos matemáticos uma voz na forma como avançamos”, disse a OpenAI em seu anúncio, citado pelo TechCrunch. Para mais contexto sobre esta história, confira nossa notícias de IA.
Uma resposta à reação de Navier-Stokes
A criação do grupo consultivo segue-se à publicação abrupta de uma alegada solução para o problema do Prémio Navier-Stokes Millennium, um resultado que surpreendeu os matemáticos tanto pela sua ambição como pelo ritmo do seu lançamento. Na prática, o novo grupo da OpenAI desempenhará principalmente um papel consultivo: avaliando a importância de novos resultados e coordenando a sua divulgação, para que os supostos avanços cheguem com contexto e escrutínio especializado, e não como anúncios surpresa.
O escrutínio não diminuiu. A Scientific American publicou um artigo na segunda-feira perguntando "A OpenAI resolveu o problema errado de Navier-Stokes?" — um reflexo da incerteza que ainda rodeia esta afirmação, mesmo entre os jornalistas científicos que a acompanham de perto.
Muitos matemáticos proeminentes questionaram o ritmo frenético das recentes afirmações de forma mais ampla. No início deste mês, 25 matemáticos vencedores da Medalha Fields assinaram uma carta aberta argumentando que os laboratórios de IA estão a ameaçar o trabalho intelectual dos matemáticos enquanto competem entre si com soluções para problemas famosos. A preocupação não é que os problemas sejam resolvidos – é que uma cultura centenária de publicação cuidadosa e verificada esteja a ser esmagada por laboratórios que correm pelas manchetes.
Poder consultivo - com limites rígidos
A estrutura do grupo tenta equilibrar a independência com a intenção clara da OpenAI de manter o controlo da sua agenda de investigação. Os membros não serão pagos. Eles podem oferecer conselhos não solicitados, tornar públicas as suas opiniões e controlar a sua própria adesão – disposições que dão ao órgão uma medida de independência em relação à empresa que o criou.
Mas o grupo não tem poder para desacelerar nada. Como afirma a postagem da OpenAI, “o grupo não será responsável por nos aconselhar sobre como acompanhar nosso progresso interno em matemática”.
O Instituto de Estudos Avançados foi enfático no mesmo ponto no seu próprio anúncio. “Embora possamos aconselhar, não temos poder de decisão em nenhuma empresa de IA, e a responsabilidade pelas decisões tomadas por qualquer empresa caberá a essa empresa”, afirmou o instituto em comunicado.
Essa divisão do trabalho – aconselhamento sem autoridade – é o compromisso que tornou possível a parceria. O IAS consegue um lugar na mesa da matemática; OpenAI mantém o volante.
Nove membros, pouca sobreposição com os críticos
Nove matemáticos proeminentes foram nomeados como membros iniciais do grupo. Notavelmente, apenas um deles – Camillo De Lellis do IAS – também assinou a carta dos Medalhistas Fields no início deste mês, um sinal de que a OpenAI não recrutou simplesmente os seus críticos mais ruidosos para a sala.
A importância disso depende do que o grupo faz com sua plataforma. Seus membros podem discordar publicamente da empresa, e o design os convida a isso. Um órgão consultivo que nunca expresse dissidência resolveria rapidamente a questão do seu valor.
Por que é importante
O anúncio é o mais recente ponto crítico num debate sobre como os laboratórios de IA devem lidar com afirmações científicas geradas por máquinas. Um modelo que pretende resolver um problema do Prémio Milénio é uma afirmação extraordinária, e a principal reclamação da comunidade matemática é processual: resultados desta magnitude merecem verificação e divulgação comedida, e não anúncios de ciclos de imprensa.
A verificação é o verdadeiro gargalo. Uma prova que leva dias para ser produzida por um modelo pode levar meses para ser verificada por especialistas humanos, e a matemática não possui uma infraestrutura de revisão por pares projetada para essa assimetria. É precisamente para esse problema que o mandato do grupo – avaliar a importância e coordenar a divulgação – foi concebido para resolver, pelo menos em princípio.
A ação da OpenAI reconhece essas críticas, mas não chega a conceder o controle. O grupo pode conferir legitimidade, coordenar a forma como os resultados são apresentados e dar a quem está de fora uma plataforma pública – mas a empresa mantém total autoridade sobre o que os seus modelos procuram e com que rapidez. A alegação de mais de 100 problemas resolvidos agora cabe a um corpo que pode moldar a forma como é anunciado, e não se é feito.
Se os matemáticos tratarão o grupo consultivo como uma verificação significativa ou como uma folha de parreira, dependerá do que acontecerá a seguir: se a próxima afirmação importante chegará com o aval do grupo e – mais importante – com provas que a comunidade possa realmente verificar.
---
Fique à Frente da IAAs últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.
Ler mais notícias de IA →
