Uma onda de advertências públicas de dentro da Anthropic se intensificou esta semana, quando vários pesquisadores da empresa de IA ecoaram a avaliação apocalíptica de inteligência artificial de um ex-colega – atraindo uma resposta desdenhosa de Elon Musk, que sugeriu que o clamor era uma "operação psicológica" coordenada.
De acordo com o The Guardian, a escalada ocorreu um dia depois que o pesquisador da Anthropic, Jacob Coxon, anunciou sua demissão em uma postagem viral, escrevendo que nem a Anthropic nem a OpenAI – seu antigo empregador – estavam construindo modelos de IA de forma responsável e estavam “jogando com nossas vidas”. Em vez de desaparecer, a controvérsia cresceu à medida que a atual equipe da Anthropic postou suas próprias avaliações terríveis em apoio. Para mais contexto sobre esta história, confira nossa cobertura da indústria de IA.
Os avisos se acumulam
Anna Wang, que trabalha com segurança de inteligência artificial geral na Anthropic e anteriormente trabalhou na DeepMind do Google, disse na quinta-feira que muitas pessoas na empresa querem desacelerar o desenvolvimento para planejar os riscos representados por modelos cada vez mais capazes.
“Ainda não existe um plano científico viável para resolver os riscos do autoaperfeiçoamento recursivo da IA”, escreveu Wang no X.
Outro funcionário da Anthropic, Drake Thomas, disse que respeitava a decisão de Coxon de se afastar da construção da tecnologia. “As coisas estão acontecendo muito rápido, não temos nem perto do grau de segurança que desejamos para a ASI [superinteligência artificial]”, escreveu Thomas.
Samuel Marks, que trabalha em pesquisas de segurança na empresa, argumentou que as preocupações são amplamente compartilhadas dentro da indústria – e que a antiguidade está correlacionada com o alarme. “Os desenvolvedores de IA acreditam que sua tecnologia pode causar a extinção humana (ou resultados igualmente ruins)”, escreveu Marks. “Isso pode acontecer nos próximos anos. Em geral, quanto mais antigo o funcionário, mais preocupado ele fica.”
Evan Hubinger, que se descreve como um líder na divisão de alinhamento da Antrópica, foi mais longe. “Nós realmente acreditamos sinceramente que a IA poderia matar todos os humanos!” Hubinger escreveu, acrescentando que ele pessoalmente coloca a probabilidade acima de 10% na próxima década.
As notas do Insider seguem a reportagem da CBS News de que um pesquisador antrópico atribuiu uma chance superior a 10% à IA de causar a extinção humana, e a cobertura do The Japan Times de que os avisos renovaram os apelos por novas regras de IA nos Estados Unidos.
Musk: 'Parece uma configuração'
Elon Musk assumiu uma visão fortemente contraditória. “Parece uma armação”, escreveu o homem mais rico do mundo no X, sua própria plataforma social.
Coxon respondeu com uma selfie: “Eu sou real e essas são minhas verdadeiras crenças. Você poderia perguntar sobre mim aos seus pesquisadores xAI se não os tivesse demitido”.
Musk e outras vozes simpáticas amplificaram uma teoria defendida por Parker Thayer, pesquisador do think tank conservador Capital Research, que sugeriu – com poucas evidências, observa o The Guardian – que a postagem de Coxon foi o movimento de abertura de uma “operação de relações públicas MUITO sofisticada e bem financiada para obter apoio para os democratas regularem a IA até o esquecimento”.
O gerente bilionário de fundos de hedge Bill Ackman citou a postagem de Thayer com uma resposta de uma palavra: “Interessante”.
Musk elaborou mais tarde. “Acho que a base para esta operação psicológica (por falta de termo melhor) já está preparada há muito tempo”, postou. "Este foi apenas o fósforo que acendeu o fogo."
Anthropic defende sua abordagem
Presa entre as advertências de seus próprios funcionários e ataques externos, a Anthropic ofereceu uma resposta pública comedida.
“Sempre fomos transparentes quanto ao facto de a IA trazer enormes benefícios e riscos sem precedentes”, disse um porta-voz da empresa ao The Guardian. “Para enfrentar esses riscos, continuamos a construir modelos com algumas das salvaguardas mais fortes do setor.”
A empresa destacou seu histórico de documentação e interrupção do uso indevido. No mesmo dia em que os avisos se tornaram virais, a Anthropic divulgou o seu relatório de inteligência sobre ameaças de setembro, que detalhou como a empresa desmantelou uma operação que tentava construir uma arma biológica usando os seus modelos de IA – juntamente com campanhas interrompidas que abrangem ataques cibernéticos e operações de influência. A Al Jazeera e a BBC estavam entre os meios de comunicação que destacaram as descobertas sobre armas biológicas na sexta-feira.
Os céticos veem um risco diferente
Nem todo mundo aceita o enquadramento da extinção. Gary Marcus, o cientista e crítico de longa data da IA, argumentou que a tecnologia já está a causar danos que justificam acção independentemente dos cenários de superinteligência – apelando a um boicote à IA relativamente aos danos actuais.
Mais do que a extinção, Marcus disse ao The Guardian que se preocupava com o “risco de catástrofe” de “patógenos gerados pela IA, de guerras iniciadas ou agravadas pela desinformação gerada pela IA, de hacks que destroem infra-estruturas críticas, e assim por diante.
A sua posição sublinha uma divisão dentro do próprio debate sobre segurança da IA: entre aqueles que se concentram no risco a longo prazo, à escala da civilização, dos sistemas futuros, e aqueles que se concentram nos danos concretos dos modelos actuais.
Um debate que se recusa a permanecer interno
O que começou como uma carta de demissão de um investigador tornou-se num referendo público sobre a forma como a indústria da IA está a construir os seus sistemas mais poderosos. Dentro da Anthropic, os funcionários estão debatendo abertamente se os seus próprios prazos para o desenvolvimento seguro não foram cumpridos. Fora dela, os avisos estão a ser transformados numa luta política cada vez mais polarizada sobre se e como os governos devem intervir.
A reportagem do The Guardian sugere que muitos funcionários da Anthropic partilham estas preocupações em privado, mas não falam publicamente. Se mais deles seguirem Coxon, Wang, Thomas, Marks e Hubinger, a pressão sobre os principais laboratórios de IA para desacelerarem – e sobre os reguladores para agirem – só aumentará.
_Este artigo é baseado em reportagens do The Guardian, com contexto adicional da CBS News, The Japan Times, Al Jazeera e BBC._
---
Fique à Frente da IAAs últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.
Ler mais notícias de IA →
