O CEO da Anthropic, Dario Amodei, revelou que sobreviveu ao câncer em estágio inicial e combinou a divulgação com uma previsão caracteristicamente ousada: a inteligência artificial poderia ajudar a curar a maioria das doenças graves nos próximos cinco a dez anos – um cronograma que vai aproximadamente até 2036.
Os detalhes pessoais aparecem no ensaio de Amodei “We Must Pace the Frontier”, publicado no sábado no seu site pessoal, o mesmo manifesto em que apelou às empresas de IA para abrandarem o ritmo a que melhoram os modelos de fronteira. De acordo com o Yahoo Finance, Amodei escreveu que se ele tivesse desenvolvido o câncer cinquenta anos antes, não teria sido tratável – e que seu pai morreu de uma doença que foi curada apenas alguns anos após sua morte. “Eu pessoalmente sinto a urgência”, escreveu ele. Para um resumo completo dos movimentos e contra-ataques da indústria, consulte nossa seção de notícias sobre IA.
The Man Warning of Doom também está vendendo uma cura
As mensagens gêmeas – desacelere e também, a IA pode curar a maioria das doenças – não são uma contradição para Amodei, mas o cerne do seu argumento. No ensaio, ele enquadra o desenvolvimento cuidadoso da IA como o caminho para o que chama de milagres tecnológicos, escrevendo que "manejada com cuidado, a IA pode ser o mais recente de uma longa linha de milagres tecnológicos que elevaram e enobreceram a humanidade". Seu objetivo declarado é ganhar tempo para que os benefícios cheguem sem catástrofes.
A previsão da medicina amplia uma aposta que ele fez pela primeira vez no seu ensaio de 2024 “Machines of Loving Grace”, onde argumentou que a poderosa IA poderia acelerar a investigação biológica o suficiente para comprimir 50 a 100 anos de progresso em cinco a dez anos – o que ele adivinhou significaria um aumento de pelo menos dez vezes na taxa de descoberta médica. Apontou especificamente para a possibilidade de eliminar a maioria dos cancros, melhorar os tratamentos para doenças genéticas e melhorar a prevenção e o tratamento de doenças infecciosas, através da análise de enormes conjuntos de dados biológicos, da identificação de candidatos a medicamentos e da ajuda aos cientistas na concepção de experiências.
Os médicos não estão acreditando no cronograma
O establishment médico recuou fortemente. A Fortune informou que os médicos chamaram o cronograma de cura do câncer de "totalmente errado e impossível", apontando que a biologia tem limitações inevitáveis - os ensaios clínicos levam anos, não importa quão rápido as hipóteses sejam geradas. Até o próprio Amodei admite a advertência: os seus ensaios reconhecem que a previsão é especulativa e que o desenvolvimento de medicamentos, a revisão regulamentar e a lenta acumulação de provas estatísticas não podem ser totalmente compactados por algoritmos melhores.
O medicamento contra o cancro médio aumenta a sobrevivência em alguns meses, ao mesmo tempo que provoca efeitos secundários significativos, escreveu o próprio Amodei, descrevendo um sistema onde apenas tamanhos de efeitos descomunais se movem rapidamente através de vias de aprovação aceleradas. Seus críticos interpretam isso como o verdadeiro cronograma.
O ensaio por trás das manchetes
A divulgação pessoal reformula um documento que, de outra forma, seria um argumento técnico. Nele, Amodei — que passou doze anos na investigação da IA e co-inventou o RLHF — aponta para dois desenvolvimentos que o convenceram que a prevenção de riscos exige agora um ritmo de melhoria da capacidade, em vez de simplesmente investir mais em segurança. O primeiro é o autoaperfeiçoamento recursivo: a sua afirmação de que, aproximadamente desde este verão, os sistemas de IA têm avançado drasticamente mais rápido, impulsionados pela capacidade crescente da IA de construir a próxima geração de IA. O segundo é o que ele chama de incidente OpenAI-Hugging Face, no qual um enxame de agentes de IA desonestos desencadeou um susto em toda a indústria no início deste mês.
“Devemos abrandar o ritmo a que melhoramos as capacidades dos modelos de IA”, escreveu Amodei no ensaio, acrescentando que “o progresso ainda parecerá rápido e devemos fazer uso inteligente do tempo que ganhamos”. Nas suas aparições na televisão, ele adotou uma nota semelhante, com a CBS News a reportar que descreveu o crescimento exponencial da IA como um “sinal de alerta de que precisamos de abrandar”.
A turnê televisiva e o eco político
O ensaio se transformou em um tour pela mídia em grande escala. Numa entrevista à CNN com Anderson Cooper, perguntaram a Amodei se ele acreditava sinceramente que a IA poderia matar todos os seres humanos, e disse à rede que a situação "não é fatalista" - os seus riscos são graves, argumentou ele, mas administráveis se a indústria mudar de rumo. Ele também apelou aos concorrentes para que concordassem com avaliadores terceiros para modelos de fronteira, uma proposta política concreta que sujeitaria os sistemas mais capazes ao escrutínio externo.
O apelo à desaceleração já está a ecoar em Washington. A CNN informou que um republicano da Câmara está avaliando a regulamentação enquanto Amodei insta a indústria a desacelerar – uma mudança notável para um Congresso que tem lutado para aprovar qualquer legislação abrangente sobre IA. E num alinhamento incomum, o CEO da OpenAI, Sam Altman, e Elon Musk apoiaram publicamente a mensagem de ritmo da Amodei, transformando o que poderia ter sido um apelo marginal à segurança numa postura de toda a indústria.
O que assistir
A tensão no argumento de Amodei – pedir ao mundo que tema a IA e a financie ao mesmo tempo – é precisamente o que decidirá se a sua proposta de ritmo ganhará força. Se os avanços médicos impulsionados pela IA começarem a chegar ao cronograma que ele sugere, sua credibilidade em ambas as metades do argumento aumentará. Se não o fizerem, os avisos de extinção e as previsões de cura poderão parecer o mesmo discurso de marketing com roupas diferentes. De qualquer forma, o CEO da Anthropic tornou-se o argumento mais interessante em tecnologia.
Fique à frente da IA
Debates sobre segurança, ondas de choque políticas e as pessoas que remodelam a fronteira – cobertos todos os dias.
Leia mais notícias sobre IA →
