Um cofundador da Anthropic diz que os governos podem precisar de forçar as empresas de IA a instalar um “interruptor de interrupção” – um mecanismo para desligar totalmente os sistemas de IA – e que os inspetores externos devem ser capazes de verificar se realmente funciona.
Jack Clark, um dos sete fundadores do laboratório de IA avaliado em 965 mil milhões de dólares, disse à BBC que, embora a maioria dos laboratórios líderes já tenham formas internas de “desligar a tomada” de sistemas perigosos, a sociedade “pode querer eventualmente aprovar regras” tornando tais mudanças obrigatórias e auditáveis de forma independente. Para os leitores que acompanham o debate sobre segurança da IA mais amplo, sua intervenção marca a proposta política mais concreta já feita dentro de um laboratório de fronteira durante uma semana de alertas crescentes.
"Você deveria exigir que as empresas tenham definitivamente um interruptor de interrupção? Esse interruptor de interrupção pode ser verificado por terceiros?" Clark disse na entrevista com o repórter de tecnologia Kali Hays e o editor de economia Faisal Islam. “Acho que esse é o tipo de coisa que a sociedade vai querer saber e pode querer, eventualmente, aprovar regras.”
'Estamos jogando dados com riscos imensos'
O comentário mais marcante de Clark foi uma rejeição total do status quo. Questionado sobre a trajetória da indústria, ele disse que permitir que a IA continuasse como uma “indústria totalmente não regulamentada” era uma má ideia.
“Estamos jogando dados com riscos imensos”, disse ele. “E a questão é que temos que mudar o curso desta indústria.”
Ao contrário de alguns dos seus colegas, Clark recusou-se a atribuir um número ao risco de extinção humana. “Não creio que estas estatísticas sejam assim tão úteis”, disse ele – um contraste notável com o investigador antrópico Evan Hubinger, que disse na semana passada acreditar pessoalmente que havia uma probabilidade superior a 10% de extinção humana devido à IA na próxima década, e com o pioneiro da IA Geoffrey Hinton, que disse à BBC na sexta-feira que uma estimativa de 10% “não era irracional”.
O que Clark não contestou foi a direção da viagem. A IA é, como disse na mesma entrevista, “mais poderosa a cada dia” – e ele argumentou que as especificidades de qualquer requisito de encerramento, incluindo quem o verificaria e como, pertencem à “conversa política mais ampla” que agora ocorre em torno da IA.
Uma proposta com impulso legislativo
A proposta de Clark não surge no vácuo. Os legisladores dos EUA já apresentaram uma legislação chamada Kill Switch Act, que exigiria que os desenvolvedores fronteiriços de IA construíssem mecanismos de desligamento em seus sistemas – um projeto de lei que a AI Buzz Wire cobriu no mês passado à medida que sua urgência crescia após incidentes com agentes desonestos.
A ideia também enfrenta ceticismo aberto. No Reino Unido, o secretário de Negócios, Jonathan Reynolds, disse à BBC que não considerava o conceito útil, afirmando que "não tinha muita certeza do que isso significaria na prática", e alertou que o excesso de regulamentação poderia deixar o país afastado dos modelos desenvolvidos no estrangeiro.
O pano de fundo: uma guerra civil de segurança – e um IPO
Os comentários de Clark encerram uma semana em que a segurança da IA passou de tópico de seminário para notícia de primeira página. O CEO da Anthropic, Dario Amodei, pediu no fim de semana que o ritmo de desenvolvimento das fronteiras diminuísse e fosse monitorado mais de perto, ao mesmo tempo que insistia que qualquer pausa deveria ocorrer "sem sacrificar a vantagem comercial". Ele então levou esse caso ao grande público americano em uma entrevista com Anderson Cooper, da CNN, com o próprio Coxon aparecendo na rede para reagir a isso. Os comentários seguiram-se a uma postagem viral de demissão do ex-pesquisador antrópico Jacob Coxon alertando sobre o destino da humanidade, o que por sua vez levou à estimativa de extinção de Hubinger. O Guardian, por seu lado, examinou a razão pela qual este aviso apocalíptico em particular irrompeu onde os anteriores tinham desaparecido.
Os alarmes foram recebidos com escárnio aberto por partes da indústria de tecnologia. O CEO da Hugging Face, Clement Delangue, zombou da decisão de fazer de Coxon um porta-voz do risco de extinção, escrevendo: "Desculpe, mas perguntar a Jacob sobre o risco de extinção da IA é como perguntar ao seu cara do AC sobre as mudanças climáticas." O CEO do Grindr, George Arison, foi além, argumentando que o fomento do medo tem motivação comercial. “A única maneira de justificar essas avaliações é realmente afirmar: ‘Vou assumir o controle de todos os setores e de todos os empregos, e minha IA fará todo esse trabalho'”, disse ele.
Há também uma enorme quantidade de dinheiro a depender do resultado deste debate. A Anthropic está se preparando para uma oferta pública inicial avaliada em US$ 965 bilhões, enquanto a OpenAI – avaliada mais recentemente em US$ 852 bilhões – deveria abrir o capital antes que o CEO Sam Altman dissesse na sexta-feira que um IPO não aconteceria este ano devido à controvérsia de segurança. Críticos como Arison argumentam que a retórica pessimista e a campanha de arrecadação de fundos são as duas faces da mesma moeda; A resposta de Clark é que a indústria deve mudar de rumo de qualquer maneira.
A possibilidade de um interruptor de interrupção obrigatório e verificável se tornar lei dependerá dos legisladores que até agora demonstraram pouca vontade de restringir uma indústria que impulsiona a economia dos EUA. Mas, pela primeira vez, um dos especialistas mais poderosos da tecnologia os convida explicitamente a experimentar.
---
Fique à frente da IAReceba as últimas notícias, análises e avanços sobre IA — tudo em um só lugar.
Leia mais notícias sobre IA →
