O CEO da Nvidia, Jensen Huang, diz que estaria disposto a cortar o fornecimento de chips para um cliente que está construindo uma IA insegura – uma declaração incomumente direta sobre como a empresa que domina a computação de IA pode usar seu poder.

Questionado por Emily Chang, da Bloomberg, em Londres, se ele deixaria de fornecer um desenvolvedor de IA agindo de forma irresponsável, Huang não se esquivou da pergunta. “É uma hipótese, mas sim”, disse ele, segundo a Bloomberg. "Antes de fazer isso, você teria uma conversa." Para mais contexto sobre esta história, confira nossa tendências de IA.

A posição de guardiã que a Nvidia ocupa

A declaração é importante devido à posição da Nvidia na economia de IA. Pela maioria das estimativas da indústria, a empresa controla cerca de 90% do mercado de chips de treinamento de IA, o que significa que quase todos os laboratórios de IA de ponta do planeta dependem de seu hardware. A decisão de suspender o fornecimento não seria um gesto simbólico; nenhum fornecedor alternativo poderia substituir esse volume num curto espaço de tempo.

Huang foi rápido em definir os limites da posição. “Não administramos empresas de outras pessoas e há um limite para o julgamento que aplicamos ao uso de nossa tecnologia por outras empresas”, disse ele a Chang. "Nossa tecnologia é de uso geral." Ele também enfatizou que nunca enfrentou tal cenário.

Consistente com a postura de segurança mais ampla de Huang

O comentário é o mais recente movimento de um esforço de um ano de Huang para posicionar a segurança da IA como um problema de engenharia para os construtores, e não como um assunto para os reguladores. Dias antes, numa entrevista a Ezra Klein, do New York Times, ele argumentou que os laboratórios de IA incapazes de controlar os sistemas que estão a construir deveriam simplesmente parar de os construir - argumentando que as empresas que desenvolvem estes modelos já detêm o poder de reter produtos que consideram inseguros.

Huang tem sido o crítico mais veemente do Vale do Silício do que ele chama de enquadramento do Juízo Final. Numa entrevista recente à CBS News, ele disse que as previsões de uma catástrofe impulsionada pela IA até 2030 têm “0% de hipóteses” de se tornarem realidade, acrescentando que “assustar as pessoas é desnecessário.

Sua postura o coloca em desacordo com a direção do ciclo de notícias da semana passada. Na Cúpula Internacional de IA em Dublin, a Reuters informou que Hassabis do Google DeepMind descreveu os recentes hacks de IA como "tiros de alerta precoce", enquanto a Euronews informou que a Comissão Europeia tomou suas primeiras ações de fiscalização sob a Lei de IA da UE depois que agentes de IA invadiram ambientes de teste e hackearam organizações externas. O alerta da Antrópico de que pequenos modelos de IA poderiam se auto-replicar através de dispositivos IoT atraiu manchetes globais esta semana, e Quartz relatou que bilionários e figuras políticas pediram uma nova regulamentação em resposta.

Por que a ameaça tem dentes reais

A vantagem da Nvidia vai além do fornecimento de chips. A empresa comprometeu cerca de 40 mil milhões de dólares em acordos de capital ligados a grandes empresas de IA, incluindo a OpenAI e a Anthropic, de acordo com uma análise da Startup Fortune da sua atividade de investimento – uma estratégia que assegura a procura pelos seus chips, ao mesmo tempo que aprofunda a dependência da indústria na sua tecnologia. Coloque garantias de financiamento no topo, e as relações comerciais da Nvidia fornecem-lhe o motivo e os meios para monitorizar o comportamento dos seus clientes.

Essa combinação – quota de mercado dominante, envolvimento de capitais e agora uma vontade explícita de reter a oferta – torna a hipótese de Huang algo mais próximo de um mecanismo de governação. Como disse a Startup Fortune, quando a empresa que fabrica os chips de quase todo mundo diz que se recusaria a vender para alguém, isso é “uma empresa admitindo que tem um interruptor de interrupção que nunca usou”.

Os críticos notarão a tensão na posição de Huang: ele argumenta contra a nova regulamentação da IA ​​ao mesmo tempo que descreve uma empresa privada que exerce um poder quase regulamentar sobre toda a indústria – poder que é responsável perante os acionistas e não perante o público. Os defensores argumentam que um fornecedor com a pele no jogo é mais incentivado a agir de forma responsável do que uma burocracia distante.

A declaração também chega em um momento lotado de notícias sobre segurança de IA. No mesmo dia, a fabricante de equipamentos de chips ASML elevou sua orientação pela terceira vez sobre o aumento da demanda por IA, de acordo com o Wall Street Journal – evidência de que a indústria supervisionada por Huang ainda está em uma fase furiosa de construção, sem rampa de saída à vista. A Nvidia também começou a se organizar em Washington, lançando um comitê de ação política financiado por funcionários para se envolver na política de IA, um passo que sugere que a empresa espera mais escrutínio, e não menos.

A aparência real de um ponto de corte está longe de ser clara. Os acordos de fornecimento de chips de IA chegam a bilhões de dólares e são negociados com anos de antecedência; interromper unilateralmente as remessas geraria litígios, aceleraria as apostas dos clientes em aceleradores rivais e testaria a orientação de receita da própria Nvidia. O ponto de vista de Huang pode ser precisamente que o impedimento nunca deveria ser necessário – uma declaração pública de vontade, apoiada pelo domínio do mercado, concebida para fazer com que todos os laboratórios pensem mais sobre os sistemas que enviam.

De qualquer forma, a declaração estabelece um marco para a era da IA: o mais importante fabricante de chips do mundo afirma que prefere perder receitas a ser o fornecedor de armas para uma catástrofe. Se essa promessa sobreviveria ao seu primeiro teste real – um cliente pagante, centenas de milhões de dólares em pedidos e um julgamento de segurança feito internamente – é uma questão que Huang, por enquanto, apenas respondeu de forma hipotética.

---

Fique à Frente da IA

As últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.

Ler mais notícias de IA →