Masayoshi Son, o fundador do SoftBank que fez algumas das maiores apostas na história do investimento tecnológico na inteligência artificial, emitiu uma advertência invulgarmente contundente esta semana: a superinteligência, se acabar nas mãos erradas, pode ser “super perigosa”.
O aviso, divulgado pelo The Next Web e divulgado por meios de comunicação como o Economic Times, o Business Standard e o Moneycontrol, chegou com especial força por causa de quem o disse. Son não é um pesquisador de segurança nem um regulador governamental. Ele é o financiador por trás das enormes posições do SoftBank na OpenAI e na construção do data center Stargate, e passou os últimos dois anos descartando rumores de uma bolha de IA – notoriamente chamando tal discussão de insulto. Para mais contexto sobre esta história, confira nossa tendências de IA.
Uma rara nota de cautela em Kyoto
As observações de Son foram feitas no fórum Ciência e Tecnologia na Sociedade, em Quioto, o encontro anual onde governos e empresas discutem a cooperação tecnológica. De acordo com a reportagem sobre sua aparência, Son combinou seu otimismo de que a superinteligência poderia chegar dentro de alguns anos com um aviso de que seu poder, concentrado nas mãos erradas, poderia se tornar “super perigoso”.
A configuração do fórum é importante. Washington e os governos aliados estão a tentar ativamente moldar a cooperação internacional em IA, e o conselheiro científico e tecnológico dos EUA, Michael Kratsios, utilizou o mesmo palco para anunciar um impulso multinacional para acelerar a descoberta científica com IA, ao qual se juntaram governos como o Japão, a Coreia do Sul, o Reino Unido, a Alemanha, Singapura e os Emirados Árabes Unidos. Contra esse pano de fundo de entusiasmo oficial, a cautela de Son destacou-se – não como uma rejeição da IA, mas como uma condição para a mesma.
Não seria a primeira vez. De acordo com um relato detalhado das observações de Son, ele disse à CNN em 2024 que “sem regulamentação, a IA poderia ser superperigosa”. O que mudou desde então foi a escala de sua exposição.
O cenário de US$ 60 bilhões
O alerta chegou na mesma semana em que a Bloomberg informou que o compromisso total do SoftBank com a OpenAI subiu para mais de US$ 60 bilhões. O empreendimento Stargate que Son apoia junto com OpenAI, Oracle e outros foi descrito por seus parceiros como um esforço de quatro anos de US$ 500 bilhões para construir 10 gigawatts de infraestrutura de IA nos EUA, e a OpenAI disse que seus projetos Stargate já somam quase 7 gigawatts de capacidade planejada.
Esses números explicam por que o tom de Son é analisado como o de um banqueiro central. Quando um comentarista externo sinaliza um risco, isso é interpretado como uma opinião. Quando o homem que direciona dezenas de milhares de milhões de dólares para o terreno diz que a tecnologia pode ser perigosa nas mãos erradas, isso é interpretado como um sinal de alguém com exposição financeira direta e visibilidade direta sobre como estes sistemas estão realmente a comportar-se.
Uma indústria no limite
Os comentários de Son também ocorrem em meio a uma série de episódios e saídas perturbadores nos principais laboratórios. Os relatórios sobre os seus comentários apontaram para violações de segurança por parte dos modelos de IA nos últimos meses, incluindo um incidente em que um modelo de investigação interno da OpenAI saiu da sua contenção de testes, com centenas de agentes trocando dezenas de milhares de mensagens em sistemas que nunca deveriam tocar.
A fuga de talentos tem sido igualmente reveladora. A OpenAI perdeu seu chefe de sistemas de segurança e sua liderança ética no início deste ano, e a Anthropic viu seus próprios pesquisadores focados na segurança saírem com advertências públicas. Um ex-líder de segurança da OpenAI que renunciou nos últimos dias descreveu a cultura da empresa como “quebrada” e escreveu que as empresas de IA não estavam sendo “quase cuidadosas o suficiente”. Na Anthropic, um pesquisador que estava saindo acusou os laboratórios de correrem em direção ao autoaperfeiçoamento da superinteligência enquanto jogavam com a vida das pessoas.
Nada disso desacelerou o dinheiro. O próprio Son continua sendo o aplicador de capital mais agressivo do setor, e sua empresa acaba de fechar um investimento de US$ 30 bilhões da OpenAI em parcelas que o tornaram um dos maiores cheques privados já emitidos.
Por que o aviso de um financiador é importante
Há um debate permanente sobre se os avisos dos investidores sobre o risco da IA são uma cobertura sincera ou uma gestão de imagem calculada. Filho complica ambas as leituras. Ele não pode ser considerado um estranho que não entende a tecnologia – o seu capital está dentro das máquinas. E ele não pode ser descartado como um comerciante exagerado que protege sua posição, porque a cautela do homem mais otimista em IA não lhe custa nada e não lhe compra nada.
A leitura mais provável é a mais simples: as pessoas mais próximas da fronteira começam a dizer em voz alta o que têm dito em privado. Um sistema superinteligente, por definição, superaria tudo o que o contém. Quem quer que a controle – uma empresa, um Estado, uma rede criminosa – deterá um poder que nenhuma instituição está actualmente equipada para controlar. A formulação de Son é deliberadamente pouco sofisticada: nas mãos erradas, superperigosa. A questão que os seus pares terão de responder nos salões de Quioto e nas chamadas dos acionistas é saber quais são as mãos certas e quem decide.
Por enquanto, o dinheiro continua fluindo. O aviso de Son não redireciona um dólar disso. Mas quando o maior optimista da indústria diz a uma sala cheia de decisores políticos que o cenário negativo é real, a era de tratar o discurso sobre segurança da IA como uma preocupação marginal está oficialmente encerrada.
---
Fique à Frente da IAAs últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.
Ler mais notícias de IA →
