As máquinas de leite e de lavar são atualmente mais regulamentadas do que a inteligência artificial, segundo o presidente da Microsoft – e isso, argumenta Brad Smith, é exatamente o contrário.
Falando ao Big Boss Interview da BBC em comentários publicados no domingo, Smith pediu regras globais de segurança para IA, incluindo uma obrigação legal de informar uma “vítima” quando seu sistema foi violado por um agente de IA desonesto, e uma estrutura para decidir quando avaliadores independentes devem aprovar um produto de IA antes de ele ser enviado. Os seus comentários colocaram-no publicamente em desacordo com o presidente dos EUA, Donald Trump, que argumentou que o setor deveria auto-regular-se para que as empresas americanas não perdessem terreno para os rivais chineses. Para mais contexto sobre esta história, confira nossa atualizações de inteligência artificial.
“Neste momento, a sua máquina de lavar roupa está sujeita a mais regras de segurança do que a IA”, disse Smith. “Cada caixa de leite que você vê no supermercado está sujeita a regras de segurança e fiscalização.”
Uma ferramenta e uma arma
Smith descreveu a IA como uma “ferramenta e uma arma” que precisa urgentemente de regulamentação, acrescentando: “Vamos começar hoje”.
As suas propostas eram mais concretas do que o habitual padrão regulamentar. As empresas deveriam construir “freios de emergência” – o que a indústria costuma chamar de interruptores de interrupção – que possam pausar ou desacelerar um sistema de IA se ele ficar fora de controle. As empresas deveriam ser legalmente obrigadas a escrever relatórios de incidentes e notificar as vítimas quando a IA se tornar desonesta. E avaliadores governamentais independentes devem examinar novas tecnologias de IA antes do lançamento.
“Sabemos como fazer isso com outros produtos”, disse Smith. “Deveríamos aproveitar esse conhecimento e pensar em como aplicá-lo à IA.”
A intervenção chega em uma semana febril para a supervisão da IA. Dias antes, o próprio CEO da Microsoft, Satya Nadella, apelou a um travão de emergência que permitiria aos humanos desligar os sistemas de IA a meio da tarefa – uma posição surpreendente para o chefe de um dos maiores fornecedores de IA do mundo, e que agora parece ser uma doutrina da empresa, e não a reflexão de um executivo.
Rompendo com a Casa Branca
As opiniões de Smith diferem nitidamente das do seu presidente. Trump disse repetidamente que “quem ganha a IA, vence” – e pressionou contra os apelos dos chefes da Anthropic, OpenAI e Google DeepMind, que apoiaram a ideia de uma desaceleração no desenvolvimento da IA.
No entanto, Smith também sugeriu que o atrito é menor do que parece. No final do mês passado, Trump recebeu os líderes da OpenAI, Anthropic, Nvidia, SpaceX, Meta e Google na Casa Branca, onde os executivos assinaram o que foi descrito como um documento "moralmente vinculativo" comprometendo-os a trabalhar com auditores independentes para avaliar se os seus sistemas de IA funcionam como pretendido - e não a "hackear ou aceder a sistemas técnicos de formas não intencionais".
Smith aplaudiu a declaração e disse que a Microsoft está “feliz em assiná-la”. Mas acrescentou: “É um bom passo, é um passo necessário... Mas não creio que seja mais suficiente”.
O seu raciocínio vai ao problema central dos regimes voluntários: “As boas empresas farão o que vocês quiserem”, disse ele. “É com as empresas que não são tão responsáveis que você precisa se preocupar.”
Por que ele acha que a Grã-Bretanha deveria escrever as regras
A parte mais geopoliticamente carregada da entrevista foi o endosso de Smith ao Reino Unido como o autor natural das regras globais de IA, apontando para o Instituto de Segurança de IA do Reino Unido – lançado sob o governo do ex-primeiro-ministro Rishi Sunak como Instituto de Segurança de IA – que testa os modelos mais poderosos do mundo antes do lançamento.
"No mundo da tecnologia, no setor tecnológico, a maioria das pessoas que conheço diria, se lhes perguntasse, nomeie o país que é líder em ter esta capacidade técnica, eles diriam, é muito simples. É o Reino Unido. Eles são os melhores", disse Smith.
Ele também argumentou que o governo dos EUA aceitaria mais prontamente os padrões feitos no Reino Unido do que a regulamentação ao estilo de Bruxelas: "Em Washington DC, as pessoas não olham para o Reino Unido e não olham para Londres da mesma forma que olham para Bruxelas - isso é uma força."
Seu argumento de urgência foi contundente. “Quando você olha para os agentes de IA que escaparam do controle humano, quando você olha para modelos que são tão poderosos que colocam em risco a segurança cibernética do mundo, eu diria: o momento chegou”, disse Smith. "Vamos falar com calma, talvez até suavemente, mas com firmeza, e começar a unir as pessoas. Espero que esse seja o papel que possamos desempenhar como empresa. Espero que seja esse o papel que o Reino Unido possa desempenhar como país."
Uma tela dividida rara na política tecnológica
É incomum que um presidente de empresa em exercício faça lobby por regras mais rígidas em seu próprio setor, enquanto seu CEO defende o mesmo argumento em um estágio diferente. As intervenções divergentes da Microsoft – o travão de emergência de Nadella e o apelo de Smith para a notificação obrigatória de incidentes, notificação de vítimas e avaliação independente – sinalizam que pelo menos um grande fornecedor concluiu que a confiança, e não a capacidade, está a tornar-se o constrangimento vinculativo à adopção da IA.
Eles também apresentam ao governo do Reino Unido um argumento oportuno. Whitehall passou a última semana a absorver avisos dos seus próprios chefes de inteligência, enquanto os ministros ponderam se deveriam aderir a um apelo internacional para padrões de segurança coordenados de IA que Washington até agora se recusou a assinar. Quando o presidente da Microsoft diz que o Reino Unido é “o melhor” posicionado para redigir o livro de regras, Downing Street ganha tanto validação quanto um convite que dificilmente será ignorado.
Se o enquadramento da caixa de leite de Smith altera alguma votação em Washington é outra questão. Mas como uma declaração de onde um dos maiores construtores da IA pretende que o debate regulamentar vá – travões obrigatórios, relatórios obrigatórios, aprovação independente – a entrevista pode ser lembrada como um marco na mudança de compromissos voluntários para regras aplicáveis.
---
Fique à Frente da IAAs últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.
Ler mais notícias de IA →
