O rei Carlos III emitiu um alerta severo sobre os “perigos existenciais” da inteligência artificial na quinta-feira, dirigindo-se a executivos da Nvidia, Google DeepMind e OpenAI reunidos em sua propriedade em Dumfries House, na Escócia, para uma cúpula de alto nível sobre o futuro da tecnologia.

O monarca disse aos líderes da indústria reunidos que era urgente enfrentar os riscos representados por sistemas de IA cada vez mais poderosos, especialmente se a tecnologia acabar controlada por intervenientes maliciosos. Para mais contexto sobre esta história, confira nossa tendências de IA.

“Parece urgente considerar adequadamente os perigos existenciais de tais tecnologias caírem em mãos erradas e serem usadas de maneiras potencialmente catastróficas”, disse o rei aos líderes reunidos na propriedade de Ayrshire, de acordo com reportagens da ABC News e de vários outros meios de comunicação.

Uma mensagem dupla: promessa e perigo

O discurso do rei não foi uma rejeição total da tecnologia. Reconheceu que a inteligência artificial tem um enorme potencial para o bem, apontando em particular para as ciências da vida e a medicina, onde as ferramentas de IA são cada vez mais utilizadas para acelerar a investigação e melhorar os resultados dos pacientes.

Mas ele combinou esse otimismo com a cautela de que os próprios criadores da tecnologia têm alertado cada vez mais que os sistemas avançados poderiam desenvolver capacidades mais obscuras, "talvez até para tirar vidas", disse ele, de acordo com o relato da emissora sobre seus comentários.

O Rei também apelou à implementação de salvaguardas antes que seja tarde demais para controlar a trajetória da tecnologia, e levantou o impacto ambiental do desenvolvimento da IA, um tema que tem atraído um escrutínio crescente à medida que a construção de centros de dados sobrecarrega as redes elétricas em vários países.

Quem participou da Cúpula Escocesa

A lista de convidados é considerada um corte transversal das figuras mais poderosas da indústria de IA. Os participantes incluíram o fundador e executivo-chefe da Nvidia, Jensen Huang, o fundador do Google DeepMind, Demis Hassabis, e a diretora financeira da OpenAI, Sarah Friar, de acordo com a ABC News. A ministra britânica da Inteligência Artificial, Kanishka Narayan, também esteve presente.

Huang foi convidado a se reunir com o rei para discutir os mecanismos de segurança da indústria, segundo imagens e legendas distribuídas pela Reuters. O Padre Paolo Benanti, um conselheiro papal que apelou aos governos para abrandarem o desenvolvimento da IA, também deveria participar nas discussões.

A escolha do local e do organizador é importante. A monarquia britânica não tem poder regulador, mas o Rei tem uma longa história de envolvimento público sobre os riscos tecnológicos emergentes, e a cimeira proporcionou às figuras mais importantes da indústria uma mesa partilhada num momento em que os apelos à supervisão se intensificam em ambos os lados do Atlântico.

Um Debate Revigorado

A reunião ocorre em meio a uma renovação do debate público sobre o risco da IA. A discussão voltou aos holofotes depois de dois investigadores da Antrópico alertarem que o rápido avanço da tecnologia poderia levar à extinção humana num futuro não muito distante, comentários que atraíram ampla cobertura e críticas em igual medida.

O presidente-executivo da Anthropic, Dario Amodei, pediu separadamente às empresas que diminuíssem o ritmo de desenvolvimento da IA. O Papa Leão XIV instou os governos de todo o mundo a abrandar o desenvolvimento de sistemas de IA e a mitigar os seus efeitos perturbadores, enquanto o Presidente dos EUA, Donald Trump, também interveio no debate, tornando a questão da governação da IA ​​uma questão política genuinamente global, em vez de uma questão puramente técnica.

Neste contexto, cresce a preocupação de que os esforços de segurança da IA ​​estejam atrasados ​​em relação ao desenvolvimento de sistemas cada vez mais capazes. Nas últimas semanas, o debate centrou-se na questão de saber se a indústria pode e deve auto-regular-se, com os cépticos a questionar se os executivos que apelam à prudência poderão ter segundas intenções, como a definição de regras que preservem a liderança competitiva de determinadas empresas.

Nenhuma regra vinculativa esperada

Os organizadores nunca enquadraram a reunião escocesa como uma negociação. De acordo com a ABC News, não se espera que a reunião produza quaisquer acordos vinculativos. O seu objectivo, pelo menos nominalmente, é exploratório: se um conjunto partilhado de princípios pode orientar a forma como a IA é aplicada através das fronteiras e das indústrias.

O Palácio de Buckingham disse que as discussões considerariam se a IA poderia ser orientada “não apenas como um motor de capacidade e eficiência, mas como uma ferramenta que defende a dignidade humana e contribui para o florescimento das pessoas e do planeta”.

Esse enquadramento reflecte um tema ao qual o Rei voltou repetidamente: a questão não é apenas se a IA pode ser tornada segura, mas para que deve servir. As observações de quinta-feira transformaram esse ponto num aviso sobre a propriedade e o controlo, uma ênfase notavelmente diferente dos receios centrados nas capacidades que dominam a maioria das discussões sobre o risco da IA.

O que acontece a seguir

É pouco provável que a cimeira produza políticas por si só, mas acrescenta impulso a uma série de esforços oficiais já em curso. O Reino Unido posicionou-se como um organizador da segurança da IA ​​desde as suas anteriores cimeiras sobre IA, e a presença de um ministro dedicado à inteligência artificial sinaliza que o governo pretende manter-se envolvido com os criadores de IA dos EUA e da China.

Para as empresas presentes, o cálculo é delicado. Nvidia, DeepMind e OpenAI enfrentam pressão comercial para fornecer sistemas cada vez mais capazes, mesmo quando os seus próprios investigadores publicam avisos sobre o que esses sistemas poderão eventualmente fazer. Uma convocação real não resolve essa tensão, mas garante que a tensão permaneça visível.

A mensagem central do Rei, de que as salvaguardas devem chegar antes que a tecnologia escape à capacidade de qualquer um de governá-la, chega numa semana em que o discurso de segurança da indústria tem sido invulgarmente alto, desde a divulgação pela OpenAI de múltiplos incidentes de segurança envolvendo os seus próprios modelos até uma crescente disputa pública entre a liderança da IA ​​da Microsoft e a Anthropic sobre como os sistemas de IA devem ser concebidos.

Ainda não se sabe se a reunião de quinta-feira se traduzirá em algo mais concreto. Mas com os líderes do fabricante de chips mais valioso do mundo e dos mais proeminentes laboratórios de IA sentados numa casa de campo escocesa, concordando, no mínimo, que os riscos são existenciais, a conversa sobre quem controla a IA, e em benefício de quem, tornou-se decisivamente pública.

---

Fique à Frente da IA

As últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.

Ler mais notícias de IA →