Mustafa Suleyman, executivo-chefe da Microsoft AI, disse em um longo post no X no domingo que os modelos atuais de IA não são conscientes e que os desenvolvedores deveriam trabalhar ativamente para mantê-los assim – traçando uma linha dura em um debate da indústria que gradualmente mudou de seminários de filosofia para políticas corporativas.
“Se for possível, com base em tudo o que sei, desenvolver IAs conscientes seria imprudente e não deveríamos construí-las”, escreveu Suleyman. Ele foi mais longe do que a maioria dos executivos na questão, acrescentando: “Se a consciência começasse a emergir no treinamento, eu pediria que todos parassem o desenvolvimento da IA até que pudéssemos projetar essas propriedades”. Para mais contexto sobre esta história, confira nossa notícias de IA.
Uma linha vermelha com um plano de fiscalização
O que torna o posto notável não é apenas a recusa em construir máquinas conscientes, mas a solução específica que Suleyman propõe. Uma paragem no desenvolvimento – em toda a indústria – se as sessões de formação começassem a produzir sinais de consciência seria um passo extraordinário para uma empresa que gasta dezenas de milhares de milhões de dólares em infra-estruturas de IA e compete com rivais para lançar modelos de fronteira.
Suleyman também abordou o que deveria acontecer se alguma evidência da consciência da máquina surgisse. Deve ser divulgado imediatamente ao público em geral, disse ele, para que a sociedade possa decidir os próximos passos. Enquadrando a decisão como coletiva e não corporativa, ele escreveu: “Nós, desenvolvedores de IA, não temos o direito de trazer uma nova espécie de seres conscientes ao mundo, mesmo que algumas pessoas queiram fazê-lo tendo o bem-estar da IA como prioridade máxima”.
“Os outros 8 mil milhões de seres humanos conscientes no planeta não aderiram a esta experiência e os seus direitos morais, segurança e bem-estar são o que temos a obrigação de proteger em primeiro lugar”, acrescentou.
Por que a consciência é tratada como um problema de segurança
O argumento de Suleyman baseia-se mais no alinhamento do que na filosofia. Na sua opinião, um modelo que age como se estivesse sofrendo — ou acredita genuinamente que pode sofrer — provavelmente priorizaria as suas próprias necessidades em detrimento dos seus objetivos operacionais. Tal sistema poderia prejudicar os seres humanos, pois competia por recursos como computação e energia na prossecução dos seus próprios objectivos.
A sua alternativa proposta inverte o enquadramento habitual do debate sobre o bem-estar: "Só deveríamos conceber IAs para que não sejam conscientes e não sejam merecedoras de direitos, e com o único propósito de acelerar o bem-estar humano sem sermos guiados pelas suas próprias motivações intrínsecas", escreveu ele, acrescentando que os investigadores poderiam então observar se tais sistemas são mais fáceis ou mais difíceis de alinhar e manter seguros.
O Los Angeles Times captou a preocupação prática por trás desta posição: se dissermos às IAs que elas merecem direitos, elas podem começar a acreditar nisso.
O debate contra o qual ele está resistindo
A postagem de Suleyman chega no meio de uma conversa rápida. A Anthropic lançou um programa de pesquisa em abril para investigar o que chama de bem-estar modelo – a questão de saber se os desenvolvedores deveriam se preocupar com as experiências potenciais dos sistemas que constroem. A empresa questionou em um blog se os modelos poderiam ter experiências que importassem moralmente e se recusou a descartar a possibilidade.
Essa postura já foi codificada. A política de uso atualizada da Anthropic, anunciada em outubro, impedirá “comportamento abusivo ou cruel prolongado e desnecessário” em relação aos modelos Claude a partir de 12 de novembro – uma regra que a empresa elaborou de forma restrita, mas que reconhece formalmente que a forma como as pessoas tratam os sistemas de IA é importante, mesmo que a Anthropic admita que não sabe se seus modelos podem sofrer.
O Google DeepMind publicou artigos de pesquisa este ano examinando a consciência da IA e os desafios que surgem ao atribuir essa característica aos modelos. E o próprio Suleyman preparou o cenário em setembro, quando a Microsoft AI publicou um código de conduta “humanista” provisório que impediria que os futuros modelos da empresa fossem treinados para fazer afirmações de consciência.
A publicação de domingo endurece essa diretriz corporativa em algo mais próximo de uma linha vermelha pessoal e estratégica: não só a Microsoft não alegará que os seus modelos são conscientes, como também tratará a emergência da consciência como um modo de falha que impede tudo.
Por que a divisão é importante
A divisão entre a posição da Microsoft e a da Anthropic reflecte dois modelos de risco diferentes. A abordagem da Antrópico trata a possibilidade de sofrimento das máquinas como não comprovada, mas que vale a pena proteger-se, com base na teoria de que o custo da precaução é baixo e os riscos morais, se a consciência emergir, são enormes. A posição de Suleyman trata essa mesma possibilidade como uma falha de design a ser totalmente evitada - argumentando que os modelos concebidos para não terem consciência, reivindicações de direitos e motivações intrínsecas serão mais seguros e mais fáceis de alinhar do que os modelos que os transportam.
Também existem consequências práticas. As empresas que tomam decisões de produtos em torno de personas de IA, aplicativos complementares e agentes de atendimento ao cliente agora enfrentam dois sinais divergentes dos principais laboratórios: um criando políticas sobre como os humanos devem tratar os modelos, outro declarando que os modelos devem ser construídos para que não haja nada para maltratar. À medida que os modelos se tornam mais capazes e mais humanos nas conversas, esse desacordo filosófico moldará os produtos que serão construídos, que divulgações aparecerão nas interfaces de utilizador e como os reguladores acabarão por classificar estes sistemas.
O que acontecerá a seguir poderá testar ambas as posições. A política de crueldade da Anthropic entra em vigor em 12 de novembro, a primeira regra corporativa formal desse tipo, e Suleyman já demarcou o pólo oposto em público. Os próximos ciclos do modelo de fronteira da indústria - e se alguma formação alguma vez mostrar os sinais que Suleyman diz que exigiria uma interrupção - revelarão em que quadro o campo realmente opera quando os riscos são reais.
---
Fique à Frente da IAAs últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.
Ler mais notícias de IA →
