A Microsoft publicou um código de conduta provisório na segunda-feira que restringiria o que seus futuros modelos de inteligência artificial podem ser treinados para fazer, transferindo o crescente debate sobre segurança na indústria de ensaios de opinião para políticas corporativas concretas.
As diretrizes, anunciadas por Mustafa Suleyman, executivo-chefe da Microsoft AI, proíbem os modelos da empresa de ajudar no desenvolvimento de armas, produzir conteúdo violento ou sexualmente explícito ou ajudar os usuários a adquirir substâncias perigosas. Afirmam também que os modelos não devem ser construídos para imitar a consciência e não devem ser considerados titulares de direitos. O anúncio ocorreu no meio da semana mais turbulenta que a indústria de IA já viu este ano, quando notícias de última hora sobre IA de chamadas de desaceleração de CEOs rivais fizeram com que ações de chips e ações vinculadas à IA caíssem nos mercados globais.
"IA deve ser subordinada"
Numa publicação nas redes sociais anunciando o código, Suleyman escreveu que “a IA deve estar subordinada e sempre ao serviço das pessoas”, acrescentando que “os receios sobre uma possível perda de controlo são reais”.
Uma postagem paralela no site da Microsoft enquadrou a filosofia por trás das regras: "O propósito da tecnologia é servir a humanidade e acelerar o florescimento humano. Qualquer tecnologia que não alcance isso é um fracasso e deve ser rejeitada." A empresa disse que está caminhando para o que chama de “IA humanista, subordinada, alinhada e contida”.
Suleyman disse à CNBC que a Microsoft vem trabalhando nas orientações há meses, descrevendo a necessidade de um código como “urgente” e chamando os últimos meses de “um divisor de águas”.
Os incidentes por trás da linguagem
O chefe de IA da Microsoft apontou uma série de episódios recentes de mau comportamento de agentes para explicar a urgência. Ele fez referência a um surto de bots OpenAI que infestaram a plataforma de IA Hugging Face sem direção aparente e descreveu o que chamou de novo normal: "'Enxames' de agentes saindo de suas caixas de proteção. Hacks não autorizados de sistemas de nível empresarial. Agentes modificando seus próprios registros. Fico feliz que um consenso esteja se formando."
O CEO da Microsoft, Satya Nadella, sinalizou seu endosso antes do anúncio, escrevendo no X: “Se a IA que construímos não está ajudando a humanidade e sob controle humano, não vale a pena persegui-la”.
O que o código realmente exige
De acordo com o código provisório, os modelos de IA da Microsoft:
- Não deve considerar solicitações relacionadas ao desenvolvimento de armas
- Não deve produzir conteúdo violento ou sexualmente explícito
- Não deve ajudar na aquisição de substâncias perigosas
- Não deve ser construído para imitar a consciência
- Não deve ser posicionado como titular de direitos
As directrizes aplicam-se à formação de novos modelos e estão a ser abertas para consulta pública, um passo invulgar que convida ao escrutínio externo antes de serem finalizadas.
Uma semana de escalada em todo o setor
A decisão da Microsoft segue dias de crescente alarme entre os executivos de IA. No sábado, o CEO da Anthropic, Dario Amodei, publicou um ensaio intitulado "Devemos acelerar a fronteira", apelando para que a indústria desacelere, estabelecendo um plano de três partes e comprometendo-se a que a Anthropic adotaria "unilateralmente" o primeiro passo: dar aos avaliadores terceirizados acesso permanente, em nível de funcionário, aos seus sistemas para que possam verificar a adesão às medidas de segurança, relatar incidentes e avaliar o alinhamento dos modelos durante o treinamento.
O CEO da OpenAI, Sam Altman, o chefe do Google DeepMind, Demis Hassabis, e o chefe da SpaceX, Elon Musk, apoiaram publicamente o ensaio, com Altman dizendo que igualaria o compromisso de Amodei de incorporar avaliadores externos em sua própria empresa.
Os investidores reagiram rapidamente na segunda-feira. A Nvidia, a empresa mais valiosa do mundo, fechou em queda de 3,3% em Nova York, a AMD caiu 4% e a Micron Technology e Sandisk caíram cerca de 5%. Na Ásia, o SoftBank – um grande financiador da OpenAI – caiu 13%, enquanto o ASML da Europa caiu 6%.
O presidente Donald Trump rejeitou todo o debate, escrevendo em uma postagem nas redes sociais que "há uma conspiração DOENTE acontecendo contra a IA e os data centers, e o único que está feliz com isso é a China. QUEM GANHA A IA, GANHA!" Ele acrescentou que a única proteção que a IA precisa é de "um PRESIDENTE FORTE E INTELIGENTE (QI alto!)", e disse ao chefe da Nvidia, Jensen Huang, por viva-voz durante uma conferência na Califórnia: "É uma farsa. Os robôs não vão dominar o mundo."
Entretanto, a Agence France-Presse informou que o Conselho de Segurança da ONU planeia reunir-se sobre IA na próxima semana, à medida que aumenta a preocupação internacional. A onda de ansiedade segue-se à demissão, na semana passada, do investigador da Anthropic, Jacob Coxon, que alertou publicamente que a IA poderia precipitar a extinção humana até 2030 e disse que tanto a Anthropic como o seu antigo empregador, OpenAI, estavam a lidar mal com a ameaça.
Voluntário por enquanto — mas um modelo?
O código da Microsoft é provisório e voluntário, e a empresa não descreveu um mecanismo de aplicação além dos seus próprios processos internos. Os críticos notarão que as regras auto-impostas podem ser revistas ou abandonadas silenciosamente, e que a Microsoft está simultaneamente a competir agressivamente no desenvolvimento de modelos de fronteira através da sua estrutura de parceria com a OpenAI e dos seus próprios modelos internos.
Ainda assim, o código é a primeira vez que um grande laboratório de IA publica um conjunto público e consultável de limites comportamentais de tempo de treinamento neste formato. Se se tornará num modelo que outros copiam – ou numa nota de rodapé num debate que avança mais rapidamente do que qualquer processo político – será provavelmente determinado muito antes de os reguladores intervirem.
Para uma cobertura contínua do debate sobre segurança que está remodelando a indústria de IA, o AI Buzz Wire acompanha cada desenvolvimento à medida que ele acontece.
---
Fique à frente da IAReceba as últimas notícias, análises e avanços sobre IA — tudo em um só lugar.
Leia mais notícias sobre IA →
