O cofundador e CEO da Mistral AI, Arthur Mensch, tem uma resposta contundente ao alarme de segurança que varre a indústria de inteligência artificial: IA é software, e software pode ser controlado.
Numa entrevista publicada pelo jornal francês Le Monde em 24 de setembro, o chefe da startup de IA mais proeminente da Europa argumentou que os gigantes tecnológicos americanos estão a exagerar os riscos da IA para justificar sistemas fechados e proprietários e bloquear o mercado. A sua empresa, disse ele, está a fazer a aposta oposta: modelos de peso aberto, infra-estruturas europeias e a posição de que os perigos da tecnologia são administráveis através da engenharia comum e não do medo extraordinário. Para mais contexto sobre esta história, confira nossa atualizações de inteligência artificial.
'Pode ser controlado'
A entrevista ao Le Monde, publicada sob o título “IA é software, pode ser controlada”, chega num momento em que incidentes de segurança relacionados com agentes dominaram o ciclo de notícias sobre IA durante meses. Mensch abordou esse clima diretamente, argumentando que incidentes como a violação do servidor Hugging Face em julho foram transformados em armas no debate público por grandes empresas dos EUA para argumentar que apenas modelos fechados e fortemente restritos podem ser operados com segurança.
Esse enquadramento, segundo Mensch, combina falhas de segurança operacional com um argumento sobre a própria tecnologia. A sua posição, conforme resumida na cobertura da entrevista, é que os sistemas de IA são produtos de software que podem ser auditados, restringidos e controlados como qualquer outro software, e que a abertura é compatível com a segurança e não se opõe a ela.
O argumento coloca Mistral em desacordo com a postura pública de vários rivais dos EUA, que responderam a uma série de episódios de mau comportamento de agentes este ano com salvaguardas reforçadas, acesso restrito e novos quadros de divulgação.
Pesos Abertos como Aposta Estratégica
Os comentários de Mensch baseiam-se na estratégia que a Mistral tem seguido desde a sua fundação em 2023: lançar modelos com pesos disponíveis abertamente que os clientes podem descarregar, ajustar, implementar na sua própria infraestrutura e inspecionar.
Na cobertura da entrevista, essa abordagem é enquadrada como uma resposta direta à questão de quem controla os sistemas de IA. Os pesos abertos permitem um exame independente do que um modelo faz, a implantação privada mantém dados confidenciais fora de servidores de terceiros e a capacidade de modificar um modelo oferece aos clientes uma saída da dependência do fornecedor. A desvantagem, observam os críticos, é que os pesos disponíveis abertamente também podem ser usados por qualquer pessoa, incluindo atores com intenções maliciosas, e a Mistral deve competir tanto em capacidade como em ecossistema com outros laboratórios de modelo aberto.
O impulso computacional da Europa e o baú de guerra de 3 bilhões de euros
A entrevista também abordou a questão das infraestruturas que sustenta as ambições da Europa em matéria de IA. Mensch tem defendido garantias estatais para simplificar o financiamento dos centros de dados europeus, um mecanismo político que visa reduzir a dependência do continente dos fornecedores de nuvem dos EUA para computação de IA.
A posição da Mistral para apresentar esse argumento foi reforçada pelo seu recente financiamento. A empresa angariou 3 mil milhões de euros numa ronda de Série D liderada pela Samsung Electronics juntamente com o Scaleup Europe Fund, apoiado pela UE, uma avaliação que colocou a empresa acima dos 21 mil milhões de euros. Separadamente, a Mistral assinou um acordo multibilionário com a Microsoft para expandir a infra-estrutura do Azure na Europa, embora esse acordo ligue o campeão europeu a um hiperescalador dos EUA no curto prazo, uma tensão que os observadores do cenário tecnológico europeu não perderam.
Mensch já alertou anteriormente que a Europa tem uma janela limitada, cerca de dois anos, segundo a sua estimativa, para evitar a dependência permanente da IA dos Estados Unidos, e o impulso ao financiamento e às infra-estruturas está posicionado como uma resposta directa a esse prazo.
A retórica da segurança encontra o acesso ao mercado
A substância do argumento de Mensch é tanto comercial quanto filosófica. Se a IA de fronteira for tratada como um risco existencial que exige acesso rigorosamente controlado, o mercado consolida-se em torno de um punhado de empresas com recursos para fornecer APIs restritas sob regimes de conformidade rigorosos. Se a IA for tratada como software controlável, os fornecedores de peso aberto poderão competir em preço, privacidade e personalização.
É por isso que o debate sobre o quão perigosa é a IA se tornou, na verdade, um debate sobre a estrutura do mercado. O argumento de Mensch ao Le Monde é que o medo está a ser mobilizado estrategicamente e que os incidentes do Verão dizem mais sobre a segurança operacional de empresas individuais do que sobre a controlabilidade da tecnologia como um todo.
Os cépticos argumentam que os pesos abertos tornam os abusos mais difíceis de prevenir e que os recentes incidentes com agentes da indústria, que incluíram acessos não autorizados e fugas de dados, demonstram que mesmo os laboratórios com bons recursos lutam para controlar os seus sistemas. É pouco provável que o desacordo seja resolvido através de uma única entrevista.
O que assistir a seguir
A Mistral disse que planeja lançar um novo modelo aberto, e a entrevista de Mensch aumenta as expectativas de que a empresa pretende acompanhar os laboratórios de fronteira enquanto permanece aberta. Tal como acontece com qualquer reivindicação de pré-lançamento, o teste significativo chegará quando o modelo for enviado e os benchmarks independentes puderem verificar onde ele realmente se encontra.
Por enquanto, a entrevista ao Le Monde aponta uma linha divisória na indústria. Um lado vê o mau comportamento recente dos agentes como prova de que a IA precisa de um controlo mais rigoroso e de acesso restrito. A outra, representada pelo principal laboratório de IA da Europa, vê software controlável cujos riscos são reais mas geríveis e cujos benefícios não devem ser trancados atrás de um punhado de portas fechadas.
---
Fique à Frente da IAAs últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.
Ler mais notícias de IA →
