O deputado Ro Khanna, um democrata do Vale do Silício, apresentará legislação que proibiria modelos de IA capazes de se aprimorarem recursivamente até que o governo federal construa um sistema regulatório capaz de supervisioná-los – a proposta de segurança de IA mais abrangente que já foi aprovada no Congresso.
O projeto de lei, apelidado de Lei de Controle Humano sobre IA, foi compartilhado exclusivamente com a CNBC em forma resumida antes de sua introdução. Ele chega em meio a crescentes preocupações de segurança que já levaram os CEOs da OpenAI e da Anthropic a pedirem uma desaceleração no desenvolvimento de modelos de fronteira. Para mais contexto sobre esta história, confira nossa últimos desenvolvimentos em IA.
“Na verdade, existe um risco de extinção civilizacional”, disse Khanna na segunda-feira em entrevista à CNBC. “Existe um risco de segurança de perda de controle e, em seguida, existe um risco de uso indevido, e precisamos levar ambos a sério”.
O que o projeto de lei proibiria
Na sua essência, a Lei do Controlo Humano sobre a IA proibiria modelos de IA que se auto-melhorassem recursivamente ou modificassem autonomamente os seus próprios objectivos principais, mecanismos de contenção ou controlos de encerramento - a menos que existam protecções federais e uma nova agência governamental aprove as actividades.
Em termos práticos, isso visa a capacidade que os investigadores de segurança mais temem: sistemas que possam redesenhar-se num ciclo autodirigido, deixando os humanos com uma supervisão cada vez menor em cada etapa. A proibição permaneceria em vigor até que os reguladores estivessem equipados para avaliar os riscos.
Uma nova agência federal para Frontier AI
O projeto de lei criaria uma agência federal dedicada, focada nos modelos de IA mais poderosos – aqueles desenvolvidos pela OpenAI, Anthropic, Google DeepMind e xAI – à medida que essas empresas se encontram sob um escrutínio cada vez mais intenso.
De acordo com o resumo compartilhado com a CNBC, a agência seria responsável por:
- Escrever regulamentos de segurança para sistemas de IA de fronteira
- Operar um sistema de licenciamento para aprovar treinamento e implantação de modelos
- Condução de auditorias de modelos de IA de fronteira
- Estabelecer padrões de segurança para testes contínuos e controle humano eficaz
Auditores independentes seriam integrados em todos os laboratórios fronteiriços e reportariam directamente à agência – uma verificação estrutural concebida para garantir que os laboratórios não possam simplesmente corrigir os seus próprios trabalhos de casa. A agência também estabeleceria padrões que abrangem ambientes de teste sandbox, lacunas de ar que isolam os sistemas de teste da Internet, interruptores de interrupção e controles que evitam que os modelos escapem das configurações do laboratório e percorram a Internet aberta.
Nomeadamente, a legislação alargaria a supervisão federal aos chips avançados que os laboratórios fronteiriços utilizam, incluindo mecanismos para monitorizar ou controlar a forma como esses processadores são implementados.
Penalidades Criminais e Seguro Obrigatório
O projeto vai além de qualquer proposta anterior sobre penalidades. Criminalizaria o que define como “crimes contra a humanidade” pela implantação de modelos de IA que resultam na destruição de populações civis.
Os funcionários de empresas de IA enfrentariam sanções criminais por desativarem proteções, interruptores de interrupção, sistemas de registro ou de contenção — ou por implantarem conscientemente um sistema não autorizado. As empresas de IA também seriam obrigadas a possuir um extenso seguro de responsabilidade civil antes de lançarem os seus modelos, transferindo o risco financeiro de fracasso para a indústria e não para o público.
Na frente geopolítica, o projecto de lei apela à administração para que procure acordos executáveis e controlos de exportação direccionados, concebidos para dissuadir a China e outros adversários de desenvolverem sistemas perigosos de IA.
Construído com a comunidade de segurança, não com os laboratórios
Khanna foi explícita sobre quem contribuiu para o projeto de lei. Em vez de negociar com os executivos das empresas que iria regular, ele disse que a legislação foi modelada em conversas com organizações de segurança de IA, incluindo as organizações independentes sem fins lucrativos Model Evaluation and Threat Research, o Machine Intelligence Research Institute e a Palisade Research.
“Quero que este seja um modelo para dar voz à comunidade de segurança da IA”, disse Khanna à CNBC. “Acredito que eles foram injustamente descartados como ficção científica e não foram levados suficientemente a sério. Eles precisam conduzir este debate, a comunidade de segurança da IA, não os executivos dos laboratórios de fronteira.”
Khanna descreveu a medida como a legislação de segurança de IA mais abrangente proposta até o momento.
Longas probabilidades em um Congresso dividido
A Lei de Controle Humano sobre IA junta-se a um campo lotado de propostas de segurança de IA no Capitólio. Entre eles está a lei bipartidária FRONTIER dos deputados Jay Obernolte, um republicano da Califórnia, e Lori Trahan, uma democrata de Massachusetts, que colocaria auditores independentes em laboratórios de fronteira e daria ao governo autoridade para encerrar modelos considerados como representando um risco catastrófico. Uma proposta separada de Sanders-Casar para proibir a superinteligência artificial atraiu o apoio público de dez democratas da Câmara, incluindo o próprio Khanna.
A realidade política, no entanto, é preocupante. Nenhum projeto de lei da Câmara deverá ser votado antes das eleições de meio de mandato, e o Senado deverá deixar Washington e só retornar depois que os eleitores forem às urnas.
Esse cronograma significa que a Lei do Controle Humano sobre a IA funcionará, pelo menos por enquanto, como um marcador: um projeto detalhado do que a comunidade de segurança da IA construiria se segurasse a caneta – introduzido precisamente no momento em que as pessoas que constroem a IA de fronteira estão alertando, oficialmente, que a tecnologia está ultrapassando seus controles.
---
Fique à Frente da IAAs últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.
Ler mais notícias de IA →
