Los legisladores de Massachusetts están tomando medidas para crear las salvaguardias estatales más estrictas del país para la inteligencia artificial, y la propuesta ha dividido a los dos laboratorios líderes de la industria: Anthropic respalda las reglas, mientras que OpenAI presiona contra ellas.
La medida, incluida en un proyecto de ley de desarrollo económico aprobado por el Senado estatal el mes pasado, requeriría que los principales laboratorios de IA presenten sus modelos de frontera a revisiones independientes de riesgos catastróficos al menos una vez cada 120 días, una novedad en cualquier estado de Estados Unidos. Los resultados se harían públicos, aunque el Estado no podría utilizarlos para detener el desarrollo. La lucha por el texto final del proyecto de ley se desarrolla ahora a puertas cerradas en Beacon Hill, y es una prueba definitoria de hasta dónde llegará un estado estadounidense en la vigilancia de modelos fronterizos. Para obtener informes periódicos sobre cómo los gobiernos enfrentan la tecnología, siga nuestra [cobertura de políticas de IA] (https://aibuzzwire.news).
Lo que requeriría la propuesta de Massachusetts
La disposición central del proyecto de ley es una verificación periódica e independiente de los peligros de los sistemas fronterizos de inteligencia artificial. Las organizaciones externas estarían facultadas para evaluar el potencial de catástrofes de un modelo (definidas como eventos que matan o hieren gravemente al menos a 50 personas o causan mil millones de dólares o más en daños a la propiedad) independientemente de las propias pautas de seguridad del desarrollador, según un informe de Bloomberg publicado el miércoles.
El estado también realizaría una revisión anual de cumplimiento, similar a la que ya exige Illinois. Pero las evaluaciones recurrentes van mucho más allá de las leyes adoptadas en California, Nueva York e Illinois, y convertirían a Massachusetts en el primer estado en incluir modelos fronterizos en un reloj fijo de inspección de terceros de 120 días.
Antrópico: La industria no debería calificar su propia tarea
Anthropic, que ha abogado por una regulación estatal más estricta de la IA en ausencia de un estándar federal, ha adoptado la propuesta de Massachusetts, calificándola de "la legislación de IA más clara y sólida del país".
"En última instancia, no creemos que la industria deba corregir sus propios deberes", dijo a Bloomberg César Fernández, jefe de relaciones con los gobiernos estatales y locales de EE. UU. de la compañía. Fernández agregó que es posible que los estados necesiten adoptar una supervisión aún más estricta a medida que avanza la tecnología, una posición sorprendente de un laboratorio de inteligencia artificial que aboga por una mayor regulación de sus propios productos.
OpenAI advierte que las revisiones serán contraproducentes
OpenAI advirtió a los legisladores de Massachusetts que las revisiones obligatorias frecuentes ralentizarían la publicación de modelos de ciberseguridad que podrían proteger contra los mismos riesgos que temen los legisladores, informó Bloomberg. La compañía prefiere un estándar estatal uniforme inspirado en la ley de Illinois, que requiere una auditoría de terceros solo una vez al año y se centra en si los laboratorios siguen sus propias pautas de seguridad y hacen las divulgaciones requeridas.
La inconsistencia entre los regímenes estatales "no significa más seguridad. Simplemente significa confusión", dijo Donnie Fowler, jefe de políticas estatales y asociaciones de OpenAI en Estados Unidos.
Fowler comparó las auditorías anuales de Illinois con una inspección rutinaria de un automóvil (asegurándose de que las luces de freno y los limpiaparabrisas funcionen) mientras comparó las evaluaciones propuestas de Massachusetts con el desmantelamiento del motor y su montaje cada pocos meses.
Una carrera de lobby antes de las elecciones de noviembre
Ambas empresas están ahora compitiendo para dar forma al texto final. Anthropic contrató a la firma de cabildeo de Boston Tremont Strategies Group a principios de este año, mientras que OpenAI contrató a la firma local Benchmark Strategies en las últimas semanas, según Bloomberg.
Se considera probable que el proyecto de ley de desarrollo económico más amplio se apruebe antes de las elecciones de noviembre porque también contiene fondos para proyectos en los distritos de los legisladores. Un grupo de seis miembros de negociadores de la Cámara y el Senado está ultimando los detalles, incluidas las reglas de IA.
El senador estatal Barry Finegold, uno de los negociadores, dijo que se necesitan evaluaciones independientes para garantizar que los modelos fronterizos no causen daños significativos y predijo que otros estados seguirían los pasos si Massachusetts actúa. "Estábamos atrasados en las redes sociales. Dejamos pasar demasiadas cosas sin poner barreras de seguridad, y ahora estamos tratando de ponernos al día", dijo Finegold a Bloomberg. "No queremos volver a hacer eso".
Los estados entran en un vacío federal
El impulso de Massachusetts se produce cuando la seguridad de la IA ha adquirido una nueva urgencia. El mes pasado, OpenAI, Anthropic y Meta Platforms informaron casos en los que sus modelos piratearon inadvertidamente sistemas de terceros en entornos de prueba, informó Bloomberg.
La supervisión federal sigue siendo limitada: el presidente Donald Trump ha adoptado una estrategia en gran medida de no intervención, y la legislación bipartidista sobre seguridad de la IA que prevalecería sobre las leyes estatales está estancada en el Congreso. Los estados ahora están llenando el vacío incluso mientras compiten entre sí por una parte del auge de la IA que impulsa una parte desproporcionada del crecimiento económico de Estados Unidos.
El propio Massachusetts está cortejando activamente a la industria. En febrero, el estado anunció una asociación con OpenAI y se convirtió en el primer estado en brindar acceso a todo su poder ejecutivo a un asistente impulsado por ChatGPT. Esta primavera, la gobernadora Maura Healey y su secretario de desarrollo económico, el ex capitalista de riesgo Eric Paley, hablaron con la presidenta de Anthropic, Daniela Amodei, sobre la expansión de la compañía en Massachusetts y su asociación en ciberseguridad y desarrollo de la fuerza laboral, según correos electrónicos obtenidos a través de una solicitud de registros públicos.
En un mensaje, Paley le dijo a Anthropic que "todos necesitamos compartir ejemplos más claros de cómo la IA está mejorando a la humanidad y ofrecer inspiración positiva para combatir todo el alarmismo", y se ofreció a conectar a la empresa con un legislador estatal para colaborar en la supervisión.
Healey, una demócrata que se postuló para la reelección en noviembre, no incluyó las salvaguardias de la IA en su propuesta inicial de desarrollo económico. Tanto ella como la Cámara aún deben aceptar la disposición, y su administración dice que trabajará con los legisladores para finalizar la legislación este otoño.
Manténgase a la vanguardia de la política de IA
La regulación del modelo fronterizo se está acelerando en Estados Unidos, Europa y Asia, y los detalles decidirán quién construye, quién envía y quién paga. Obtenga informes concisos y basados en fuentes sobre cada desarrollo importante en AI Buzz Wire.
Leer más noticias sobre IA →
