Recientemente se pidió al personal de la pequeña oficina del gobierno de Estados Unidos responsable de probar la seguridad de los modelos fronterizos de IA que se presentara informalmente en una oficina de la Casa Blanca, informó Associated Press el sábado, lo que generó nuevas preocupaciones sobre la independencia del principal evaluador de seguridad de IA del país.
La oficina, el Centro para el Avance de la Innovación y los Estándares para la Súper Inteligencia, conocida como CAISSI y ubicada dentro del Departamento de Comercio, también dejó de publicar su investigación, según AP. El informe llega en medio de una creciente ansiedad pública por una serie de historias sobre agentes de inteligencia artificial fuera de control, y describe un organismo de control que carece de personal suficiente, no tiene líderes y es cada vez más silencioso. Para más contexto sobre esta historia, consulta nuestra últimos avances en IA.
Qué hace CAISSI y qué encontró AP
CAISSI está encargada de evaluar la seguridad de las nuevas ofertas de IA antes de que lleguen al público, un mandato que incluye evaluar qué tan bien los modelos fronterizos resisten el uso indebido de ciberataques y otros daños graves. Según AP, al personal del centro se le pidió "recientemente" que se presentara informalmente en una oficina de la Casa Blanca. La agencia de noticias citó a dos ex funcionarios del gobierno con conocimiento de las discusiones, que hablaron de forma anónima para proteger a los empleados actuales. La Casa Blanca no respondió a preguntas específicas sobre el centro.
La escala de la operación es modesta. La AP informa que CAISSI recibe alrededor de 10 millones de dólares al año, aproximadamente una octava parte de lo que recibe su contraparte del Reino Unido, a pesar de que Estados Unidos es donde se construyen la mayoría de los modelos de frontera.
El acuerdo informal de presentación de informes es sólo la última perturbación en el centro. La AP describe un vacío de liderazgo que se remonta a meses atrás: un director fue contratado en abril y despedido a los pocos días, su reemplazo duró unos meses antes de renunciar, y el director del instituto matriz se desempeña actualmente como director interino. En la práctica, eso significa que nadie con un mandato permanente defiende actualmente la independencia del centro.
Un organismo de control que dejó de publicar
El cambio más importante, según AP, es lo que el centro ya no hace. En agosto, el Congreso preguntó por qué CAISSI había dejado de publicar informes sobre cómo se desempeñan los sistemas de inteligencia artificial en las pruebas de seguridad. Las pruebas previas a la implementación funcionan como una verificación pública de los creadores de modelos sólo si sus resultados son visibles fuera del laboratorio (y, por ahora, no lo son).
El cambio no surgió de la nada. En octubre, Reuters, citando un informe de The Information, reveló que la administración planeaba trasladar a tres altos funcionarios de CAISSI a la Casa Blanca. Un funcionario de la Casa Blanca dijo a The Information en ese momento que los problemas de coordinación con el Departamento de Comercio mostraban la necesidad de acercar el liderazgo del centro a la toma de decisiones de IA. Según ese informe, los funcionarios responderían ante Michael Kratsios, quien dirige la Oficina de Política Científica y Tecnológica, y el director cibernético nacional, Sean Cairncross. El secretario de Comercio, Howard Lutnick, los había invitado a coadministrar el centro aproximadamente seis meses antes.
Leídos juntos, el nuevo informe de AP sugiere que el plan se está poniendo en práctica, de manera informal y antes de cualquier reestructuración formal.
Preocupaciones por la independencia, en ambas direcciones
Los críticos citados por AP temen que las decisiones relativas a la ciberseguridad y el riesgo de armas biológicas puedan politizarse, o que las conclusiones puedan suavizarse para adaptarse a la industria tecnológica. Amos Toh, del Centro Brennan para la Justicia, dijo a la AP que tales decisiones tienen inmensas consecuencias públicas y deberían explicarse en público. Caroline Siegel Singh, de la Federación de Científicos Estadounidenses, describió centros como CAISSI como instituciones poderosas que pueden mejorar drásticamente las vidas o hacer lo contrario.
Hay un contraargumento y la AP no lo desestima. Evaluar la capacidad de un modelo para ayudar a escribir malware es una cuestión de seguridad nacional, y una administración que quiere visibilidad sobre quién ve esos resultados tiene un caso defendible. La dificultad es institucional: un árbitro que depende de uno de los patrocinadores de los equipos no está en condiciones de decidir el partido, y el centro ha dejado de publicar los informes que de otro modo demostrarían su independencia.
Por qué es importante para los constructores y compradores
Para las empresas que se basan en modelos de frontera, el riesgo práctico identificado en los informes no es una prohibición: es incertidumbre. Si las evaluaciones permanecen secretas y se incorporan a los controles de exportación y a las adquisiciones gubernamentales, un laboratorio podría perder un contrato o un mercado sobre la base de un hallazgo que nunca llegará a ver o impugnar. Ese riesgo se propagaría a través de la cadena de suministro a los productos posteriores sin previo aviso.
Vale la pena observar dos cosas a continuación. La primera es si la administración nombra un director permanente para el centro y quién lo elige. La segunda es si el Congreso, que ya ha presionado al centro por su silencio sobre los informes publicados, toma medidas para convertir en ley la independencia del centro. Hasta que suceda cualquiera de las dos cosas, el árbitro de seguridad de la IA en la frontera de Estados Unidos opera con un presupuesto de 10 millones de dólares, sin un líder permanente y una línea jerárquica que llega hasta la Casa Blanca.
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →
