Jacob Coxon, el ex investigador de Anthropic que renunció el mes pasado con una advertencia pública de que las compañías de IA están "jugando con nuestras vidas", testificará el lunes en una audiencia del Consejo de la ciudad de Nueva York sobre la seguridad de la inteligencia artificial, colocándolo en la misma sala que los representantes de la industria que dejó.

Bloomberg informó el 4 de octubre que Coxon aparecería en la audiencia, que fue convocada por la presidenta del consejo, Julie Menin, y se presenta como un Comité Plenario, lo que significa que participan los 51 miembros del consejo en lugar de un solo subcomité. Se espera que en la misma sesión aparezcan representantes de Anthropic, OpenAI, Google y Meta. Para obtener más contexto sobre esta historia, consulte nuestros [últimos desarrollos de IA] en curso (https://aibuzzwire.news).

¿Quién es Jacob Coxon?

Coxon renunció a Anthropic a principios de septiembre de 2026. En su declaración pública de salida, caracterizó a las empresas de inteligencia artificial como "jugando con nuestras vidas" y advirtió que la tecnología podría representar un riesgo catastrófico dentro de la década. Según Crypto Briefing, la declaración ha sido vista más de 173 millones de veces, y a su renuncia se le atribuye haber impulsado el impulso para la audiencia del consejo.

No está solo en sus preocupaciones. Evan Hubinger, otro investigador antrópico, ha estimado públicamente una probabilidad superior al 10 por ciento de que la IA avanzada pueda ser letal para la humanidad dentro de diez años, una señal, argumentan los defensores de la seguridad, de cuán ampliamente se sostienen ahora esas opiniones dentro de los laboratorios de vanguardia.

La narrativa de Coxon ha recibido críticas. Los escépticos han cuestionado su asociación con una empresa de relaciones públicas vinculada a la defensa de la seguridad de la IA, afirmaciones que él ha refutado.

Una primicia para los legisladores estadounidenses

La audiencia se describe en el informe sobre la sesión como la primera vez que un cuerpo legislativo de EE. UU. obliga a declarar bajo juramento específicamente sobre la seguridad de la IA. El Ayuntamiento de Nueva York envió cartas invitando a los directores ejecutivos de las cuatro principales empresas de inteligencia artificial (Dario Amodei de Anthropic, Sam Altman de OpenAI, Sundar Pichai de Google y Mark Zuckerberg de Meta) a asistir.

No todas las empresas respondieron como esperaba el consejo. Según Crypto Briefing, una empresa de inteligencia artificial recibió una citación el 30 de septiembre de 2026 o alrededor de esa fecha, después de que se iniciara una acción legal por incumplimiento de la solicitud del consejo.

Los proyectos de ley sobre la mesa

Los legisladores planean utilizar la sesión para sopesar varias medidas propuestas, tres de las cuales se destacan:

  • Validación por terceros de los sistemas de IA utilizados por la ciudad, lo que requeriría una verificación independiente antes de su implementación en los servicios municipales.
  • Incentivos para denunciantes descritos en las propuestas como líderes a nivel nacional, diseñados para recompensar a quienes señalan prácticas peligrosas dentro de los laboratorios de IA.
  • Un derecho de acción privado que daría a las personas la posibilidad de demandar por los daños causados ​​por los sistemas de IA.

Cualquiera de los tres convertiría a la ciudad de Nueva York en uno de los reguladores locales de inteligencia artificial más agresivos de Estados Unidos. Debido a que las propuestas apuntan a los sistemas utilizados por la ciudad y las empresas que operan dentro de ella, sus efectos podrían llegar mucho más allá de los cinco condados.

Reglas locales en un vacío federal

La audiencia llega en un momento de corrientes regulatorias contrapuestas en Washington. El presidente Trump nombró recientemente al Director de Inteligencia Nacional, Jay Clayton, como su "zar de la IA", encabezando un nuevo grupo de trabajo "Súper Fuerza de Inteligencia" con 120 días para entregar un informe sobre los riesgos y la supervisión de la IA, un marco que se ha inclinado hacia acelerar el desarrollo en lugar de restringirlo.

Hacia ese vacío, los estados y las ciudades se han estado moviendo. La sesión de Nueva York pondrá a prueba hasta qué punto pueden llegar los gobiernos municipales a la hora de establecer expectativas de seguridad para la tecnología construida lejos del Ayuntamiento, y si los principales laboratorios de la industria colaborarán con los legisladores locales o se resistirán a ellos.

Por qué es importante el testimonio

Audiencias como ésta tienden a importar menos por lo que se dice en la sala y más por lo que sigue. El testimonio jurado crea un registro público que puede anclar la legislación futura, y la presencia de las cuatro principales empresas de inteligencia artificial (más un crítico al estilo denunciante) ofrece a los legisladores una rara comparación lado a lado de promesas y advertencias.

Para la industria de la IA, la sesión es un recordatorio de que el escrutinio ya no se limita al Congreso o a las capitales extranjeras. Los ayuntamientos están redactando sus propias normas sobre IA y están convocando a las personas que construyen los sistemas para que las defiendan bajo juramento.

Qué observar en el testimonio

Vale la pena seguir varios hilos a medida que se desarrolla la sesión. En primer lugar, cómo los representantes de la empresa caracterizan sus propias prácticas de seguridad cuando hablan bajo juramento, y está previsto que un antiguo miembro del grupo aparezca en el mismo panel. En segundo lugar, si la propuesta de incentivo a los denunciantes obtiene apoyo de ambos lados del pasillo: se hace eco de los esfuerzos federales para formalizar los canales de denuncia de irregularidades de los laboratorios de IA, un área donde varias empresas fronterizas ya han publicado políticas voluntarias.

En tercer lugar, es probable que el derecho privado de acción sea el elemento más controvertido. Un mecanismo que permita a los individuos demandar por daños causados ​​por la IA trasladaría la exposición legal real a los proveedores modelo, y se puede esperar que los lobbystas de la industria luchen contra él mucho más duro que los requisitos de auditoría o divulgación.

La audiencia también establece un contraste directo en la filosofía regulatoria. El nuevo grupo de trabajo sobre IA de Washington bajo Jay Clayton se basa en acelerar el desarrollo y consolidar la coordinación federal, mientras que las propuestas de la ciudad de Nueva York se inclinan hacia la verificación, la información privilegiada y los litigios como respaldo para la aplicación de la ley. Si los proyectos de ley avanzan, la ciudad podría convertirse en un caso de prueba de cuánta regulación de la IA pueden imponer los gobiernos subfederales en el clima político actual.

AI Buzz Wire seguirá siguiendo el resultado de la audiencia y el destino de los tres proyectos de ley propuestos.

---

Manténgase a la vanguardia de la IA

Obtenga las últimas noticias, análisis y avances en IA, todo en un solo lugar.

Leer más noticias sobre IA →