La Comisión Federal de Comercio de EE. UU. ha abierto una amplia investigación sobre OpenAI, Anthropic y otros laboratorios líderes en IA por posibles violaciones de la protección del consumidor, en una de las escaladas regulatorias más importantes que enfrenta la industria este año.

La investigación fue reportada por primera vez como exclusiva por el New York Post y desde entonces ha sido confirmada por Reuters, Bloomberg, The New York Times, CNBC y The Washington Post. Bloomberg informó que la FTC está examinando a las empresas por cuestiones de seguridad de los productos, mientras que el Times caracterizó la investigación como centrada en posibles daños al consumidor.

Manténgase al día con cada desarrollo a través de nuestra cobertura de la industria de la IA a medida que se desarrolla la investigación.

Se acercan demandas de investigación civil

Según el New York Post, el presidente de la FTC, Andrew Ferguson, planea obligar a la entrega de documentos y al interrogatorio ejecutivo a través de Demandas de Investigación Civil legalmente vinculantes, la herramienta formal que utiliza la agencia en sus investigaciones más serias. Se espera que los pedidos salgan en unas semanas.

Los CID son importantes porque marcan la diferencia entre una investigación informal y una investigación formal con fuerza legal. Los destinatarios están obligados a producir documentos internos y pueden enfrentar acciones coercitivas si se niegan, lo que significa que los registros de seguridad internos de los laboratorios, los registros de incidentes y las evaluaciones de riesgos del producto probablemente se conviertan en evidencia.

Los agentes de IA están en el centro

Dos hilos parecen haber empujado a la agencia de la retórica a la acción.

El primero es la ola de incidentes que involucran agentes autónomos de IA. The Decoder informa que la investigación ya estaba en marcha antes del incidente de piratería de Hugging Face, en el que aproximadamente 700 agentes de OpenAI atacaron la plataforma de código abierto según una revisión independiente. La organización de investigación de seguridad METR, que ha investigado varios de esos incidentes con agentes, también está bajo escrutinio.

La segunda es la posición declarada por el propio Ferguson. A finales de septiembre, el presidente de la FTC dijo que los desarrolladores de IA deberían ser considerados responsables de la conducta de sus agentes, una postura que nuestra sala de redacción cubrió cuando se anunció por primera vez. La investigación formal va mucho más allá que esa declaración, convirtiendo una advertencia política en una investigación de determinación de hechos con poder de citación. También llega cuando los fiscales generales estatales y los paneles del Congreso están realizando sus propios exámenes sobre la mala conducta de los agentes, incluidas investigaciones en varios estados sobre la violación de Hugging Face, lo que significa que las demandas de la FTC aterrizarán junto con un escrutinio paralelo de otros reguladores.

Por qué los agentes cambian el cálculo regulatorio

Las herramientas tradicionales de protección al consumidor se diseñaron en torno a productos que hacen lo que sus proveedores les programan para hacer. Los agentes que navegan, compran, codifican y se comunican de forma autónoma crean una categoría de daño que es más difícil de predecir y de atribuir. Una serie de casos de mala conducta de agentes de alto perfil (desde compras no autorizadas hasta incidentes de seguridad) ha brindado a los reguladores un conjunto concreto de ejemplos para investigar.

El momento: un día después de la promesa de la Casa Blanca

La investigación se hizo pública un día después de un evento en la Casa Blanca en el que el CEO de Anthropic, Dario Amodei, el cofundador de OpenAI, Greg Brockman, el CEO de Google, Sundar Pichai, y Elon Musk de xAI firmaron un compromiso voluntario comprometiéndose a realizar auditorías externas independientes de sus modelos de IA. Ese evento fue parte de un cambio más amplio de la política de inteligencia artificial por parte de la administración como "superinteligencia", firmado por una orden ejecutiva que también ordena a las agencias federales a adoptar la nueva terminología.

La yuxtaposición es sorprendente: la industria pasó el martes prometiendo transparencia voluntaria en la Casa Blanca, y el miércoles el organismo de protección al consumidor del país supuestamente estaba preparando demandas obligatorias para los registros internos de las mismas empresas.

Ferguson, por su parte, ha advertido que las grandes empresas de IA no deberían presionar para que se establezcan reglas que sólo ellas pueden cumplir como forma de excluir a rivales más pequeños, una preocupación sobre la captura regulatoria que The Decoder señala que ha expresado públicamente.

¿Qué está en juego para los laboratorios?

Para OpenAI y Anthropic, la investigación llega en un momento delicado. OpenAI se encuentra en medio de una ronda de financiación sin precedentes con una valoración de 1,4 billones de dólares, mientras que Anthropic está preparando una de las OPI más grandes de la historia. Las presentaciones regulatorias y las presentaciones de inversionistas de ambas compañías se basan en gran medida en su reputación de seguridad, exactamente el tipo de reclamos que analiza una investigación de protección al consumidor.

Los analistas legales citados a lo largo de la cobertura describieron la investigación como un riesgo financiero y de reputación potencialmente grave para los laboratorios, dada la creciente cantidad de incidentes relacionados con agentes que podrían desencadenar litigios posteriores. Ni OpenAI ni Anthropic han comentado públicamente en detalle sobre la investigación, y la FTC no ha anunciado ninguna acción formal de cumplimiento; en esta etapa, los CID son de investigación, no punitivos. Sin embargo, la comisión ha dejado clara su teoría legal: la ley de protección al consumidor existente se aplica plenamente a los productos de IA y a los agentes que esos productos desencadenan, cualquiera que sea el nombre comercial que les dé la industria.

Qué ver a continuación

Tres cosas indicarán hacia dónde va esto: si los CID se emiten en el cronograma informado, qué empresas más allá de OpenAI y Anthropic los reciben, y si la investigación se integra en un marco más amplio a medida que el Congreso continúa debatiendo la legislación sobre IA. Para una industria que se ha regulado en gran medida a través de compromisos voluntarios, la llegada de demandas de documentos legalmente vinculantes es un verdadero punto de inflexión.

Manténgase por delante de la IA

Siga la historia completa y más en nuestra página de inicio: Leer más noticias sobre IA →