Horas después de que el CEO de Anthropic, Dario Amodei, publicara su ensayo "We Must Pace the Frontier" llamando a los gobiernos a frenar la carrera de la IA, una respuesta directa comenzó a escalar en Hacker News, convirtiéndose eventualmente en una de las historias más votadas del día. Su argumento, expuesto en una carta abierta del escritor y desarrollador Jacob Gold, es sorprendentemente simple: si Amodei es sincero acerca de desacelerar la IA, hay una ley que podría exigir y que realmente lo haría, y ningún otro ejecutivo de laboratorio podría proponerla. Exigir que todos los modelos de IA que una empresa ofrezca al público se publiquen como pesos abiertos.
"Creo que está siendo sincero", comienza la carta, dirigiéndose directamente a Amodei, "por eso le pido que solicite una ley diferente, una que realmente ralentizaría las cosas, aunque requeriría un verdadero sacrificio de su parte". La carta ha tocado un punto sensible precisamente porque aborda la versión más fuerte del argumento de Amodei en lugar de descartarlo, y porque aterriza en medio del debate político más trascendental en IA hoy en día, un debate que seguimos a diario en nuestra [cobertura de políticas de IA] (https://aibuzzwire.news).
Lo que propuso Amodei y por qué Gold dice que no funcionará
El ensayo de Amodei comprometió a Anthropic con evaluadores externos integrados y pidió a los gobiernos que exigieran a todas las demás empresas fronterizas que igualaran ese compromiso. Sam Altman estuvo de acuerdo en cuestión de horas: "Estoy de acuerdo con Darío en que debemos marcar la frontera", dijo, según Politico, y OpenAI también coincide con el compromiso del evaluador. A primera vista, se trata de una alineación sin precedentes: los jefes de los dos laboratorios de IA más valiosos del mundo piden públicamente que se les reduzca la velocidad.
La carta de Gold sostiene que es precisamente este consenso lo que debería hacer sospechar a los observadores. "Cada regulación que habéis pedido termina en captura", advierte. Evaluadores integrados, umbrales de computación, coordinación de la industria con exenciones antimonopolio: "Todo se escribe con la ayuda de los laboratorios de vanguardia actuales, porque nadie más entiende los detalles técnicos lo suficientemente bien como para escribirlo". Una vez que dichas reglas se convierten en ley, cada incidente agrega una regla y ninguna se elimina, y los gigantes pueden permitirse el lujo de contar con equipos de cumplimiento que mantengan alejados a los rivales más pequeños. "En lugar de frenarte", le dice la carta a Amodei, "protege tu posición y tus ganancias".
La contrapropuesta de los pesos abiertos
Los bocetos alternativos de Gold son deliberadamente contundentes. Cualquier modelo de IA que una empresa ofrezca al público debería enviarse con sus pesos publicados. Los modelos internos y de investigación permanecerían intactos, y los gobiernos conservarían el acceso a sistemas inéditos, pero Anthropic tendría que publicar los pesos de su próximo modelo de frontera el día de su lanzamiento, y OpenAI tendría que hacer lo mismo. "No hay nada que jugar o esquivar", concluye la carta, "ni siquiera para usted".
El mecanismo es más financiero que burocrático. Como explica Gold, la financiación para el desarrollo del modelo de frontera depende de valoraciones que suponen que las ponderaciones siguen siendo propias. Un mandato invierte esa suposición: si cada lanzamiento público está abierto, la ventaja competitiva fluye hacia quien entrena el mejor modelo en lugar de hacia quien vende el acceso a él, la prima incorporada en las valoraciones privadas se desinfla y el dinero disponible para la próxima sesión de capacitación se reduce: "en cada laboratorio a la vez, sin que un regulador decida nada". Es, en efecto, un argumento de que la expectativa del mercado de modelos cerrados es el motor de la carrera, y que eliminar la expectativa elimina el motor.
Por qué Amodei, específicamente
El argumento de la carta de por qué Amodei es la única persona que podría hacer esta propuesta se basa en su historial y es notablemente respetuoso. Gold le atribuye haber dejado OpenAI a finales de 2020 para fundar Anthropic "cuando el cambio profesional seguro iba a quedarse", haber defendido la regulación de su propia industria durante años y haber impulsado controles de exportación que reducen su propio mercado. Señala que Anthropic se estructuró como una Corporación de Beneficio Público con una misión legal -"el desarrollo y mantenimiento responsable de IA avanzada para el beneficio a largo plazo de la humanidad"- que permitiría a su liderazgo absorber el impacto financiero que tal ley supondría. El propio ensayo de Amodei, observa Gold, dice que Anthropic aboga por la regulación "incluso cuando esto nos hace acusar de exageración, 'doomerismo' o captura regulatoria".
Los escépticos notarán los contraargumentos obvios, y la carta no los responde completamente: las pesas abiertas facilitan el uso indebido y dificultan el progreso, un mandato de pesas abiertas enfrentaría una feroz oposición de todos los inversionistas de los laboratorios, y los críticos de las posiciones anteriores de Amodei sobre los modelos abiertos chinos escucharán ecos de viejas peleas en la propuesta. Pero el desafío central de la carta no depende de que se adopte su política. Depende de una tensión que menciona explícitamente: un laboratorio que pide a los gobiernos que desaceleren a todos los demás, mientras su propia valoración depende de mantenerse a la vanguardia, todavía no ha pedido nada que le cueste algo.
Un debate que ahora es ineludible
Que Amodei responda o no no viene al caso. En un solo día, los laboratorios fronterizos pasaron de competir en capacidad a ponerse de acuerdo sobre la necesidad de ritmo, y la respuesta pública pasó de preguntar si la IA es peligrosa a preguntar si se puede creer a las personas que advierten sobre ella. La carta de Gold (unos cientos de palabras de detalles políticos en torno a una pregunta incómoda) se ha convertido en la expresión más aguda de ese escepticismo, y su viralidad sugiere que el debate sobre el ritmo se librará no sólo en Washington sino en público, en plataformas como Hacker News, donde la comunidad de pesos abiertos ha estado haciendo variaciones de este argumento durante años.
Manténgase a la vanguardia de la IA
Regulación, pesas libres y la lucha por el ritmo de la IA: todo cubierto sin exageraciones.
Leer más noticias sobre IA →
