El director ejecutivo de Anthropic, Dario Amodei, ha rechazado la idea de que ha pintado una imagen demasiado pesimista de la inteligencia artificial, argumentando en una serie de publicaciones que la creciente reacción pública contra la tecnología es "fundamentalmente una crisis de confianza" en las instituciones, no el producto de advertencias de los ejecutivos de IA.
El intercambio, informado por TechCrunch el domingo, comenzó cuando el inversionista Gavin Baker argumentó en el podcast All-In y en X que las advertencias de Amodei sobre los peligros de la IA han ayudado a alimentar una reacción en los Estados Unidos, particularmente contra los centros de datos. Baker afirmó que Amodei ha "perdido la discusión" sobre la regulación de la IA y, dado que "está a punto de ser el director ejecutivo de una de las empresas más importantes del mundo", escribió: "Respetuosamente creo que debería hacer un esfuerzo para ser un defensor más positivo de su propia industria". Para más contexto sobre esta historia, consulta nuestra actualidad de inteligencia artificial.
La respuesta de Amodei, publicada en X, ha llamado la atención en toda la industria de la IA por lo que revela sobre cómo uno de los líderes más prominentes del campo interpreta el humor amargo del público, y por una autocrítica inusualmente contundente sobre las promesas incumplidas de la industria.
'La gente corriente no confía en las empresas'
Amodei reconoció en sus publicaciones que "el público tiene una visión negativa de la IA" y coincidió en que "esto es un gran problema". Pero rechazó la idea de que la negatividad sea "causada principalmente" por él "o por cualquier otro líder de IA que advierta sobre los riesgos de la IA".
"Creo que es fundamentalmente una crisis de confianza", escribió Amodei. "Creo que la gente corriente no confía en las empresas, los gobiernos o la industria tecnológica y siempre sospecha que estamos ideando alguna nueva forma de arruinarlos".
Según Amodei, se trata de una crisis que lleva décadas gestándose, y la reacción de la IA es "sólo la última versión de la misma". El comentario llega en un momento de tensión visible entre las empresas de IA y el público: las protestas contra la construcción de centros de datos se han extendido por todo Estados Unidos y la oposición de la comunidad ha retrasado repetidamente grandes construcciones este año.
Disputando el cargo de 'mensajes negativos'
Sobre la acusación específica de que su propia comunicación ha sido demasiado oscura, Amodei fue directo. "No estoy de acuerdo con que mis mensajes hayan sido desproporcionadamente negativos", escribió, diciendo que sus escritos han sido "casi igualmente equilibrados entre riesgos y beneficios". Señaló que escribió su ensayo "Machines of Loving Grace" precisamente porque "no sentía que la industria de la IA estuviera pintando una imagen lo suficientemente inspiradora de cómo la tecnología podría transformar radicalmente el mundo para mejor".
Pero el pasaje más citado de la respuesta de Amodei estaba dirigido a su propia industria, incluida su propia empresa. "Creo que, con diferencia, la crítica más acertada a las empresas de inteligencia artificial, incluida Anthropic, es que aún no hemos cumplido nuestras grandes promesas de beneficiar al mundo", escribió. "Eso depende totalmente de nosotros, y creo que es la crítica que deberías hacer, en lugar de todo este rollo sobre mensajería y marketing".
Prometer que la IA curará el cáncer, añadió, es "más un cliché que inspirador". Lo que realmente cambiaría la opinión pública, argumentó, es "en realidad curar el cáncer".
La lucha por la regulación
Amodei también rechazó el enfoque de Baker sobre la regulación, acusándolo de presentar "una elección falsa" entre distribuir ampliamente la IA sin reglas o concentrar la tecnología en manos de unas pocas empresas a través de reglas.
"Sé que hay una especie de taquigrafía de Silicon Valley donde regulación = captura regulatoria = concentración de poder, pero siempre me ha parecido una imagen demasiado simplificada del mundo", escribió Amodei. "Muchas personas fuera de esta burbuja piensan que la regulación es algo que limita el poder corporativo y beneficia a la gente común".
Dijo que Anthropic ha elaborado deliberadamente propuestas políticas para evitar afianzar a los titulares. "Nos esforzamos mucho en hacer propuestas que pongan en desventaja (ralenticen) a las empresas de vanguardia en IA y al mismo tiempo favorezcan a los competidores más pequeños", escribió. Anthropic ha abogado por requisitos de transparencia para las grandes empresas de inteligencia artificial, incluido un proyecto de ley de California que impone obligaciones de divulgación.
En cuanto a los modelos de peso abierto, un punto álgido en el debate político actual, con la Casa Blanca tomando medidas recientemente para eximir a los modelos de peso abierto de cierta revisión federal, Amodei ofreció una posición matizada. "La IA es estructuralmente una tecnología que tiende a concentrar poder", argumentó. Los pesos abiertos "ayudan a algunos con esto, pero no son una solución suficiente porque simplemente cambian un poco la concentración hacia aquellos con más computación y chip". Las "reglas del camino" correctas, dijo, pueden abordar simultáneamente los riesgos cibernéticos, biológicos y de alineación, limitar el poder de los laboratorios de vanguardia y dejar espacio para modelos abiertos.
Por qué es importante el intercambio
El debate llega en un momento delicado para Anthropic. La compañía está disfrutando de una ola de éxito comercial, con un crecimiento de ingresos que la ha convertido en una de las empresas tecnológicas más seguidas, y se espera que busque cotizar en bolsa. Al mismo tiempo, su director ejecutivo sigue siendo uno de los defensores más acérrimos dentro de la industria de tomar en serio los riesgos de la IA, una combinación que hace que sus mensajes sean un pararrayos.
El argumento de Baker refleja una corriente más amplia en el capital de riesgo y entre los impulsores de la IA: que el escepticismo público hacia la IA es en gran medida un problema de comunicación creado por la propia cautela de la industria. La respuesta de Amodei efectivamente invierte ese marco: el problema no es lo que dicen los líderes de la IA, sino lo que la industria no ha logrado ofrecer y lo poco que el público confía en las instituciones que construyen la tecnología.
Para una empresa cuya marca se basa en ser un laboratorio de IA responsable, la postura es coherente. Pero la concesión de Amodei (que la crítica más dura y precisa es la brecha de la industria entre las promesas y el cumplimiento) es una admisión notablemente sincera de un director ejecutivo cuya empresa ha hecho algunas de las mayores promesas de todas.
Las publicaciones también esbozan la posición que probablemente defenderá Anthropic a medida que se intensifican las luchas políticas en Washington: reglas de transparencia para los laboratorios fronterizos, protecciones que benefician a los competidores más pequeños y ninguna presunción general de que los pesos abiertos resuelvan el problema de concentración de poder.
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →
