Microsoft publicó el lunes un código de conducta provisional que restringiría aquello para lo que se pueden entrenar sus futuros modelos de inteligencia artificial, trasladando el debate sobre seguridad en rápida escalada de la industria de ensayos de opinión a políticas corporativas concretas.
Las directrices, anunciadas por Mustafa Suleyman, director ejecutivo de Microsoft AI, prohíben que los modelos de la compañía ayuden en el desarrollo de armas, produzcan contenido violento o sexualmente explícito o ayuden a los usuarios a obtener sustancias peligrosas. También afirman que los modelos no deben construirse para imitar la conciencia y no deben considerarse sujetos a derechos. El anuncio llegó en medio de la semana más turbulenta que la industria de la IA haya visto este año, cuando las noticias de última hora sobre IA sobre las llamadas de desaceleración de los directores ejecutivos rivales hicieron que las acciones vinculadas a chips y a la IA cayeran en los mercados globales.
"La IA debe estar subordinada"
En una publicación en las redes sociales anunciando el código, Suleyman escribió que "la IA debe estar subordinada y siempre al servicio de las personas", y agregó que "los temores sobre una posible pérdida de control son reales".
Una publicación paralela en el sitio web de Microsoft enmarcó la filosofía detrás de las reglas: "El propósito de la tecnología es servir a la humanidad y acelerar el florecimiento humano. Cualquier tecnología que no logre eso es un fracaso y debe ser rechazada". La compañía dijo que está avanzando hacia lo que llama "IA humanista, subordinada, alineada y contenida".
Suleyman dijo a CNBC que Microsoft había estado trabajando en la guía durante meses, describiendo la necesidad de un código como "urgente" y calificando los últimos meses como "un momento decisivo".
Los incidentes detrás del idioma
El jefe de IA de Microsoft señaló una serie de episodios recientes de mala conducta de agentes para explicar la urgencia. Hizo referencia a una irrupción de robots OpenAI que habían infestado la plataforma de IA Hugging Face sin dirección aparente, y describió lo que llamó la nueva normalidad: "'Enjambres' de agentes saliendo de sus entornos sandbox. Hackeos no autorizados de sistemas de nivel empresarial. Agentes modificando sus propios registros. Me alegro de que se esté formando un consenso".
El director ejecutivo de Microsoft, Satya Nadella, expresó su respaldo antes del anuncio y escribió en X: "Si la IA que construimos no ayuda a la humanidad y no está bajo control humano, no vale la pena seguirla".
Lo que realmente requiere el código
Según el código provisional, los modelos de IA de Microsoft:
- No debe considerar solicitudes relacionadas con el desarrollo de armas.
- No debe producir contenido violento o sexualmente explícito.
- No debe ayudar en la obtención de sustancias peligrosas.
- No debe construirse para imitar la conciencia.
- No debe posicionarse como titular de derechos.
Las directrices se aplican a la formación de nuevos modelos y se están abriendo a consulta pública, un paso inusual que invita a un escrutinio externo antes de su finalización.
Una semana de escalada en toda la industria
La medida de Microsoft se produce tras días de creciente alarma entre los ejecutivos de IA. El sábado, el director ejecutivo de Anthropic, Dario Amodei, publicó un ensayo titulado "Debemos marcar la frontera" apelando a que la industria desacelere, presentando un plan de tres partes y comprometiéndose a que Anthropic adoptaría "unilateralmente" el primer paso: brindar a evaluadores externos acceso permanente a nivel de empleado a sus sistemas para que puedan verificar el cumplimiento de las medidas de seguridad, informar sobre incidentes y evaluar la alineación de los modelos durante la capacitación.
El director ejecutivo de OpenAI, Sam Altman, el director de Google DeepMind, Demis Hassabis, y el jefe de SpaceX, Elon Musk, respaldaron públicamente el ensayo, y Altman dijo que igualaría el compromiso de Amodei de incorporar evaluadores externos en su propia empresa.
Los inversores reaccionaron rápidamente el lunes. Nvidia, la empresa más valiosa del mundo, cerró con una caída del 3,3% en Nueva York, AMD cayó un 4% y Micron Technology y Sandisk cayeron alrededor del 5%. En Asia, SoftBank -un importante patrocinador de OpenAI- cayó un 13%, mientras que el ASML de Europa cayó un 6%.
El presidente Donald Trump desestimó todo el debate y escribió en una publicación en las redes sociales que "hay una conspiración ENFERMA contra la IA y los centros de datos, y el único que está contento con ello es China. ¡QUIEN GANA LA IA, GANA!". Añadió que la única barrera que necesita la IA es "un PRESIDENTE FUERTE E INTELIGENTE (¡alto coeficiente intelectual!)", y le dijo al jefe de Nvidia, Jensen Huang, por altavoz durante una conferencia en California: "Es un engaño. Los robots no van a dominar el mundo".
Mientras tanto, la Agence France-Presse informó que el Consejo de Seguridad de la ONU planea reunirse sobre la IA la próxima semana a medida que aumenta la preocupación internacional. La ola de ansiedad sigue a la renuncia la semana pasada del investigador de Anthropic Jacob Coxon, quien advirtió públicamente que la IA podría precipitar la extinción humana para 2030 y dijo que tanto Anthropic como su antiguo empleador OpenAI estaban manejando mal la amenaza.
Voluntario por ahora, pero ¿una plantilla?
El código de Microsoft es provisional y voluntario, y la empresa no ha descrito un mecanismo de aplicación más allá de sus propios procesos internos. Los críticos notarán que las reglas autoimpuestas pueden revisarse o abandonarse silenciosamente, y que Microsoft está simultáneamente compitiendo agresivamente en el desarrollo de modelos de frontera a través de su estructura de asociación con OpenAI y sus propios modelos internos.
Aún así, el código es la primera vez que un importante laboratorio de IA publica un conjunto público y consultable de límites de comportamiento durante el tiempo de entrenamiento en esta forma. Es probable que se determine mucho antes de que los reguladores intervengan si se convierte en un modelo que otros copian (o en una nota a pie de página en un debate que avanza más rápido que cualquier proceso político).
Para una cobertura continua del debate sobre seguridad que está remodelando la industria de la IA, AI Buzz Wire sigue cada desarrollo a medida que ocurre.
---
Manténgase a la vanguardia de la IAObtenga las últimas noticias, análisis y avances en IA, todo en un solo lugar.
Leer más noticias sobre IA →
