En un momento en que los laboratorios fronterizos se apresuran a construir modelos de billones de parámetros que llenen los centros de datos, un desarrollador ha tomado la dirección completamente opuesta: un modelo funcional de lenguaje de preguntas y respuestas que cabe en un solo disquete de los años 80 y se ejecuta en una CPU lo suficientemente antigua como para haber sido enviada dentro de un 486DX.
El proyecto, llamado Tiny 2.1, fue descubierto por La-Tecnologia y retomado esta semana por Futurism y Tom's Hardware. Según la página del proyecto GitHub, el modelo completo pesa aproximadamente 380 KB de 8 bits (lo suficientemente pequeño como para caber cómodamente en un disquete con formato MS-DOS) y necesita sólo 540 KB de memoria para ejecutarse. Tom's Hardware informa que incluso pronuncia sus respuestas a través del humilde altavoz de la PC. Si le gustan las historias sobre cómo la IA rompe las expectativas, nuestros últimos desarrollos de IA cubren todo, desde la inferencia de borde hasta sistemas de frontera de billones de parámetros.
Un transformador que responde preguntas con 367.000 parámetros
Tiny 2.1 es una pequeña arquitectura de transformador con aproximadamente 367.000 parámetros, una fracción del tamaño de los modelos "ligeros" que normalmente miden unos pocos miles de millones. Fue escrito en Turbo C 2.0 y se ejecuta en MS-DOS, el sistema operativo que dominó la informática personal en los años 80 y principios de los 90, dirigido a máquinas tan antiguas como el Intel 486DX y las primeras generaciones de Pentium.
Sus datos de entrenamiento son, en consecuencia, minúsculos: sólo 3.500 hechos. Esa restricción define la experiencia de usarlo. En una captura de pantalla compartida en la página del proyecto, el modelo responde correctamente que las ballenas son mamíferos en lugar de peces y le da crédito correctamente a Alexander Graham Bell por haber inventado el teléfono. Sin embargo, cuando se le pide que calcule 17 por 23, responde "96". Y cuando se le pregunta quién es el rey de Francia, responde con confianza: "Era Antarce Newton", con un nivel de confianza del 100 por ciento.
No esperes un rendimiento similar al de Claude
Como señala claramente Futurism, el modelo "inventa respuestas casi todo el tiempo", porque simplemente no sabe mucho sobre el mundo. No hay una capa de recuperación, ni uso de herramientas, ni búsqueda en la web: solo una red neuronal compacta y los patrones que absorbió de su conjunto de entrenamiento de 3500 hechos.
Lo que hace que el proyecto sea notable no es tanto lo que el modelo puede hacer como lo que demuestra su existencia. La inferencia LLM moderna está asociada con gigabytes de memoria, aceleración de GPU y kilovatios de potencia. En cambio, Tiny 2.1 demuestra el concepto de que un transformador puede producir una interacción estructurada de preguntas y respuestas en hardware sin una unidad de punto flotante, sin requisitos de disco duro más allá de un disquete y una ruta de salida de audio tan primitiva como un altavoz de placa base.
IA construida con IA
También hay un metagiro. Según la página del proyecto, el desarrollador no escribió cada línea a mano: utilizaron Fable 5.2 de Anthropic para ayudar a escribir el código del modelo y Opus 5.5 para respaldar el proceso de capacitación. En otras palabras, un modelo lo suficientemente pequeño como para caber en un disquete fue creado y entrenado con la ayuda de sistemas de inteligencia artificial de escala fronteriza: un pequeño descendiente de padres muy grandes.
Ese flujo de trabajo refleja una tendencia más amplia en la ingeniería de IA, donde los modelos grandes generan, depuran y optimizan cada vez más los sistemas que se ejecutan en hardware mucho más pequeño. El mismo patrón aparece en las modernas cadenas de herramientas de IA perimetral, donde los modelos a escala de nube ayudan a comprimir y cuantificar redes para teléfonos, microcontroladores y dispositivos integrados.
Por qué son importantes los modelos pequeños
Tiny 2.1 no amenazará a ningún chatbot comercial. Pero proyectos como este sirven como un recordatorio útil de hasta dónde ha llegado la compresión de modelos y de hasta qué punto la inflación es una elección más que una necesidad. Los entusiastas de la informática retro han pasado años demostrando que el hardware con décadas de antigüedad sigue siendo capaz de realizar trabajos sorprendentes, desde Amigas con capacidad de navegador hasta máquinas de 8 bits conectadas en red. Un modelo de lenguaje que se una a ese linaje es el primero y divertido.
Las limitaciones de ingeniería que dieron forma a Tiny 2.1 también son un curso intensivo de eficiencia. Un formato de peso de 8 bits, un vocabulario y una arquitectura adaptados a la tarea y una ruta de salida diseñada en torno a las limitaciones del hardware se suman a un sistema en el que se contabiliza cada kilobyte. Compare esto con las implementaciones convencionales, donde la cuantificación, la poda y la destilación son correcciones retroactivas aplicadas a modelos creados a una escala mucho mayor, y donde una sola sesión de chat puede consumir más memoria que la que necesita todo el tiempo de ejecución de Tiny 2.1, incluidos los pesos.
También llega en un momento de escrutinio ambiental real en torno al apetito de poder de la IA, con investigadores y reguladores cada vez más centrados en el costo energético del entrenamiento y la inferencia a gran escala, y luchas por la ubicación de los centros de datos en todo Estados Unidos. Un modelo que funciona con 540 KB de memoria y una fuente de alimentación de los años 80 no es una solución a ese problema, pero es una vívida ilustración del otro extremo del espectro: la inferencia con una huella medida en vatios, no en megavatios. Los lectores que sigan hasta dónde se extiende el campo, desde los disquetes hasta los campus de gigavatios, pueden encontrar ambos extremos en nuestras [noticias de última hora sobre IA] (https://aibuzzwire.news).
Por ahora, el creador de Tiny 2.1 puede presumir de un logro genuinamente raro: una red neuronal que puedes instalar desde el mismo medio que usarías para guardar un documento de procesador de textos, en una máquina anterior a la web. Alucina constantemente, cita erróneamente la identidad de la realeza francesa con total confianza y no puede multiplicar números de dos dígitos de forma fiable. También se ejecuta, íntegramente, en un disquete.
Manténgase por delante de la IA
Desde modelos de disquete hasta laboratorios de vanguardia, lo rastreamos todo. Leer más noticias sobre IA →
