Lab Linum Loro Wong Nglatih Model Teks-kanggo-Gambar kanthi rega $21K, Ngeculake Bobot Ing Apache 2.0

Laboratorium riset rong wong wis nglatih model teks-kanggo-gambar kanthi rega kira-kira $21,000 - lan dirilis ing sangisore lisensi kanthi ijin. Linum, didegake dening co-CEO Sahil Chopra lan Manu Chopra, nerbitake asil kasebut tanggal 4 November ing kiriman cathetan lapangan teknis, kanthi rincian 2-miliar-parameter Pixel-JiT (P-JiT) model dilatih ing 660 yuta conto minangka bukti-konsep ing dalan menyang model video sing luwih gedhe. Kode model lan bobot kasedhiya ing Apache 2.0, lisensi sing ngidini panggunaan komersial tanpa watesan. Iki minangka titik data sing nggumunake ing debat babagan pira regane riset AI kualitas ngarep, topik sing kita tindakake ing [liputan riset AI] (https://aibuzzwire.news).

Kenapa Skip VAE?

Umume pipa generasi gambar modern ngompres gambar kanthi nggunakake variational autoencoder (VAE) kapisah: VAE squeezes gambar menyang ruang laten kompak, lan model difusi ngasilake ing njero ruangan sing dikompres kasebut. Tim Linum ujar manawa divisi tenaga kerja iki wis tekan langit-langit. Ing nulis, dheweke nyathet yen VAE "kayane duwe langit-langit empiris babagan jumlah kompresi sing bisa ditindakake," sing nyurung kompresi luwih mbutuhake operasi gedhe kanggo arsitektur tradisional, lan nambah rekonstruksi VAE bisa ngrusak generasi model difusi hilir.

Wangsulane yaiku mbusak VAE kabeh. P-JiT minangka model spasi piksel — model difusi makarya kanthi langsung ing piksel lan sinau tujuan laten sing dibangun kanggo kasus panggunaan dhewe, ngompres lan ngasilake bebarengan. Taruhan iku model siji dilatih end-to-end bisa remet liyane metu saka ngitung padha saka tangan-mati antarane rong jaringan specialized.

Pembayaran Teknis

Jeneng arsitektur kasebut nuduhake tokenisasi sing bentuke piramida. Ing ngendi paling model saiki - Linum nyebut FLUX-2 minangka conto khas - nggunakake 16 × 16 abang token, P-JiT entuk 32 × 32 abang token , makili gambar 512 × 512 ing budget token sadurunge needed kanggo 256 × 256 gambar. Iki tegese nyuda 4× ing jendela konteks perhatian, lan perhatian yaiku kemacetan O(n²) sing nggawe latihan lan inferensi larang kanggo video generatif.

Asil, dening pangukuran tim dhewe: P-JiT converges ing 11 × sampel kurang saka Linum v2, model lab kang sadurungé dibangun ing luwih standar Wan VAE plus resep difusi DiT. Run $21K - 660 yuta conto latihan - ngasilake model sing digambarake dening tim minangka kompeten sing luar biasa amarga ukurane.

Apa $21K Tuku

Rilis kasebut kalebu 249 gambar sampel kanthi panjaluke, kalebu wong (57), kewan (42), bangunan (20), produk (43), lanskap (19), lan render gaya (68). Tim kasebut jujur ​​​​babagan posisi: iki minangka "rilis eksperimen" lan "watu loncatan" menyang target nyata, model video. Sampel kasebut nduduhake manawa arsitektur kasebut mlaku kanthi stabil lan ngasilake gambar sing koheren ing bagian sekedhik saka anggaran latihan konvensional, ora cocog karo model gambar perbatasan babagan kualitas.

Tulisan kasebut uga misuwur babagan cara tim nyathet mode kegagalan bebarengan karo asil. Dheweke nyathet watesan model kasebut langsung ing kiriman cathetan lapangan tinimbang ngubur, praktik sing umume umum ing laboratorium cilik sing reputasi gumantung karo kredibilitas tinimbang anggaran pemasaran. Kiriman kasebut minangka entri kaping papat ing seri "Road to Linum v3" tim, mbangun ing lelaran sadurungé ing ngendi arsitektur P-JiT pisanan diterangake - log teknis mlaku sing ngidini peneliti njaba ngetutake saben keputusan desain, kalebu sing ora bisa digunakake.

Kanggo konteks ing tokoh biaya: Linum $21K nutupi komputasi kanggo latihan 660 yuta sampel model 2B parameter. Iki ora langsung dibandhingake karo anggaran laboratorium perbatasan, sing kalebu akuisisi data, kepegawaian, lan eksperimen sajrone pirang-pirang operasi sing dibatalake. Apa sing ditetepake yaiku biaya marginal saka siji latihan sing sukses lan didokumentasikake kanthi terbuka - sawetara peneliti individu lan laboratorium universitas saiki bisa ngrancang kanthi realistis.

Ambisi Linum yaiku alat kreatif sing demokratisasi akses menyang animasi. Kritik tim babagan video generatif saiki yaiku alon-alon lan larang, lan ora duwe kontrol sing apik - kombinasi sing padha mbantah nggawe "ora ana gunane kanggo crita," amarga karya kreatif iku sifate iteratif: sampeyan nggawe, ngapiki, dadi luwih apik. Latihan sing luwih murah lan inferensi sing luwih cepet, ing framing, prasyarat kanggo nggawe video sing bener cocog karo alur kerja panyuntingan.

Lab Cilik, Sinyal Gedhe

Ekonomi sing ditampilake ing kene ora ngluwihi siji wiwitan. Latihan latihan sing nate ditetepake wates lapangan - diukur kanthi jutaan dolar - saiki dicocogake, ing domain sing sempit, dening tim loro sing mbuwang kurang saka gaji taunan insinyur senior sing khas. Rilis open-weights ing skala iki menehi peneliti independen kemampuan kanggo audit, fine-tune, lan mbangun arsitektur kelas produksi tanpa backing institusional.

Caveat kasebut adil kanggo nyatakake: model teks-kanggo-gambar 2B adoh saka wates kualitas gambar, lan klaim konvergensi Linum dilapurake dhewe tinimbang benchmarked kanthi mandiri. Nanging rilis kasebut bisa direproduksi kanthi lengkap - kode lan bobot ing Apache 2.0 - tegese sapa wae sing mamang bisa ngukur klaim kasebut kanthi langsung. Sing, luwih saka pathokan siji, yaiku sing nggawe rilis laboratorium cilik kaya iki: buktine bisa didownload.

Tetep Ahead saka AI

Riset sing biyen mbutuhake laboratorium perusahaan saiki cocog karo kertu kredit. Lacak saben terobosan ing [kabar riset AI] (https://aibuzzwire.news).

Waca liyane AI warta →