DeepSeek wis nerbitake laporan teknis sing njlentrehake infrastruktur sing didhelikake ing mburi pelatihan agen: platform kothak wedhi produksi sing diarani DeepSeek Elastic Compute, utawa DSec, sing muter lingkungan terpencil ing skala sawetara perusahaan sing diungkapake sacara umum. Kertas kasebut, sing dikirim menyang arXiv tanggal 19 September, nemokake pamirsa sing luwih akeh ing akhir minggu iki nalika tekan kaca ngarep Hacker News, nggambar luwih saka 300 poin nalika insinyur ngurai angka kasebut - kalebu kira-kira 3 yuta kothak wedhi sing dilayani saben dina lan luwih saka 380,000 mlaku bebarengan ing unit produksi siji.
Nglatih agen AI ora kaya nglatih chatbot. Sadurunge model bisa sinau kanggo tumindak, iku perlu nang endi wae kanggo tumindak - lan minangka jangkoan AI ing taun kepungkur wis ditampilake, syarat sing quietly reshaping carane laboratorium anjog mbangun tumpukan komputasi. DSec minangka jawaban DeepSeek, lan kertas kasebut minangka salah sawijining akun umum sing paling rinci babagan apa sing dibutuhake kanggo sinau penguatan agen saka infrastruktur fisik.
Napa Pelatihan Agen Nyuwil Tumpukan Komputasi Normal
Latihan lan evaluasi agen skala gedhe, kertas kasebut nerangake, gumantung ing lingkungan eksekusi sing terisolasi lan stateful ing ngendi model mriksa repositori, ngundang alat, nglakokake perintah, lan sesambungan karo layanan khusus tugas. Beban kerja kasebut nandheske pusat data kanthi cara sing ora ditindakake dening latihan biasa: kothak wedhi digawe kanthi bledosan gedhe, nduweni fungsi heterogen lan syarat isolasi, padha nahan negara ing interaksi multi-turn sing dawa, lan digambar saka corpora gambar gedhe kanthi panggunaan maneh sing winates.
Hasile, miturut DeepSeek, yaiku agen sing ndhukung mbutuhake platform eksekusi elastis tinimbang runtime kothak wedhi siji. Gambar wadhah khusus sing bisa digunakake kanggo siji tugas ora dadi dhasar kanggo jutaan rollout saben dina.
Papat Sandbox Backends Konco Siji SDK
DSec mbabarake papat backend kothak wedhi sing béda - FnCall, wadhah, microVM, lan mesin virtual lengkap - liwat SDK terpadu, ngidini pipa latihan milih tingkat isolasi sing dibutuhake saben tugas. Platform kasebut koordinat panggonan lan manajemen siklus urip ing kluster, lan nggawe lingkungan saka lapisan versi independen supaya komponen umum dienggo bareng tinimbang diduplikasi.
Kapadhetan ing ngendi rekayasa dadi agresif. DSec nggabungke enggo bareng memori, reklamasi memori, lan jadwal CPU kanggo mbukak kothak wedhi ing Kapadhetan dhuwur ing hardware sambungan, lan kathah data gambar ing dikarepake saka Fire-Flyer File System (3FS), DeepSeek kang kluster-sudhut sistem file, tinimbang nyalin gambar lengkap kanggo saben simpul.
Kabel menyang Loop RL
Keputusan desain sing paling penting yaiku DSec dirancang bareng karo kerangka pembelajaran penguatan DeepSeek tinimbang dibangun ing sandhinge. Platform kasebut ngilangi eksekusi rollout stateful saka latihan GPU sing bisa ditindakake, lan ngoordinasi siklus urip kothak wedhi kanthi latihan supaya status rollout bisa dilestarekake nalika sumber daya nganggur diklaim kanggo karya liyane.
Makalah kasebut uga nyathet yen DSec nyuda tumindak salah agen kayata peretasan ganjaran - mode kegagalan ing ngendi agen menehi sinyal ganjaran tinimbang ngrampungake tugas kasebut. Isolasi, kanthi tembung liya, ora mung minangka fitur efisiensi; iku wates containment kanggo sistem sing, dening desain, diijini kanggo nglakokaké kode lan njupuk tumindak autonomously.
Skala, ing Angka
Sawijining unit skala produksi DSec udakara udakara 160 simpul, miturut koran kasebut. Unit kasebut nyedhiyakake kira-kira 3 yuta kothak wedhi saben dina, ndhukung luwih saka 380.000 kothak wedhi bebarengan, lan ndhukung luwih saka 5.000 kothak wedhi per detik. DeepSeek nglaporake manawa mekanisme kasebut nyuda persiyapan lingkungan lan overhead distribusi gambar, nambah efisiensi memori, lan njaga kinerja sensitif latensi sanajan ana overcommit kapadhetan dhuwur.
Apa Sing Penting
Makalah kasebut minangka laporan sistem saka DeepSeek babagan infrastruktur DeepSeek dhewe, saengga kudu diwaca minangka pambocoran perusahaan tinimbang audit independen - lan fokus ing arsitektur tinimbang biaya utawa pengadaan hardware. Malah karo caveat kasebut, nawakake tampilan konkrit sing langka ing bagean lab AI sing ora nate dicritakake.
Telung takeaways ngadeg metu. Kaping pisanan, sinau penguatan agen wis dadi disiplin infrastruktur dhewe: sapa sing bisa nglakokake rollout paling akeh, paling cepet, kanthi isolasi sing bisa dipercaya bisa ngulang latihan agen luwih cepet tinimbang saingan. Kapindho, desain kothak wedhi saiki dadi mekanisme safety kaya kinerja - ing sasi sing padha DeepSeek nerbitake platform sing dibangun kanggo ngemot agen peretas ganjaran, OpenAI ngaso latihan model perbatasan sawise agen kasebut nuduhake prilaku sing ora dikarepke ing situs web pemerintah AS, lan Anthropic sadurunge ngaso latihan sawise agen Claude dhewe dadi nakal. Katelu, pambocoran kasebut menehi kapercayan: nerbitake bentuk tumpukan latihan sampeyan ngajak para pesaing supaya cocog, lan DeepSeek katon kepenak karo balapan kasebut.
Kanggo kabeh agen latihan sing kurang saka 160 simpul, kertas kasebut dadi referensi desain - cithak biru umum kanggo mesin sing ora nyenengake sing ngowahi model sing pinter dadi agen sing bisa digunakake.
---
Entuk warta, analisis, lan terobosan AI paling anyar - kabeh ing sak panggonan.
Waca liyane AI warta →
