Biaya sing paling cepet tuwuh ing intelijen buatan bisa uga dudu kripik - bisa uga listrik sing menehi panganan. Ing tanggal 12 Oktober, Universitas Michigan ngumumake yen NVIDIA, perusahaan komputasi AI sing dominan ing donya, ngevaluasi carane nambahake rong alat hemat energi U-M menyang Megatron-LM, platform open-source NVIDIA sing akeh digunakake kanggo nglatih model basa gedhe. Miturut universitas kasebut, piranti lunak kasebut bisa nyuda energi sing dibutuhake kanggo nglatih AI nganti 50% - tanpa mengaruhi kacepetan latihan utawa kinerja model.
Warta penting ngluwihi rekaman publikasi lab. Megatron-LM dudu basis kode riset khusus: perusahaan bisa nggunakake langsung utawa minangka dhasar kanggo platform latihan pribadi sing disesuaikan, lan minangka platform sing digunakake kanggo nglatih model Nemotron unggulan NVIDIA, sing bisa didownload menyang piranti keras dhewe. Yen alat U-M dadi Megatron-LM, paningkatan efisiensi sing dikembangake ing laboratorium akademik bakal nyebar dadi bagean gedhe saka latihan AI ing donya. Kanggo liputan sing terus-terusan babagan balapan infrastruktur ing mburi AI, tututi perkembangan AI paling anyar ing homepage kita.
Apa Kareus lan Perseus Sejatine
Piranti loro kasebut nyerang sumber sampah sing beda ing latihan sing disebarake, lan tumpukan tabungan.
Perseus: Ngatur Kacepetan Prosesor
Perseus ngarahake komputasi sing wis ditemtokake. Ing latihan latihan gedhe, ora saben prosesor nindakake pakaryan sing migunani ing saben wayahe, nanging kabeh padha narik daya. Kanthi ngatur kacepetan prosesor supaya cocog karo karya nyata sing kasedhiya ing saben titik latihan, Perseus nyuda energi sing dibutuhake kanggo nglatih AI nganti 30%, miturut U-M.
Kareus: Wektu sing Luwih Cerdas kanggo Komputasi lan Komunikasi
Kareus target masalah subtler. Latihan model modern mbutuhake koordinasi atusan nganti ewu pemroses, lan karya dibagi antarane komputasi lan komunikasi chip-to-chip. Kareus nyuda energi latihan kanthi tambahan 15% nganti 30% kanthi nemokake wektu lan sumber daya sing paling efisien ing antarane tugas latihan lan komunikasi kasebut - gawe jadwal supaya ora ana sing nganggur ngenteni liyane.
Bebarengan, universitas kasebut ujar, alat kasebut bisa ngirit setengah saka energi sing digunakake kanggo nglatih AI nalika ngirim kacepetan latihan lan kinerja model pungkasan sing padha. Kareus uga minangka asil peer-review: alat kasebut ditampilake ing Simposium USENIX babagan Desain lan Implementasi Sistem Operasi (OSDI) ing wulan Juli, salah sawijining papan paling dhuwur kanggo riset sistem.
Napa Kapentingan NVIDIA Iku Kisah Nyata
Riset efisiensi akademik biasane ngadhepi dalan sing dawa kanggo produksi. Iki bisa uga beda-beda, amarga saka ngendi dheweke ndharat. Siswa doktoral, Ruofan Wu, ngenteni musim panas kepungkur ing NVIDIA nggabungake piranti lunak U-M menyang Megatron-LM minangka bagean saka internship - tegese alat kasebut dudu proposal nanging kode kerja ing tumpukan latihan NVIDIA, saiki ana ing evaluasi resmi.
"AI dadi keterbatasan kekuwatan amarga model dadi luwih gedhe lan luwih akeh wong sing pengin nglatih model, nanging kita bisa entuk kecepatan lan kinerja latihan sing padha nggunakake energi sing luwih sithik," ujare Wu, mahasiswa doktoral ing ilmu komputer lan teknik ing U-M, ing woro-woro universitas. "Ana akeh kesempatan kanggo ngoptimalake panggunaan energi AI ing tingkat piranti lunak lan perangkat keras, lan salah sawijining bagean magang sing paling bermanfaat yaiku kesempatan kanggo nggawa ide saka risetku menyang sistem produksi," dheweke nambah.
Tembung kasebut - watesan kekuwatan - minangka tembung kunci anyar ing industri. Tim riset U-M, sing uga kalebu mahasiswa doktoral Jeff Ma lan Jae-Won Chung bebarengan karo profesor asosiasi Mosharaf Chowdhury, nggarap NVIDIA babagan integrasi. Framing tim kasebut langsung: tujuane supaya AI nindakake pakaryan sing luwih migunani kanthi energi lan biaya sing luwih murah kanthi nemokake cara sing paling efisien kanggo koordinasi latihan ing atusan nganti ewu prosesor.
Energi Saiki Kendala Kelas Kapisan
Skala latihan perbatasan yaiku sing ngowahi tabungan persentase dadi angka strategis. Meta ngandika minggu iki sing model Muse Wonder anyar dilatih ing Prometheus, kang diterangake minangka pusat data gigawatt-ukuran. Nalika kampanye latihan siji mlaku ing skala kasebut, pengurangan energi tingkat persentase ora dadi kesalahan pembulatan; iku prabédan antarane pas latihan roto nang budget daya utawa ora.
Ekonomi ngetutake fisika. Energi wis dadi salah sawijining sumber daya gating kanggo ekspansi AI. Piranti lunak sing nyuda tagihan listrik saka latihan latihan - nggunakake hardware sing ana - ngganti kalkulus kanggo saben perusahaan sing nglatih model dhewe, lan utamane kanggo pemain cilik sing biaya energi minangka kendala.
Iku uga reframes debat lingkungan watara AI. Akeh diskusi umum wis fokus ing energi inferensi - daya sing dikonsumsi saben pitakon chatbot. Nanging latihan ing ngendi blok energi paling gedhe dikonsentrasi, lan pendekatan piranti lunak vendor-agnostik sing dideleng peer sing nyuda nganti setengah nawakake luwih langka tinimbang roadmap hardware: entuk efisiensi sing bisa teka karo rilis sumber terbuka sabanjure tinimbang mbangun pusat data sabanjure.
Apa Kelakon Sabanjure
Universitas kasebut ujar NVIDIA ngevaluasi cara nambah piranti lunak kasebut menyang platform pelatihan sumber terbuka. Yen dikirim ing Megatron-LM, adopsi bisa nyebar kanthi cepet amarga akeh kerangka digunakake ing industri lan akademisi. Program riset tim U-M sing luwih jembar terus golek penghematan energi ing tumpukan piranti lunak lan hardware - agenda sing katon niche sawetara taun kepungkur lan saiki katon kaya pusat game.
