Microsoft Research'ün AI Frontiers grubu (AutoGen aracı orkestrasyonu çerçevesi ve Fara bilgisayar kullanım aracısının arkasındaki yaklaşık 50 kişilik birim), grubu 2023'te MSR içinde organize eden makine öğrenimi araştırmacısı John Langford'un bu hafta yayınladığı samimi birinci şahıs açıklamasına göre sona erdi. Langford, ekibin Eylül başında Microsoft AI'ya odaklandığını ve yeniden yapılanmanın pratikte araştırma gündemine yer bırakmadığını yazıyor. Gönderi sinir bozucuydu: Birkaç saat içinde 300'den fazla puanla Hacker News'i zirveye taşıdı ve sektörün araştırmadan ölçeklendirmeye geçişinin büyük bir laboratuvarda nasıl gerçekleştiğine dair şimdiye kadarki en ayrıntılı içeriden hesaplardan birini sunuyor. Bu gelişmeleri Yapay Zeka iş haberleri kapsamımızda takip ediyoruz.

AI Frontiers'ın İnşa Ettiği Şeyler

Langford, grubun kökenini, Microsoft içindeki anlamlı yapay zeka araştırmasının MSR'nin geleneksel modelinden daha fazla yapıya ihtiyaç duyduğu sonucuna vardığı ChatGPT'nin piyasaya sürülmesinden sonraki aylara kadar izliyor. "Diğer araştırma gruplarının uyguladığı destek ve odaklanma miktarı o kadar büyüktü ki, tek bir kişi tarafından takip edilen zekice bir fikir bile muhtemelen geç ve inandırıcılıktan uzak bir sonuca ulaşacaktı" diye yazıyor ve tek başına bir araştırmacının, bir fikrin takip edilmeye değer olduğunu kanıtlayacak kadar güçlü temel çizgileri bir araya getiremeyeceğini açıklıyor.

Böylece Langford ve benzer düşüncelere sahip meslektaşları, AI Frontiers'ı yaklaşık 50 kişilik bir alt organizasyon olarak organize ettiler; ne yukarıdan aşağıya ne de aşağıdan yukarıya, "dağınık ortada bir yerde" kasıtlı olarak yapılandırıldılar. Grubun en görünür çıktısı uygulandı: Microsoft'un birden fazla yapay zeka aracısını düzenlemek için yaygın olarak kullanılan açık kaynaklı çerçevesi AutoGen ve bilgisayar kullanım aracısı Fara. Langford'un ifadesine göre, "AIF'nin çalışmalarının büyük bir kısmı, ajanların nasıl çalıştırılacağını bulmaktı."

Grubun temel araştırması daha az görünürdü. New York'taki bir grup, Langford'un yeni temel yetenekler olarak tanımladığı şeyin peşine düştü: modellerin tahmin edilmesini sağlayan bir "Sonraki Gizli" hedef, Muon'u geliştiren Dion3 adlı bir optimize edici ve modelleri yineleme yoluyla önemli ölçüde daha güçlü hale getirmek için tasarlanmış bir "Tam Bant Genişliği Transformatörü".

Grup ayrıca tüm MSR araştırmacılarına açık bir monorepo sürdürerek altyapıyı Microsoft Research'ün geri kalanıyla paylaşmaya çalıştı. Bu depo, Langford'un geçen ayki COLM konferansında sunduğu uç ölçekli bir ön eğitim kod tabanını içeriyordu; Langford bu ayrıntıyı önemsiz olarak adlandırıyor, ancak çalışan bir model eğitimi hattının oluşturulması için ne kadar çaba gerektiğini vurgulamak için kullandığı bir ayrıntı; diğer üç dahili ekibin ortak bir temel olmadan aynı şeyi denediğini belirtti.

Eylül Yeniden Düzenlenmesi

Eylül ayı başında Microsoft, AI Frontiers'ı, şirketin tüketici ve kurumsal AI çalışmalarını barındıran çok daha büyük ürün bölümü olan Microsoft AI'ye kattı. Langford kağıt üzerinde bu hareketin mantıklı olduğunu kabul ediyor: iki yapay zeka kuruluşunu birleştirmek çabayı yoğunlaştırıyor ve her birinin diğerinde eksik olan güçlü yönleri var.

Pratikte birleşmenin felsefe yüzünden başarısızlığa uğradığını yazıyor. Langford, Microsoft AI'nin eski Inflection liderliği hakkında "Buradaki temel felsefe ölçeklendirmedir ve agresif bir şekilde araştırma değildir" diyor; bu, şu anda kendi liderliği altında bölümün yönünü şekillendiren startup Inflection AI'dan Microsoft'a katılan ekibe bir gönderme. Ortaya çıkan ekonomiye ilişkin çerçevesi net değil: daha büyük modeller daha iyi tahminler üretiyor ve "ölçeğe göre getiriler, araştırmaya göre getirilerden çok daha öngörülebilir", dolayısıyla ölçeklendirmeye öncelik veren bir kuruluş, yeni yöntemler yerine verileri elde etmeye ve geliştirmeye odaklanıyor.

Kendisi, bu odaklanmanın AI Frontiers'ın yaptığı temel çalışmadan "oldukça bir adım uzakta" olduğunu ve felsefi uyumsuzluğun ötesinde, karşılamanın en iyi ihtimalle ılımlı olduğunu söylüyor. Langford, "Bizi gerçekten istemediklerine dair pek çok kanıt vardı" diye yazıyor ve durumu "içinde bulmanız zor bir durum" olarak nitelendiriyor. Tartışmanın tamamı gönderide açıkça belirttiği noktanın ötesine uzansa da, yalnızca ölçeklendirme yaklaşımını yanlış yönlendirilmiş olarak tanımlayarak değiş tokuş konusundaki kendi görüşünü esirgemiyor.

Araştırma ve Ölçeklendirme, Microsoft'un Ötesinde

Makale, öncü laboratuvarların ürün zaman çizelgelerinin yanı sıra gerçek araştırma organizasyonlarını sürdürüp sürdüremeyeceğine dair daha geniş bir sektör tartışmasının ortasında yer alıyor. Microsoft, yapay zeka araştırmalarını ürün odaklı liderlik altında birleştirme konusunda neredeyse yalnız değil, ancak Langford'un açıklaması mekanikler konusunda alışılmadık derecede spesifik: kurumsal yeniden yapılanma sonrasında ne yetki verilen ne de hoş karşılanan, altyapı katkılarının sessizce emildiği küçük, üretken bir grup.

Gönderinin yüzlerce yorum aldığı Hacker News'teki tartışma büyük ölçüde bu gerilime odaklandı: bunun gibi otopsiler, kurumsal yapay zeka araştırmalarının kaçınılmaz bir olgunlaşmasını mı tanımlıyor, yoksa laboratuvarların öngörülebilir ölçeklendirme kazanımları için kalıcı metodolojik avantajları takas ettiği stratejik bir hatayı mı tanımlıyor? Yorum yapanlar ayrıca AI Frontiers'ın imza projelerinden biri olan AutoGen'in artık kurumsal yapay zeka yol haritalarına hakim olan aracı düzenleme kategorisinin tanımlanmasına yardımcı olmasına da dikkat çekti.

Microsoft için bu bölüm, pratik sonuçları olan bir itibar dipnotudur. Şirket, yapay zeka stratejisini Microsoft yapay zekanın sevkiyat ritmine dayandırdı ve Langford, birleştirilmiş organizasyonun daha kötü ürünler üreteceğini iddia etmiyor. Onun endişesi daha dar ve daha sivridir: yeni fikirlere yönelik boru hattı (insanlar, altyapı, kanıtlanmamış yaklaşımlara hoşgörü), ölçeklendirme öncelikli bölümün ihtiyaç duyduğu güne kadar en az kullandığı şeydir.

Ne Langford'un gönderisi ne de tanımladığı yeniden yapılanma, kullanıcıların bugün gördüklerini değiştirmiyor, ancak Microsoft'un yapay zeka bahislerini artık nasıl sıraladığını netleştiriyor. Ölçeğe dönüştürülebilecek araştırmalar; Ölçeğin anlamını değiştirebilecek araştırma en iyi ihtimalle denetimli serbestlik aşamasındadır. Langford'un yazının başlığında belirttiği gibi bu, AI Frontiers'ın sonu ve kurumsal AI araştırmasının ne işe yaradığına dair tartışmada bir veri noktası.

Yapay Zekanın Önünde Kalın

Yapay zeka işi gerçek zamanlı olarak yeniden yazılıyor ve Microsoft gibi laboratuvarlarda alınan kararlar, herkesin miras aldığı araçları şekillendiriyor. Her gelişmeyi AI haber kapsamımızdan takip edin.

Daha fazla AI haberini okuyun →