Alman yapay zeka şirketi Aleph Alpha, Almanca ve İngilizce için sıfırdan oluşturulmuş açık ağırlıklı Uzmanlar Karması dil modeli olan Kolibri'yi piyasaya sürdü. Model, toplam 78,1 milyar parametreyi barındırıyor ancak token başına bunlardan yalnızca 3,46 milyarını (yaklaşık yüzde 4,4) etkinleştiriyor ve Hugging Face'te izin verilen Apache 2.0 lisansı altında gönderiliyor. 1.048.576'ya kadar bağlam belirtecini kabul eder ve kullanıcıların istek başına muhakeme çabasını belirlemesine olanak tanır. Açık ağırlık ekosistemini takip eden okuyucular için bu, en son yapay zeka gelişmelerimiz ile birlikte yer alıyor.
Bu sürüm, Aleph Alpha'nın pazarını nerede gördüğüne dair kasıtlı bir açıklamadır: kamu yönetimi, sanayi ve havacılık gibi düzenlenmiş sektörlerde egemen dağıtım; bir modelin tam olarak nerede, hangi verilerle ve hangi yasal çerçeve altında eğitildiğinin bilinmesinin sahip olunması hoş değil, bir satın alma gerekliliği olduğu yer.
Kolibri gerçekte nedir
Teknik materyallerde Kolibri-1 olarak anılan Kolibri, Aleph Alpha'nın Almanya'daki ekipler tarafından uçtan uca geliştirildiğini söylediği iki dilli, İngilizce-Almanca bir MoE transformatörüdür. Şirketin teknik araştırma raporuna göre ekip, başka bir laboratuvarın kontrol noktasından başlamak yerine tüm hattı (veri, mimari, eğitim altyapısı, eğitim sonrası ve değerlendirme) kontrol etti.
Eğitim Almanya ve Finlandiya'da bulunan altyapı üzerinde gerçekleştirildi. Tasarım süreci açıkça AB Genel Amaçlı Yapay Zeka Uygulama Kuralları, AB Yapay Zeka Yasası ve GDPR'ye uyumu hedefledi ve Aleph Alpha bu Kuralların imzacılarından biridir. Şirket, veri hattının kişisel verileri eğitimden önce çıkardığını söylüyor; bu ayrıntı, vatandaş verilerini yasal olarak belirsiz menşeli modellere aktaramayan kamu sektörü alıcılarını doğrudan hedef alıyor.
Tek bir GPU'da çalışır
Konuşlandırılabilirlik sonradan akla gelen bir düşünce değil, açıkça bir tasarım kısıtlamasıydı. FP8 kontrol noktası yaklaşık 78 GB ağırlığındadır ve özel Kolibri muhakemesi ve araç çağrısı ayrıştırıcıları ile vLLM aracılığıyla sunulan tek bir NVIDIA B200, B300 veya H200 veya iki H100 SXM5 GPU üzerinde çalışır. 78 milyar parametreli bir model için bu, mütevazı bir donanım ayak izidir ve seyrek MoE tasarımının doğrudan getirisidir: jeton başına yalnızca 3,46 milyar aktif parametreyle, çıkarım maliyeti toplam yerine aktif parametre sayısını izler.
Az sayıda uzman ve hibrit dikkat
Kaputun altında Kolibri, model genişliği 2.560 olan 50 transformatör bloğunu istifliyor. Her MoE katmanı, 384 yönlendirilmiş uzmanın tamamını bir sigmoid yönlendiriciyle puanlar, her jetonu ilk 6'ya gönderir ve her zaman yanlarında 1 paylaşılan uzman çalıştırır. Uzman yükü, yönlendiricinin tüm trafiği bir avuç uzmanın üzerine yıkmasını önleyen, alfabetik çorba adlarına sahip iki teknik (Tam Kantil Dengeleme ve Yük Hatası Enjeksiyonu) kullanılarak dengelenir.
Dikkat, mimarinin daha ilginç hale geldiği yerdir. Kolibri, 48 sorgu kafası ve 4 KV kafasıyla gruplandırılmış sorgu dikkatini kullanır, ancak katmanlar tekdüze değildir: her beşinci blok, konumsal kodlama olmadan tam dikkati kullanır, diğer 40 blok ise RoPE ile önceki 512 jetonun üzerinde kayan pencere dikkatini kullanır. Pratik sonuç ise bellek verimliliğidir; kayan pencere katmanları sabit boyutlu bir KV önbelleği tutar, dolayısıyla 50 katmandan yalnızca 10'u bağlam uzunluğuyla birlikte büyür. Eşleştirilmiş bilgi işlemde Aleph Alpha, hibrit tasarımın eşdeğer bir tam dikkat modelinden dört kat daha uzun dizileri desteklediğini bildiriyor. Bu boyuttaki bir model, egzotik altyapıya sahip olmayan bir milyon jetonluk bağlam penceresini bu şekilde iddia ediyor.
Almanca için oluşturulmuş bir tokenizer
Sınır belirteçlerinin çoğu, Almanca'yı sonradan akla gelen bir düşünce olarak ele alıyor ve uzun bileşik sözcüklerini, belirteç sayılarını ve etkili maliyetleri artıran parçalara bölüyor. Aleph Alpha buna doğrudan, BPE'nin yaptığı gibi birleştirmeler oluşturan ancak her birleştirmeyi Unigram kaybıyla puanlayan 128.000 jetonlu bir kelime dağarcığı olan UniBPE ile saldırdı.
Rakamlar durumu ortaya koyuyor. Almanca metinde Kolibri'nin tokenizer'ı token başına 4,90 byte'a ulaşırken GPT-5 tokenizer'da 4,35 bayta ulaşıyor; bu da Almanca web metninde yüzde 11,2 daha az token anlamına geliyor. İngilizcede Kolibri, GPT-5'in 4,67'sine karşı jeton başına 4,58 baytla gerçekten de önde çıkıyor. Jetonla ödeme yapan kurumsal müşteriler için bu, her Almanca iş yükünde doğrudan bir indirimdir.
Sınır ölçeğinde eğitim verildi
Kolibri'nin arkasında yürütülen eğitim oldukça önemlidir. Ön eğitim, 768 NVIDIA B200 GPU'da 20 trilyon tokenı kapsadı ve bunu 65.536 token dizi uzunluğunda 3,44 trilyon orta eğitim tokenı izledi. Daha sonra boru hattı, talimat takip eden, muhakeme yeteneğine sahip nihai modeli üretmek için denetimli ince ayar ve pekiştirmeli öğrenme aşamalarından geçti. Şirket, süreci kapsayan bir teknik araştırma raporu yayınladı; bu rapor, bir Avrupa laboratuvarı için alışılmadık düzeyde bir açıklama yaptı ve açıkça düzenlemeye tabi müşterilerle güven oluşturmayı hedefledi.
Avrupa'nın yapay zeka hamlesi açısından bu ne anlama geliyor?
Kolibri, Amerikan ve Çin laboratuvarlarından gelen açık ağırlıklı yayınların tartışmaya hakim olduğu ve Avrupa hükümetlerinin dijital egemenlik konusunda giderek daha fazla ses çıkardığı bir pazara giriyor. Aleph Alpha'nın iddiası, bu pazarın bir diliminin (bakanlıklar, savunmaya bitişik sanayi, kritik altyapı) yalnızca açık ağırlıklı değil, aynı zamanda veri işleme, eğitim konumu ve yasal duruşu açısından doğrulanabilir Avrupalı bir model için para ödeyeceği yönünde.
Bu iddianın işe yarayıp yaramayacağı, sürümün henüz yanıtlamadığı sorulara bağlıdır: Kolibri'nin standart değerlendirmelerde sınır açık modellerle nasıl karşılaştırılacağı ve çevresinde bir takım ekosisteminin ne kadar hızlı oluştuğu. Sürümün ortaya koyduğu şey, artık AB içinde, gerekli evraklarla birlikte, tam kapsamlı, sınıra bitişik bir eğitim yeteneğinin var olduğudur. GDPR ve Yapay Zeka Yasasına bağlı kuruluşlar için bu kombinasyon, liderlik sıralamasındaki konumlardan daha önemli olabilir.
---
Yapay Zekanın Önünde OlunEn son yapay zeka haberlerini, analizlerini ve buluşlarını tek bir yerden alın.
Daha fazla AI haberini okuyun →
