Apple, yapay zeka modellerini Mac'te çalıştırmayı önemli ölçüde basitleştirmeye hazır görünüyor. Sızıntı yapan Aaron Perris, 9to5Mac'in Salı günü bildirdiği Harbor adlı yeni bir Apple uygulamasının kanıtlarını ortaya çıkardı; bu uygulama, Mac'i özel bir AI çıkarım sunucusuna (açık ağırlıklı AI modellerini tamamen yerel donanım üzerinde çalıştıran ve binadan hiçbir veri çıkmadan çalıştıran bir makine) dönüştürmek için tasarlandı.
Perris tarafından X'te yayınlanan keşif, Apple'ın Mac'in en hızlı büyüyen kullanım örneklerinden birini nasıl resmileştirmeyi planladığına dair şimdiye kadarki en net görünümü sunuyor: meraklılar ve profesyoneller, bulut hizmetlerine ödeme yapmak yerine özellikle AI modellerini yerel olarak çalıştırmak için Mac Studio ve Mac mini makineleri satın alıyor. For more context on this story, see our ongoing AI industry coverage.
Harbor Aslında Ne Yapıyor?
Perris'in yayınladığı ayrıntılara göre Harbor, kullanıcıların açık ağırlıklı modelleri yerel olarak Apple silikon üzerinde çalıştırmasına olanak tanıyor. Buradaki amaç öncelikle gizliliktir: verileriniz asla donanımınızdan ayrılmaz ve hiçbir şey buluta ulaşmaz. Bu, uygulamayı bugün pazara hakim olan buluta bağımlı yapay zeka araçlarına doğrudan bir yanıt olarak konumlandırıyor ve Apple'ın cihaz üzerinde işlemeye uzun süredir devam eden pazarlama vurgusuyla uyumlu.
Uygulama aynı zamanda model yönetimini de yönetir. Kullanıcılar uygulamanın içinden açık ağırlıklı modellere göz atabilir, indirebilir ve yükleyebilir. Perris'in özetinin belirttiği gibi, Harbor model yönetimini yönetiyor, "böylece kuruluma değil işe odaklanabiliyorsunuz"; bu, yerel modellerin çalıştırılmasının şu anda gerektirdiği komut satırı araçları ve manuel yapılandırmayla dikkate değer bir tezat oluşturuyor.
Thunderbolt 5 Üzerinde Mac'leri Kümeleme
En dikkat çekici özelliği kümelenmedir. Harbor, iki veya daha fazla Thunderbolt 5 özellikli Mac bilgisayarını bağlayabilir ve bunların birleşik hafızasını tek bir çıkarım kaynağında toplayabilir. Bu, kullanıcıların herhangi bir bilgisayarın hafızasında tutabileceği kapasiteyi aşan modelleri çalıştırabileceği veya küme genelinde bir makinenin tek başına idare edebileceğinden daha fazla eş zamanlı istek sunabileceği anlamına gelir.
Yaklaşım alışılmadık. Çoklu makineli yapay zeka çıkarım kurulumlarının çoğu, yüksek hızlı ağ bağlantılarına ve özel veri merkezi donanımına dayanır. Apple'ın uygulaması, tüketici ve pro-tüketici makinelerini küçük bir çıkarım cihazına benzeyen bir şeye dönüştürmek için artık profesyonel Mac serisinde mevcut olan yüksek bant genişliğine sahip arayüz Thunderbolt 5'e dayanıyor.
Kurulum Saatler Değil, Dakikalar İçinde
Apple açıkça hiçbir sunucuya dokunmamış kullanıcıları hedef alıyor. Harbor, bir küme oluşturmak için Thunderbolt 5 üzerinden bağlı cihazları otomatik olarak algılar; sızdırılan özellik açıklamasına göre, manuel yapılandırmaya, komut satırına ve altyapı uzmanlığına gerek kalmadan takın, başlatın ve çalışmaya başlayın.
Bu kullanım kolaylığı, uygulamanın gerçek fark yaratan özelliğidir. Bugün yerel yapay zeka modellerini çalıştırmak, genellikle çalışma zamanlarının yüklenmesi, model merkezlerinden ağırlıkların indirilmesi ve bellek ayarlarının elle ayarlanması anlamına gelir. Harbor, tüm iş akışını yönlendirmeli, tüketici sınıfı bir arayüzde tamamlıyor.
Claris Markası Altında Özel Önizleme
9to5Mac'e göre Harbour şu anda Apple'ın Claris markası altında özel bir önizlemede bulunuyor ve bu da projenin ana ürün gruplarından ziyade Apple'ın yan kuruluşlarından birinde yer aldığını gösteriyor. Raporda, Apple'ın herhangi bir sürüm planını onaylamamasına rağmen uygulamanın önümüzdeki haftalarda ve aylarda halka sunulmasının muhtemel göründüğü belirtiliyor.
Özel önizleme durumu, özelliklerin ve markalamanın genel yayınlanmadan önce değişebileceği anlamına gelir. Ancak yerel çıkarıma adanmış (kümelemeyle tamamlanmış) gösterişli bir dahili uygulamanın varlığı, yerel yapay zekanın hobi amaçlı bir nişten Apple içinde stratejik ürün alanına geçtiğine işaret ediyor.
Mac Neden Yapay Zekanın Güçlü Bir Aracına Dönüşüyor?
9to5Mac, hem yeni MacBook Neo gibi bütçe dostu seçenekler hem de makinelerin AI modellerini Mac Studio ve Mac mini donanımında yerel olarak çalıştırmaya yönelik araçlar olarak çekiciliği nedeniyle Mac'in bu yıl önemli ölçüde daha popüler hale geldiğini belirtiyor.
Bunun altında yatan neden Apple silikonun birleşik bellek mimarisidir: CPU ve GPU aynı hızlı bellek havuzunu paylaştığından, büyük dil modelleri tam olarak yüklenebilir ve karşılaştırılabilir GPU sunucularına göre çok daha düşük maliyete sahip makinelerde verimli bir şekilde sunulabilir. Bu, maksimuma çıkarılmış Mac Studio makinelerini, evde daha büyük açık ağırlık modelleri çalıştıran geliştiriciler arasında ortak bir görüş haline getirdi.
Geliştiriciler ve Küçük Ekipler İçin Ne İfade Ediyor?
Eğer Liman anlatıldığı gibi sevk edilirse pratik çıkarımlar rahatlığın ötesine geçer. Günümüzde açık ağırlıklı bir model sunmak için bulut GPU'ları kiralayan küçük ekipler, bunun yerine araçlarını masa üzerindeki bir Mac kümesine yönlendirerek verileri şirket içinde tutabilir ve yalnızca zaten sahip oldukları donanım için ödeme yapabilirler. Uygulamanın eş zamanlı istekleri karşılamaya verdiği önem, Apple'ın tek bir kullanıcının tek bir kullanıcıyla sohbet etmesi yerine birden fazla kişinin veya hizmetin aynı modelden faydalandığı iş yüklerini düşündüğünü gösteriyor.
Aynı zamanda deneme engelini de azaltır. Açık ağırlıklı bir modeli kendi kendine barındırma konusunda meraklı bir geliştiricinin şu anda tek bir isteği sunmadan önce çalışma sürelerini, nicelenmiş ağırlıkları ve bellek matematiğini bir araya getirmesi gerekiyor. Donanımı algılayan, modelleri indiren ve kümeyi yöneten rehberli bir uygulama, kurulum maliyetinin neredeyse tamamını ortadan kaldırır.
Buluta Karşı Gizlilik Oyunu
Harbor anlatıldığı gibi gönderilirse, bu Apple'a rakiplerinin uğraştığı bir soruya net bir yanıt vermiş olacak: Ana akım bir bilgisayar üreticisi, verilerini başka birinin veri merkezine göndermeden yetenekli yapay zeka isteyen insanlara ne sunuyor? Cevabın, halihazırda masanızda bulunan makineyi veri merkezine dönüştüren bir uygulama olabileceği ortaya çıktı.
Şimdilik ayrıntılar duyurudan ziyade sızıntı olarak kalıyor ve Apple kamuoyuna hiçbir şey söylemedi. Ancak markalama, özellik seti ve zamanlama göz önüne alındığında Harbor, önümüzdeki aylarda izlenecek en ilginç AI ürün lansmanlarından biri gibi görünüyor.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
