অ্যাপল ম্যাকের এআই মডেলগুলিকে নাটকীয়ভাবে সহজতর করতে প্রস্তুত বলে মনে হচ্ছে। লিকার অ্যারন পেরিস হারবার নামে একটি নতুন অ্যাপল অ্যাপের প্রমাণ উন্মোচন করেছেন, যা মঙ্গলবার 9to5Mac রিপোর্ট করেছে যে একটি ম্যাককে একটি প্রাইভেট এআই ইনফারেন্স সার্ভারে পরিণত করার জন্য ডিজাইন করা হয়েছে - এমন একটি মেশিন যা সম্পূর্ণরূপে স্থানীয় হার্ডওয়্যারে ওপেন-ওয়েট এআই মডেলগুলি চালায়, বিল্ডিং থেকে কোনও ডেটা ছাড়াই।
পেরিস অন এক্স দ্বারা প্রকাশিত এই আবিষ্কারটি অ্যাপল কীভাবে ম্যাকের দ্রুত বর্ধনশীল ব্যবহারের ক্ষেত্রে একটি আনুষ্ঠানিক রূপ দেওয়ার পরিকল্পনা করছে তা স্পষ্টভাবে দেখায়: উত্সাহী এবং পেশাদাররা ক্লাউড পরিষেবার জন্য অর্থ প্রদানের পরিবর্তে স্থানীয়ভাবে এআই মডেলগুলি চালানোর জন্য বিশেষভাবে ম্যাক স্টুডিও এবং ম্যাক মিনি মেশিন কেনার জন্য। For more context on this story, see our ongoing AI industry coverage.
হারবার আসলে কি করে
পেরিস প্রকাশিত বিবরণ অনুসারে, হারবার ব্যবহারকারীদের অ্যাপল সিলিকনে স্থানীয়ভাবে ওপেন-ওয়েট মডেলগুলি চালাতে দেয়। পিচ হল প্রথম গোপনীয়তা: আপনার ডেটা কখনই আপনার হার্ডওয়্যার ছেড়ে যায় না এবং কিছুই ক্লাউডে পৌঁছায় না। এটি অ্যাপটিকে ক্লাউড-নির্ভর AI সরঞ্জামগুলির সরাসরি উত্তর হিসাবে অবস্থান করে যা আজকে বাজারে আধিপত্য বিস্তার করে এবং এটি ডিভাইসের প্রক্রিয়াকরণের উপর অ্যাপলের দীর্ঘস্থায়ী বিপণন জোরের সাথে সারিবদ্ধ করে।
অ্যাপটি মডেল ম্যানেজমেন্টও পরিচালনা করে। ব্যবহারকারীরা অ্যাপের মধ্যে থেকেই ওপেন-ওয়েট মডেলগুলি ব্রাউজ, ডাউনলোড এবং লোড করতে পারেন। পেরিসের সংক্ষিপ্ত বিবরণ অনুসারে, হারবার মডেল ম্যানেজমেন্ট পরিচালনা করে "যাতে আপনি সেটআপে নয়, কাজের উপর ফোকাস করতে পারেন" - কমান্ড-লাইন টুলস এবং ম্যানুয়াল কনফিগারেশনের সাথে একটি উল্লেখযোগ্য বৈপরীত্য যা স্থানীয় মডেলগুলি বর্তমানে চালনা করে।
ক্লাস্টারিং ম্যাক ওভার থান্ডারবোল্ট 5
সবচেয়ে আকর্ষণীয় বৈশিষ্ট্য হল ক্লাস্টারিং। হারবার দুই বা ততোধিক থান্ডারবোল্ট 5-সক্ষম ম্যাক কম্পিউটারকে সংযুক্ত করতে পারে এবং তাদের ইউনিফাইড মেমরিকে একটি একক অনুমান সম্পদে পুল করতে পারে। এর মানে ব্যবহারকারীরা এমন মডেলগুলি চালাতে পারে যা কোনো একক কম্পিউটার মেমরিতে ধারণ করতে পারে তার চেয়ে বেশি, অথবা একটি মেশিন একা পরিচালনা করতে পারে তার চেয়ে ক্লাস্টার জুড়ে আরও সমবর্তী অনুরোধগুলি পরিবেশন করতে পারে।
পদ্ধতিটি অস্বাভাবিক। বেশিরভাগ মাল্টি-মেশিন এআই ইনফারেন্স সেটআপগুলি উচ্চ-গতির নেটওয়ার্কিং ইন্টারকানেক্ট এবং বিশেষায়িত ডেটা সেন্টার হার্ডওয়্যারের উপর নির্ভর করে। অ্যাপলের বাস্তবায়ন থান্ডারবোল্ট 5-এর উপর ঝুঁকছে, উচ্চ-ব্যান্ডউইথ ইন্টারফেস এখন তার পেশাদার ম্যাক লাইনআপ জুড়ে উপস্থিত, গ্রাহক এবং প্রসুমার মেশিনগুলিকে একটি ছোট অনুমান সরঞ্জামের মতো কিছুতে বুনতে।
মিনিটে সেটআপ, ঘণ্টায় নয়
অ্যাপল স্পষ্টভাবে এমন ব্যবহারকারীদের লক্ষ্য করছে যারা কখনও সার্ভার স্পর্শ করেনি। হারবার স্বয়ংক্রিয়ভাবে একটি ক্লাস্টার তৈরি করতে Thunderbolt 5 এর মাধ্যমে সংযুক্ত ডিভাইসগুলি সনাক্ত করে — ফাঁস হওয়া বৈশিষ্ট্যের বিবরণ অনুসারে, কোনও ম্যানুয়াল কনফিগারেশন, কোনও কমান্ড লাইন এবং কোনও অবকাঠামো দক্ষতার প্রয়োজন নেই, প্লাগ ইন করুন, শুরু করুন এবং আপনি চালাচ্ছেন।
ব্যবহারের সেই সহজতাই হল অ্যাপের আসল পার্থক্যকারী। স্থানীয় AI মডেলগুলি চালানোর অর্থ সাধারণত রানটাইম ইনস্টল করা, মডেল হাব থেকে ওজন ডাউনলোড করা এবং হাতে মেমরি সেটিংস টিউন করা। হারবার সেই পুরো ওয়ার্কফ্লোকে একটি নির্দেশিত, ভোক্তা-গ্রেড ইন্টারফেসে মোড়ানো।
Claris ব্র্যান্ডের অধীনে একটি ব্যক্তিগত পূর্বরূপ
9to5Mac-এর মতে, হারবার বর্তমানে অ্যাপলের ক্লারিস ব্র্যান্ডের অধীনে একটি ব্যক্তিগত প্রিভিউতে রয়েছে, প্রস্তাব করে যে প্রকল্পটি তার প্রধান পণ্য গোষ্ঠীর পরিবর্তে অ্যাপলের সহায়ক সংস্থাগুলির মধ্যে একটির মধ্যে বসে। প্রতিবেদনে উল্লেখ করা হয়েছে যে অ্যাপটি সামনের সপ্তাহ এবং মাসগুলিতে জনসাধারণের জন্য চালু হবে বলে মনে হচ্ছে, যদিও অ্যাপল কোনও প্রকাশের পরিকল্পনা নিশ্চিত করেনি।
ব্যক্তিগত পূর্বরূপ স্থিতি মানে বৈশিষ্ট্য এবং ব্র্যান্ডিং কোনো পাবলিক প্রকাশের আগে পরিবর্তন হতে পারে। কিন্তু স্থানীয় অনুমানের জন্য নিবেদিত একটি পালিশ অভ্যন্তরীণ অ্যাপের অস্তিত্ব — ক্লাস্টারিং সহ সম্পূর্ণ — সংকেত দেয় যে স্থানীয় AI শখের কুলুঙ্গি থেকে অ্যাপলের অভ্যন্তরে কৌশলগত পণ্য এলাকায় চলে গেছে।
কেন ম্যাক একটি এআই ওয়ার্কহরস হয়ে উঠছে
9to5Mac নোট করেছে যে ম্যাক এই বছর যথেষ্ট জনপ্রিয় হয়ে উঠছে, নতুন ম্যাকবুক নিও-এর মতো বাজেট-বান্ধব বিকল্পগুলির কারণে এবং ম্যাক স্টুডিও এবং ম্যাক মিনি হার্ডওয়্যারে স্থানীয়ভাবে এআই মডেলগুলি চালানোর জন্য সরঞ্জাম হিসাবে মেশিনগুলির আবেদনের কারণে।
অ্যাপল সিলিকনের ইউনিফাইড মেমরি আর্কিটেকচার হল অন্তর্নিহিত কারণ: যেহেতু CPU এবং GPU দ্রুত মেমরির একটি পুল ভাগ করে, তাই বড় ভাষা মডেলগুলিকে সম্পূর্ণরূপে লোড করা যায় এবং তুলনামূলক GPU সার্ভারগুলির একটি ভগ্নাংশ খরচ করে এমন মেশিনে দক্ষতার সাথে পরিবেশন করা যায়। এটি বাড়িতে বড় ওপেন-ওয়েট মডেলগুলি চালানোর বিকাশকারীদের মধ্যে ম্যাক স্টুডিও মেশিনগুলিকে একটি সাধারণ দৃশ্যে পরিণত করেছে৷
বিকাশকারী এবং ছোট দলগুলির জন্য এটির অর্থ কী
বর্ণনা অনুযায়ী হারবার জাহাজ থাকলে, ব্যবহারিক প্রভাব সুবিধার বাইরে চলে যায়। ছোট দলগুলি যেগুলি আজ একটি ওপেন-ওয়েট মডেল পরিবেশন করার জন্য ক্লাউড জিপিইউ ভাড়া করে, পরিবর্তে একটি ডেস্কের একটি ম্যাক ক্লাস্টারে তাদের সরঞ্জামগুলি নির্দেশ করতে পারে, ঘরে ডেটা রেখে এবং কেবলমাত্র তাদের ইতিমধ্যেই মালিকানাধীন হার্ডওয়্যারের জন্য অর্থ প্রদান করতে পারে। সমসাময়িক অনুরোধগুলি পরিবেশন করার উপর অ্যাপের জোর পরামর্শ দেয় যে অ্যাপল এমন কাজের চাপের কথা ভাবছে যেখানে একাধিক ব্যক্তি বা পরিষেবা একই মডেলে আঁকেন, একক ব্যবহারকারীর সাথে চ্যাট করার পরিবর্তে।
এটি পরীক্ষার জন্য বাধাও কম করে। একটি ওপেন-ওয়েট মডেলের স্ব-হোস্টিং সম্পর্কে আগ্রহী একজন বিকাশকারীকে বর্তমানে একটি একক অনুরোধ পরিবেশন করার আগে রানটাইম, কোয়ান্টাইজড ওজন এবং মেমরির গণিতকে একত্রিত করতে হবে। একটি নির্দেশিত অ্যাপ যা হার্ডওয়্যার সনাক্ত করে, মডেল ডাউনলোড করে এবং ক্লাস্টার পরিচালনা করে সেই সেটআপের প্রায় সমস্ত খরচ সরিয়ে দেয়।
মেঘের বিরুদ্ধে একটি গোপনীয়তা খেলা
যদি বর্ণনা অনুযায়ী হারবার জাহাজ চলে, তবে এটি অ্যাপলকে তার প্রতিদ্বন্দ্বীরা যে প্রশ্নের সাথে লড়াই করেছে তার একটি পরিষ্কার উত্তর দেবে: একটি মূলধারার কম্পিউটার নির্মাতা এমন লোকেদের কী অফার করে যারা তাদের ডেটা অন্য কারও ডেটা সেন্টারে না পাঠিয়ে সক্ষম এআই চায়? উত্তর, দেখা যাচ্ছে, এমন একটি অ্যাপ হতে পারে যা আপনার ডেস্কে থাকা মেশিনটিকে ডেটা সেন্টারে পরিণত করে।
আপাতত, বিশদটি ঘোষণার পরিবর্তে ফাঁস থেকে যায় এবং অ্যাপল প্রকাশ্যে কিছুই বলেনি। তবে ব্র্যান্ডিং, বৈশিষ্ট্য সেট এবং সময়ের মধ্যে, হারবারকে আরও আকর্ষণীয় এআই পণ্যগুলির মধ্যে একটির মতো মনে হচ্ছে যা আগামী কয়েক মাস ধরে দেখার জন্য চালু হয়েছে।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
