12 নভেম্বর, 2026-এ Edge0 ওপেন-সোর্সড Edge0-145B, একটি ছোট Edge0-120B, একটি ইউনিফাইড ইনফারেন্স ফ্রেমওয়ার্ক এবং স্থাপনার টুলের পাশাপাশি। স্টার্টআপটি Edge0-145B কে 145 বিলিয়ন প্যারামিটারে প্রথম ওপেন-সোর্স অন-ডিভাইস AI মডেল হিসাবে বর্ণনা করে এবং বলে যে এটি কোডিং, যুক্তি এবং এজেন্ট ক্ষমতা নিয়ে আসে যা ভোক্তা হার্ডওয়্যারের ফ্রন্টিয়ার ক্লাউড মডেলকে প্রতিদ্বন্দ্বিতা করে।

রিলিজটি হ্যাকার নিউজে 219 পয়েন্টে আরোহণ করার দিনেই অবতরণ করে, যেখানে একটি 100B-প্লাস প্যারামিটার মডেল সার্ভার ছাড়াই চলার সম্ভাবনা স্থানীয় অনুমান অনুসরণকারী বিকাশকারীদের কাছ থেকে যথেষ্ট মনোযোগ আকর্ষণ করেছিল। For more context on this story, see our ongoing AI industry coverage.

ল্যাপটপের দাবির পেছনের সংখ্যা

কোম্পানির ঘোষণা অনুসারে, Edge0-145B একটি সামঞ্জস্যপূর্ণ ব্যক্তিগত ল্যাপটপে চলে যেমন একটি MacBook Pro নিম্নলিখিত রিপোর্ট করা ফলাফলগুলির সাথে:

  • 29GB পিক মেমরি, ডেডিকেটেড সার্ভার ছাড়াই উচ্চ-সম্পন্ন গ্রাহক মেশিনে ফিট করার জন্য যথেষ্ট কম
  • প্রিফিল প্রতি সেকেন্ডে 1,100+ টোকেন, জেনারেশন শুরু হওয়ার আগে মডেল প্রসেসটি কয়েক ডজন পৃষ্ঠার কোড প্রম্পট করতে দেয়
  • প্রতি সেকেন্ডে 80+ টোকেন , যা কোম্পানি নোট করে যে একজন ব্যক্তির পড়ার চেয়ে দ্রুত।
  • আনুমানিক 120W সাধারণ শক্তি, রিপোর্ট করা সেটআপে থ্রটলিং ছাড়াই অপারেশন বজায় রাখা
  • 128K থেকে 256K প্রসঙ্গ, দীর্ঘ ইনপুটগুলিতে অপরিহার্যভাবে অপরিবর্তিত প্রজন্মের গতি সহ

এই পরিসংখ্যানগুলি স্বাধীন পরীক্ষার পরিবর্তে Edge0 এর নিজস্ব প্রকাশিত বেঞ্চমার্ক থেকে এসেছে এবং কোম্পানি সম্পূর্ণ স্ট্যাক প্রকাশ করেছে — ওজন, অনুমান কাঠামো এবং স্থাপনার সরঞ্জাম — যাতে বিকাশকারীরা তাদের নিজস্ব হার্ডওয়্যারে পরিমাপগুলি পুনরুত্পাদন করতে পারে।

কেন অন-ডিভাইস মডেলগুলি ছোট থাকে

ঘোষণায় কেন বড় মডেলগুলি ঐতিহাসিকভাবে ল্যাপটপ থেকে অনুপস্থিত ছিল সে সম্পর্কে দরকারী প্রসঙ্গ অন্তর্ভুক্ত করে। 2026 সালের সেপ্টেম্বরের আগে, মেমরির সীমা বেশিরভাগ অন-ডিভাইস মডেলগুলিকে 10 বিলিয়ন প্যারামিটারের নিচে রেখেছিল। অ্যাপল ইন্টেলিজেন্সের অন-ডিভাইস ফাউন্ডেশন মডেলে প্রায় 3 বিলিয়ন প্যারামিটার ছিল, যেখানে গুগলের জেমিনি ন্যানো 1.8B এবং 3.25B সংস্করণে পাঠানো হয়েছে।

সীমাবদ্ধতা শারীরিক: মডেলের ওজন অবশ্যই প্রতিটি প্রজন্মের ধাপে মেমরি থেকে পড়তে হবে, অপারেটিং সিস্টেম এবং অন্যান্য অ্যাপ্লিকেশনের সাথে ব্যান্ডউইথের জন্য প্রতিযোগিতা করে। এমনকি একটি আক্রমনাত্মকভাবে সংকুচিত 35B মডেলের জন্য প্রায় 20GB মেমরির প্রয়োজন হতে পারে, যা ফোনগুলি বরাদ্দ করতে পারে তার চেয়ে অনেক বেশি।

Edge0 এর আগের রিলিজ দেখায় যে কোম্পানির দৃষ্টিভঙ্গি কোথায় যাচ্ছে। Edge0-35B ফোন মডেলটি 2.5GB এর নিচে পিক মেমরির রিপোর্ট করেছে, একটি iPhone 18 Pro Max-এ প্রতি সেকেন্ডে 37+ টোকেন প্রদান করে। Edge0-145B-তে সেই মডেলের প্যারামিটারের প্রায় চারগুণ রয়েছে যখন এর ল্যাপটপ কনফিগারেশন 28GB মেমরিতে ডিকোড গতির প্রায় দ্বিগুণ রিপোর্ট করে — কোম্পানী সতর্কতা অবলম্বন করে যে এই পরিমাপগুলি বিভিন্ন মডেল এবং হার্ডওয়্যারের ক্ষেত্রে প্রযোজ্য।

একজন সহকারী যা কাজ শেষ করে

কাঁচা গতির বাইরে, Edge0 মডেলটিকে একটি চ্যাটবটের পরিবর্তে একটি এজেন্ট হিসাবে অবস্থান করে। ঘোষণাটি এমন একটি সিস্টেমের বর্ণনা দেয় যা 3D দৃশ্য, গেমস, হার্ডওয়্যার প্রোগ্রাম এবং PCB ডিজাইনের মতো প্রকল্পগুলির জন্য পরিকল্পনা করে, কোড লিখে এবং চালায়, ত্রুটিগুলি ডিবাগ করে এবং ফলাফলগুলি দৃশ্যমানভাবে পরীক্ষা করে৷

কোম্পানী রিপোর্ট করে যে কোডিং, যুক্তি এবং নির্দেশনা-পরবর্তী ফলাফলগুলি নির্দিষ্ট ফ্রন্টিয়ার ক্লাউড মডেলগুলির সাথে প্রতিযোগিতামূলক, যদিও এর প্রকাশিত তুলনাগুলি এখনও স্বাধীনভাবে যাচাই করা হয়নি। যেকোনো বিক্রেতা-প্রতিবেদিত বেঞ্চমার্কের মতো, ডেভেলপাররা সীমান্ত-স্তরের সমতা সম্পর্কে সিদ্ধান্ত নেওয়ার আগে তৃতীয়-পক্ষের মূল্যায়ন দেখতে চাইবে।

গোপনীয়তা এবং খরচ যুক্তি

ক্লাউড ওয়ার্কফ্লোতে পিচ তিনটি সুবিধার উপর নির্ভর করে। স্থানীয় অনুমানে প্রতি-টোকেন API ফি লাগে না, সংবেদনশীল ডেটা ডিভাইসে থাকতে পারে এবং মূল ক্ষমতাগুলি অফলাইনে কাজ করতে থাকে। নিয়ন্ত্রিত ডেটা পরিচালনা করে এমন উদ্যোগগুলির জন্য এবং ব্যান্ডউইথ-সংবদ্ধ পরিবেশে বিকাশকারীদের জন্য, এই বৈশিষ্ট্যগুলি হোস্টেড ফ্রন্টিয়ার মডেলের কাঁচা ক্ষমতাকে ছাড়িয়ে যেতে পারে।

হার্ডওয়্যার এবং বিদ্যুৎ অবশ্যই বিনামূল্যে নয়। Edge0 এটি সরাসরি স্বীকার করে, উল্লেখ করে যে এর পাওয়ার পরিসংখ্যান একটি টেকসই ~120W ড্র প্রতিফলিত করে — একটি উচ্চ-পারফরম্যান্স ল্যাপটপের সাথে তুলনীয় যা একটি চাহিদাপূর্ণ কাজের চাপ চালায়, যার ব্যাটারি লাইফ এবং থার্মালের জন্য বাস্তব প্রভাব রয়েছে।

স্থানীয় এআই ইকোসিস্টেমের জন্য এর অর্থ কী

ঘোষণার সহগামী বিশ্লেষণে ফোন, ল্যাপটপ এবং এআই পিসি-র জন্য 14টি ল্যাব থেকে কমপক্ষে 1B প্যারামিটারের 67টি উন্মুক্ত মডেল ট্র্যাক করা হয়েছে এবং গতিপথ খাড়া। যদি রিপোর্ট করা সংখ্যাগুলি স্বাধীন পর্যালোচনার অধীনে থাকে, তাহলে Edge0-145B গ্রাহক হার্ডওয়্যার যা হোস্ট করতে পারে তার একটি ধাপ পরিবর্তনের প্রতিনিধিত্ব করবে: একটি মডেল শ্রেণী যা এখন পর্যন্ত ডেটা সেন্টারের GPU গুলি ইতিমধ্যেই মালিকানাধীন মেশিনগুলিতে উপলব্ধ হওয়ার দাবি করে।

প্রতিযোগীরা একই দিকে এগোচ্ছে। মেটা তার মিউজ গ্লিমার ওপেন এজেন্টিক মডেলটি ভোক্তা জিপিইউতে চালানোর জন্য তৈরি করেছে এবং অ্যাপলের ফাউন্ডেশন মডেল ফ্রেমওয়ার্ক অন-ডিভাইস ইনফারেন্সে বিকাশকারীর আগ্রহকে নতুন করে তুলেছে। পার্থক্য হল স্কেল: বর্তমান ওপেন-ওয়েট ইকোসিস্টেমের কিছুই ল্যাপটপ-শ্রেণির মেমরি বাজেটকে লক্ষ্য করে 145B প্যারামিটারের কাছাকাছি আসে না।

কেন্দ্রীকরণ সম্পর্কে একটি তীব্র বিতর্কের মধ্যেও মুক্তি পাওয়া যায়। গোপনীয়তা-কেন্দ্রিক ব্রাউজার থেকে স্থানীয়-প্রথম অনুমান কাঠামোতে এজেন্টিক অর্থপ্রদানের প্রবাহ যুক্ত করা থেকে, শিল্পের ওপেন-ওয়েট ক্যাম্প 2026 ব্যয় করেছে এই যুক্তিতে যে সক্ষম AI-এর হাইপারস্কেলারের ডেটা সেন্টারে থাকার প্রয়োজন নেই। Edge0-145B সেই যুক্তিতে এখনও পর্যন্ত সবচেয়ে আক্রমনাত্মক ডেটাপয়েন্ট।

বিকাশকারীরা মডেলের ওজন ডাউনলোড করতে পারেন, ইনফারেন্স ফ্রেমওয়ার্ক অন্বেষণ করতে পারেন বা কোম্পানির সাইটের মাধ্যমে Edge0 অ্যাপটি চেষ্টা করতে পারেন। বেঞ্চমার্কগুলি সম্প্রদায়ের যাচাই-বাছাইয়ে টিকে থাকবে কিনা তা খোলা প্রশ্ন — তবে পুনরুত্পাদনের জন্য সম্পূর্ণ স্ট্যাক প্রকাশের সাথে, সেই যাচাই-বাছাই বেশি সময় নেওয়া উচিত নয়।

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →