क्या Google ने बना दिया सबसे बेहतरीन Edge AI मॉडल? (Gemma 4)

원제 · Did Google Just Make The ULTIMATE Edge AI Model? (Gemma 4)

10:263분 읽기Better Stack2026. 04. 12.컴퓨터/소프트웨어 · 어학(외국어) · 가전제품/카메라 · 스마트폰/모바일 · AI/미래기술

핵심 요약

Gemma 4 का E4B मॉडल 2.3 बिलियन सक्रिय पैरामीटर्स के साथ 1.5 GB रैम पर चलते हुए जटिल गणितीय तर्क और मल्टी-स्टेप एजेंटिक वर्कफ्लो को ऑफलाइन डिवाइस पर निष्पादित करता है।

하이라이트

  • Google ने Apache 2.0 लाइसेंस के तहत Gemma 4 ओपन-सोर्स मॉडल जारी किया है जिसमें 2.3 बिलियन पैरामीटर्स वाले छोटे वर्जन शामिल हैं।

  • Gemma 4 में "per-layer embeddings" तकनीक का उपयोग किया गया है जिससे प्रत्येक लेयर को अपनी विशिष्ट एम्बेडिंग मिलती है।

  • E4B मॉडल ने AIME 2026 गणित बेंचमार्क पर 42.5% स्कोर किया जो पिछली पीढ़ी के बड़े मॉडलों से दोगुना है।

  • Gemma 4 नेटिव रूप से मल्टीmodal है और विज़न, टेक्स्ट और ऑडियो को एक ही आर्किटेक्चर के भीतर प्रोसेस करता है।

  • यह मॉडल 128K कॉन्टेक्स्ट विंडो के साथ 140 से अधिक भाषाओं का समर्थन करता है और 1.5 GB से कम रैम पर चल सकता है।

타임라인

  1. Gemma 4 का परिचय और ओपन-सोर्स उपलब्धता

    यह रिलीज़ लोकल AI की सीमाओं को बढ़ाने की होड़ को तेज़ करती है। मॉडल का आकार 2.3 बिलियन पैरामीटर्स जैसा छोटा है जो इसे सीमित हार्डवेयर वाले एज डिवाइसेस के लिए उपयुक्त बनाता है। इसका उद्देश्य बिना इंटरनेट कनेक्शन के उच्च इंटेलिजेंस डेंसिटी प्रदान करना है।

    • Google ने Gemma 4 को पूरी तरह से ओपन-सोर्स Apache 2.0 लाइसेंस के तहत पेश किया है।
    • यह मॉडल विशेष रूप से iPhone, Android फ्लैगशिप और Raspberry Pi जैसे उपकरणों पर ऑफलाइन चलने के लिए बनाया गया है।

  2. आर्किटेक्चरल बदलाव और इंटेलिजेंस डेंसिटी

    पारंपरिक ट्रांसफॉर्मर के विपरीत जहाँ एक टोकन को शुरुआत में एक ही एम्बेडिंग मिलती है, Gemma 4 हर लेयर पर विशिष्ट डेटा का उपयोग करता है। यह आर्किटेक्चर इनफिनिट लूप और लॉजिक एरर्स को कम करता है। इसमें 128K कॉन्टेक्स्ट विंडो और 140 भाषाओं का व्यापक समर्थन शामिल है।

    • प्रति-परत एम्बेडिंग (per-layer embeddings) तकनीक मॉडल को प्रत्येक स्तर पर नई जानकारी पेश करने की अनुमति देती है।
    • E4B मॉडल इन्फरेंस के दौरान केवल 2.3 बिलियन सक्रिय पैरामीटर्स का उपयोग करके 5 बिलियन पैरामीटर वाले मॉडल जैसी तर्क गहराई देता है।
    • एक आंतरिक तर्क श्रृंखला उत्तर देने से पहले मॉडल के स्वयं के तर्क को सत्यापित करती है।

  3. बेंचमार्क परिणाम और एजेंटिक क्षमताएं

    आंतरिक परीक्षणों में यह मॉडल पिछली पीढ़ी के बड़े मॉडलों की तुलना में दोगुना प्रदर्शन करता है। यह केवल टेक्स्ट जनरेशन तक सीमित नहीं है बल्कि नेटिव फंक्शन कॉलिंग का उपयोग करके लाइव डेटा एक्सेस और विजेट बनाने जैसे कार्य भी कर सकता है। T2 बेंचमार्क पर इसकी टूल उपयोग सटीकता में महत्वपूर्ण सुधार देखा गया है।

    • E4B मॉडल ने AIME 2026 गणित टेस्ट में 42.5% की सटीकता प्राप्त की है।
    • एजेंट स्किल्स फीचर के माध्यम से मॉडल Wikipedia क्वेरी जैसे मल्टी-स्टेप वर्कफ्लो को संभालता है।

  4. स्थानीय कोडिंग और कार्यक्षमता परीक्षण

    LMStudio और CLINE का उपयोग करके किए गए परीक्षणों में E2B मॉडल का प्रदर्शन कोडिंग कार्यों में निराशाजनक रहा क्योंकि इसने फाइल के अंत में टास्क लिस्ट जोड़ दी और JavaScript फाइल बनाने में विफल रहा। हालांकि, E4B वर्जन ने कोडिंग के दौरान बेहतर तार्किक संरचना और कार्यक्षमता दिखाई। यह स्पष्ट है कि इतने छोटे मॉडल अभी भी जटिल प्रोग्रामिंग के बजाय बुनियादी कार्यों के लिए अधिक उपयुक्त हैं।

    • E2B मॉडल 1.5 मिनट में HTML और CSS कोड लिखता है लेकिन इसमें लॉजिक की कमियां पाई गई हैं।
    • E4B मॉडल वर्जन 3.5 मिनट में वर्किंग कार्ड फंक्शनलिटी के साथ बेहतर कोडिंग परिणाम देता है।

  5. एज डिवाइस पर प्रदर्शन और भाषा समर्थन

    Google के Edge Gallery ऐप पर परीक्षण करने पर मॉडल ने विज़ुअल पहचान में कुत्ता होने की पुष्टि की लेकिन नस्ल की गलत पहचान की। लातवियाई भाषा के परीक्षण में व्याकरणिक संरचना अजीब होने के बावजूद टेक्स्ट की सटीकता प्रभावशाली रही। वर्तमान में iOS के लिए आधिकारिक MLX बाइंडिंग की कमी है, लेकिन SwiftLM जैसे सामुदायिक प्रोजेक्ट अनौपचारिक समाधानों पर काम कर रहे हैं।

    • Lite RTLM फ्रेमवर्क के कारण iPhone पर मॉडल का रिस्पॉन्स टाइम बहुत तेज़ है।
    • मॉडल ने लातवियाई जैसी छोटी भाषा में OCR टेस्ट और चैट को सफलतापूर्वक पूरा किया है।
    • जनवरी 2025 का नॉलेज कटऑफ मॉडल की समकालीन जानकारी की सीमा को दर्शाता है।

설명

Google ने Gemma 4 की रिलीज़ के साथ छोटे मॉडल के परिदृश्य में हलचल पैदा कर दी है, जो उच्च-प्रदर्शन वाले ऑफ़लाइन उपयोग के लिए डिज़ाइन की गई एक वास्तविक ओपन-सोर्स सीरीज़ है। इस वीडियो में, हम E2B और E4B मॉडल्स को वास्तविक दुनिया के कई परीक्षणों से गुज़ारते हैं—M2 MacBook पर लोकल कोडिंग टास्क से लेकर iPhone 14 Pro पर मूल लातवियाई OCR और विज़न रीज़निंग तक। देखें कि Google का नया "Per-Layer Embedding" आर्किटेक्चर और नेटिव Thinking Mode इंटेलिजेंस डेंसिटी की इस अंतिम लड़ाई में मौजूदा चैंपियन, Qwen 3.5, के सामने कैसा प्रदर्शन करते हैं। 🔗 संबंधित लिंक Gemma 4: [https://deepmind.google/models/gemma/gemma-4/](https://deepmind.google/models/gemma/gemma-4/) ❤️ हमारे बारे में और जानें बेहतर ऑब्जर्वेबिलिटी स्टैक: [https://betterstack.com/](https://betterstack.com/) लिखित ट्यूटोरियल: [https://betterstack.com/community/](https://betterstack.com/community/) उदाहरण प्रोजेक्ट: [https://github.com/BetterStackHQ](https://github.com/BetterStackHQ) 📱 सोशल मीडिया Twitter: [https://twitter.com/betterstackhq](https://twitter.com/betterstackhq) Instagram: [https://www.instagram.com/betterstackhq/](https://www.instagram.com/betterstackhq/) TikTok: [https://www.tiktok.com/@betterstack](https://www.tiktok.com/@betterstack) LinkedIn: [https://www.linkedin.com/company/betterstack](https://www.linkedin.com/company/betterstack) 📌 अध्याय: 00:00 Gemma 4: क्या यह ओपन सोर्स का नया राजा है? 00:53 यह कैसे काम करता है: Per-Layer Embeddings (PLE) 01:45 नेटिव मल्टीमोडैलिटी और "Thinking" मोड 02:29 Google के आधिकारिक बेंचमार्क और एजेंट कौशल 03:20 लोकल कोडिंग टेस्ट: E2B बनाम E4B 07:18 मोबाइल परफॉर्मेंस और iPhone स्पीड टेस्ट 06:57 विज़न और OCR: लातवियाई भाषा परीक्षण 09:05 अंतिम फैसला

커뮤니티 글

모든 글 보기
이 영상에 대해 글쓰기