نشر Qwen 3.5 على الأجهزة: دليل عملي لحل الحلقات المفرغة واختناقات الأجهزة

نتائج الاختبارات القياسية (Benchmarks) لا تكذب، لكنها لا تحكي الحقيقة كاملة في الميدان. لا يمكن إنكار أن سلسلة Qwen 3.5 Small قد رفعت كثافة الذكاء في الحوسبة الطرفية (Edge Computing). ومع ذلك، بمجرد تشغيل هذا النموذج على هاتف ذكي أو كمبيوتر محمول، ستواجه واقعاً بارداً بدلاً من الأرقام البراقة: الحلقات المفرغة (Infinite Loops)، الهلوسة الناتجة عن الفجوات المعرفية، والتقييد الحراري للأجهزة (Hardware Throttling). إن مجرد تشغيل النموذج شيء، والحصول على نتائج موثوقة شيء آخر تماماً.

وهم سياق 262K وحدود عرض نطاق الذاكرة

قدم Qwen 3.5 بنية شبكة دلتا الموابة (Gated DeltaNet)، مما قلل من التعقيد الحسابي إلى مستوى $O(n)$، ليعالج نظرياً 262,144 توكن. ولكن هل أجهزتك مستعدة؟ في مواقع النشر الفعلية، تنشأ الاختناقات ليس من سرعة الحوسبة، بل من عرض نطاق الذاكرة (Memory Bandwidth).

• 2,000 توكن: معالجة 3,918 توكن في الثانية (أداء سلس)
• 100 ألف توكن: انخفاض حاد إلى 60.66 توكن في الثانية (انخفاض بمقدار 64 ضعفاً تقريباً)

حتى مع عرض نطاق ترددي يبلغ 273 GB/s لشريحة M4 Pro، فإن عمليات قراءة ذاكرة التخزين المؤقت KV (KV Cache) تصبح مرهقة للغاية. إن محاولة حشر سياق طويل دون تدبر هي دعوة لتعطيل الخدمة. يجب الالتزام الصارم بنطاقات التحسين التي تتوافق مع سعة ذاكرة كل جهاز.

المواصفات الموصى بها للتحسين حسب الجهاز

نوع الجهاز	النموذج الموصى به (كمي - Quantized)	نطاق السياق	إطار العمل
iPhone 17 Pro	2B (Q6_K_M)	32K - 64K	MLX
MacBook Air (16GB)	4B (Q4_K_M)	64K - 128K	llama.cpp
كمبيوتر محمول اقتصادي (8GB)	0.8B (FP16)	8K - 16K	Ollama

إن التكميم (Quantization) الجماعي البسيط يقلل من الأداء. قم بتطبيق تقنية Unsloth Dynamic 2.0 التي تحافظ على الطبقات المهمة بدقة 8-bit أو أعلى، بينما تحول الباقي إلى 4-bit. التوازن بين الدقة والسرعة هو جوهر عملية النشر.

السيطرة على الحلقات المفرغة وعيوب وضع التفكير

ظاهرة تكرار المخرجات التي تحدث غالباً في طراز 2B هي أثر جانبي لعملية تدريب البيانات. ففي محاولة إزالة البيانات منخفضة الجودة، علق النموذج أحياناً في حالات معينة. خاصة في "وضع التفكير" (Thinking mode)، حيث تدمر حلقات المونولوج الداخلي تجربة المستخدم تماماً. ولحل هذه المشكلة، يجب استهداف معاملات المعاينة (Sampling parameters) بدقة.

أولاً، اضبط Presence Penalty بين 1.5 و 2.0. يجب قمع إعادة ظهور التوكنات التي ظهرت بالفعل بقوة لإجبار النموذج على البحث عن سياق جديد. ثانياً، اعتمد تصفية Min-P (0.01 - 0.05). يعمل هذا على إزالة الضجيج الموجود في ذيل توزيع الاحتمالات لمنع توليد جمل غير منطقية. ثالثاً، إدراج علامات تقييد في المطالبة (Prompt) مباشرة لـ "تحديد عملية التفكير في غضون 3 خطوات" هو الدفاع الأكثر موثوقية.

سير عمل Nano RAG للنماذج متناهية الصغر

يعاني نموذج 0.8B من ضحالة المعرفة، لذا فإن الهلوسة أمر معتاد. ولتعويض ذلك، هناك حاجة لبنية Nano RAG (Retrieval-Augmented Generation) التي تستهلك الحد الأدنى من موارد الجهاز.

استخدم Semantic Chunking لتقسيم النص إلى وحدات معنوية بدلاً من مجرد قصه عشوائياً. وفقاً لنتائج التجارب، يقدم نموذج 2B أدق الإجابات عند تزويده بـ 20 قطعة مستندات (Document chunks) مع قمع الضجيج. اختيار أسلوب هجين يجمع بين البحث المتجهي (Vector Search) والبحث بالكلمات المفتاحية (BM25) يمكن أن يقلل معدل الهلوسة بنسبة تزيد عن 30%.

بناء نظام بيئي مستدام للذكاء الاصطناعي على الأجهزة

أثارت أخبار رحيل مطورين رئيسيين من فريق Qwen في علي بابا مخاوف في مجتمع المصادر المفتوحة. لكن المهندس البارع لا يرهن مصيره بنموذج واحد. هناك حاجة لاستراتيجية تتجاوز الاعتماد على النموذج وتدير الحدود الفيزيائية للأجهزة.

عندما تتجاوز حرارة الهاتف الذكي 45°C، يبدأ التقييد الحراري (Throttling). في تلك اللحظة، تنخفض سرعة الاستنتاج إلى أقل من نصف السرعة العادية. في حالات العمل المكثف، ضع استراتيجية هجينة تنتقل مؤقتاً إلى واجهات برمجة التطبيقات السحابية (Cloud API) أو تعدل حجم العمل.

أيضاً، تحسباً لتأخر التحديثات الرسمية، يجب تأمين نماذج بصيغة GGUF التي يديرها مطورون مستقلون على Hugging Face. أحياناً تكون إصدارات "Fork" التي تم التحقق منها من قبل المجتمع أكثر كفاءة في استهلاك موارد الجهاز من النماذج الأصلية.

---

في النهاية، نجاح الذكاء الاصطناعي على الأجهزة لا يعتمد على حجم النموذج بقدر ما يعتمد على تفاصيل المهندس. إن ضبط Presence Penalty، وتعويض المعرفة عبر Nano RAG، وتعديل الحمل بناءً على حرارة الجهاز ليست خيارات، بل ضرورات. وبغض النظر عن التغييرات الداخلية في علي بابا، فإن الإنجازات التقنية التي أثبتها Qwen 3.5 أصبحت بالفعل بين أيدينا. المهمة الآن تقع على عاتقك في كيفية دمج هذه الأصول لحماية خصوصية بيانات المستخدم مع تقديم ذكاء قوي يعمل دون اتصال بالإنترنت.