تشغيل Claude Code مع Ollama لتوفير تكاليف الذكاء الاصطناعي بنسبة 99%

BBetter Stack
컴퓨터/소프트웨어AI/미래기술

스크립트

00:00:00أولاما (Ollama) هو خادم نماذج بدون واجهة رسومية، حاز على أكثر من 176,000 نجمة على غيت هاب، ويتيح لك تشغيل النماذج المفتوحة
00:00:06من خلال أي تطبيق أو وكيل، بما في ذلك كلود كود (Claude Code) وكوديكس (Codex) وحتى أوبن كلود. يمكنك توجيه
00:00:12أدواتك إلى أولاما، الذي يدير النماذج المحلية أو يوجه حركة بياناتك إلى النماذج المستضافة في كلود
00:00:18كود. على سبيل المثال، يمكنك تغيير متغير بيئة عنوان الرابط الأساسي للإشارة إلى خادم أولاما الخاص بك
00:00:23الآن يعمل كل شيء تماماً كما كان من قبل، ولكنك فتحت إمكانية الوصول إلى مئات
00:00:28النماذج بدلاً من أربعة فقط، مثل نماذج GLM وDeepSeek وحتى النماذج المحلية مثل Gemma وQwen، وهي متاحة جميعها.
00:00:34هذا مكسب كبير لأنه يمكنك الاستمرار في استخدام جميع الأدوات التي تحبها بنفس الطريقة تماماً،
00:00:38ولكنك الآن أتحت لنفسك الوصول إلى أي نموذج يخطر ببالك. اليوم سنختبر أولاما.
00:00:44سنحاول تشغيل النماذج المفتوحة من خلال كلود كود ونرى ما إذا كان استخدامه يستحق العناء مقارنة بالمنافسين الآخرين
00:00:50مثل vLLM وLM Studio. عندما نقوم بتشغيل واجهة سطر أوامر أولاما مباشرة، فإنها تمنحنا خيارات لتشغيل أدوات سطر أوامر أخرى
00:01:01مثل كلود كود أو أوبن كود، ثم القدرة على اختيار نموذجنا المفضل. الآن أنا داخل أوبن
00:01:07كود، لكنني أشغل نموذج Gemma 4 عبر أولاما، والآن يمكنني كتابة شيء مثل “هل أنت مشترك في بيتر ستاك (Better Stack)؟”
00:01:12وإذا كانت الإجابة لا، فلماذا لا تشترك أسفل هذا الفيديو؟ لسنا بحاجة حتى للمرور عبر
00:01:17واجهة سطر أوامر أولاما على الإطلاق. مع كلود كود، على سبيل المثال، يمكنك ببساطة تغيير متغيرات البيئة للإشارة إلى
00:01:23أولاما، وتغيير الرابط الأساسي ورموز الوصول (API tokens)، والآن يمكنك تشغيل كلود كود مباشرة ليُشير إلى
00:01:29أي نموذج تريده. النتيجة هي أنني الآن داخل كلود كود، يمكنني استخدامه تماماً كما فعلت من قبل ولكن
00:01:34الآن أقوم بتشغيله باستخدام نموذج مفتوح المصدر. يمكنك حتى تشغيل النماذج مباشرة مع أولاما، مثل تشغيل
00:01:40Gemma 4 وهو نموذج متعدد الوسائط، ويمكنني طرح أسئلة عليه للتعرف على محتويات صورة، ويمكنك
00:01:46حتى الدخول إلى بيئة أولاما مباشرة للدردشة مع نماذج مثل Gemma، فلا تحتاج إلى أي أداة طرف
00:01:51ثالث على الإطلاق. حسناً، نحن في واجهة الأوامر هنا وسأكتب فقط “ollama” للدخول إلى واجهة سطر الأوامر
00:01:57ويمكنك أن ترى هنا أن لدينا مجموعة من الخيارات للوكلاء أو البيئات المختلفة التي يمكننا الدخول إليها
00:02:01يمكننا الدردشة معها مباشرة، ولكن في هذه الحالة سأدخل إلى كلود كود، ويمكنك أن ترى
00:02:05أيضاً أن النموذج الافتراضي الذي قمت بتنزيله بالفعل هو Gemma 4. الآن نحن داخل كلود كود و
00:02:11يمكنك رؤية أننا نستخدم Gemma 4 مع “جهد عالٍ”. يذكر هنا “استخدام واجهة برمجة التطبيقات والفوترة”، ولكن لأن هذا في الواقع
00:02:17نموذج محلي، فلن يكلفنا أي شيء على الإطلاق، لذا يمكننا كتابة رسالة مثل “مرحباً”. بمجرد أن يرد النموذج
00:02:23يمكنك أن ترى أنه لا يزال يعتقد أنه كلود كود، باستثناء أنه لا يزال يشغل نموذج Gemma
00:02:284، لذا حصلنا على رد “مرحباً، أنا كلود كود، مساعدك لكل ما يتعلق بهندسة البرمجيات”. لذا
00:02:34هذا يعني أنه يمكنك الآن المتابعة في استخدام كلود كود تماماً كما كنت تفعل من قبل، ولكنك خدعته
00:02:39بطريقة ما، لأنه بدلاً من استخدام نماذج أنثروبيك (Anthropic)، أنت تستخدم بالفعل نموذجاً محلياً ومفتوح
00:02:44المصدر. الآن هناك الكثير من النماذج الأخرى المتاحة، يمكنك رؤية ذلك هنا على ollama.com. بالبحث
00:02:49لدينا خيارات للعديد والعديد من النماذج بما في ذلك أشياء مثل Qwen 3.6
00:02:55لدينا Minimax، وأنا متأكد من أن لدينا.. نعم، عائلة DeepSeek موجودة هنا أيضاً. لذا بشكل أساسي أي نموذج شائع
00:03:01يمكنك التفكير فيه سيكون متاحاً، ولتشغيله يمكننا فقط كتابة أمر مثل
00:03:05ollama run Qwen 3.6، وإذا لم يتم تنزيل النموذج، فسيبدأ في تنزيله، لذا
00:03:11سيتعين عليك الانتظار بعض الوقت حتى يكتمل التنزيل، ولكن بمجرد توفره يمكنك بعد ذلك تشغيله على
00:03:15جهازك. الآن دعونا نتحقق من ذلك البرنامج النصي للكشف عن الصور، لذا يمكنني القول ollama run Gemma 4
00:03:20وبين علامتي تنصيص نقول “ماذا يوجد داخل هذه الصورة” ثم نوجهه ببساطة إلى صورة موجودة
00:03:25بالصدفة في مجلد التنزيلات الخاص بي، وعلى الفور وبسرعة كبيرة في الواقع، نحصل على رد
00:03:29وقد قام بتحليل الصورة ويقول إن هناك قطة في الصورة، إنها قطة تابي، الوضع والحركة
00:03:35القطة مستلقية. كل هذا صحيح، وهذه هي الصورة التي تم إجراء الكشف ضدها. الآن
00:03:41ذاكرتك المتاحة وأداء النظام مهمان حقاً عند تشغيل النماذج المحلية. إذا كان لديك
00:03:45أقل من 24 جيجابايت من ذاكرة الفيديو (VRAM)، ستحصل فقط على 4 آلاف من السياق، ومن 28 إلى 48 جيجابايت من ذاكرة الفيديو تمنحك 32 ألفاً من السياق
00:03:52وأكثر من 48 جيجابايت من ذاكرة الفيديو تمنحك 256 ألفاً من السياق. مؤخراً، قامت أولاما أيضاً بتحديثات ضخمة عند
00:03:59التشغيل على نظام ماك أو إس. في مارس الماضي، انتقلت أولاما إلى MLX لمعالجات أبل سيليكون، وهو إطار عمل أبل للتعلم
00:04:06الآلي. يسمح هذا للنماذج بالاستفادة الكاملة من ذاكرتك الموحدة، ويسمح لأولاما بـ
00:04:11الاستفادة من مسرعات وحدة معالجة الرسوميات العصبية لتسريع وقت الرمز الأول وسرعة التوليد. بشكل أساسي، إنه
00:04:18أسرع. بعيداً عن جهازك المحلي، يمكن لأولاما أيضاً التشغيل داخل دوكر (Docker)، لذا يمكنك تشغيل خدماتك الخاصة
00:04:24التي تعتمد على النماذج المحلية. تتضمن الوثائق دليلاً كاملاً حول استخدام أولاما داخل حاوية، إما باستخدام
00:04:30وحدة المعالجة المركزية فقط أو مع وحدات معالجة رسوميات من إنفيديا أو أي إم دي، ثم يمكنك تشغيل النموذج داخل دوكر وحتى طلب curl
00:04:37مباشرة إليه. يتضمن مرجع واجهة برمجة التطبيقات أيضاً العديد من نقاط النهاية الأخرى التي يمكنك الاتصال بها. الآن، عند مقارنة أولاما بـ
00:04:44أدوات أخرى، يبدو vLLM أكثر ملاءمة لتشغيل النماذج كخدمات بدلاً من كونه أداة سطر أوامر محلية
00:04:49وهو أسرع بشكل ملحوظ لعمليات نشر الخادم بسبب مجموعة كاملة من تحسينات الأداء
00:04:54مثل أحدث معدلات إنتاجية الخادم، وإدارة الذاكرة الفعالة، والكمية. لذا إذا كنت
00:05:00تشغل خدمة مستضافة، فقد يكون vLLM هو الخيار الأفضل. LM Studio أقرب بكثير إلى أولاما من حيث
00:05:06سير العمل المحلي، ويأتي أيضاً مع واجهة رسومية جميلة. ومع ذلك، أود أن أذكر أن أولاما لديها
00:05:12واجهة رسومية رسمية خاصة بها إذا كان هذا شيئاً يثير اهتمامك. بالطبع هناك الكثير من الأدوات الأخرى في هذا
00:05:17المجال مثل AnythingLLM، التي غطيناها بفيديو كامل هنا. بخلاف ذلك، آمل أن تكون قد وجدت هذا
00:05:22مفيداً. كنت معكم أنا وارن من بيتر ستاك، شكراً لكم على المشاهدة، وأراكم في المرة القادمة.

핵심 요약

يؤدي دمج خادم أولاما المحلي مع أدوات مثل كلود كود إلى تشغيل نماذج مفتوحة المصدر دون تكاليف إضافية، مع توفير أداء يضاهي النماذج التجارية في بيئات العمل البرمجية.

하이라이트

  • يسمح تشغيل النماذج المفتوحة عبر خادم أولاما (Ollama) بتجاوز التكاليف المرتبطة بالنماذج التجارية بشكل شبه كامل.

  • يمكن دمج أدوات مثل كلود كود (Claude Code) مع النماذج المحلية عبر تعديل متغيرات البيئة ورابط واجهة برمجة التطبيقات الأساسي ليشير إلى خادم أولاما المحلي.

  • تتوافر نماذج مفتوحة متنوعة مثل Gemma 4 وQwen 3.6 وDeepSeek، والتي تعمل محلياً دون الحاجة لنموذج أنثروبيك المدفوع.

  • يعتمد سياق العمل المتاح للنماذج المحلية على ذاكرة الفيديو (VRAM): أقل من 24 جيجابايت يوفر 4 آلاف رمز، ومن 28 إلى 48 جيجابايت توفر 32 ألف رمز، وأكثر من 48 جيجابايت تتيح 256 ألف رمز.

  • انتقلت أولاما على نظام ماك أو إس إلى إطار عمل MLX، مما يتيح للنماذج الاستفادة من الذاكرة الموحدة ومسرعات وحدة معالجة الرسوميات العصبية لتسريع توليد الرموز.

타임라인

دمج أولاما مع أدوات الذكاء الاصطناعي

  • يعمل خادم أولاما كبوابة لتشغيل نماذج مفتوحة المصدر محلياً داخل تطبيقات مختلفة.
  • يمكن إعادة توجيه أدوات البرمجة عبر تعديل متغيرات بيئة الرابط الأساسي لتستهدف خادم أولاما المحلي بدلاً من الخدمات السحابية.

يعمل أولاما كخادم نماذج بدون واجهة رسومية، وهو ما يتيح توجيه حركة البيانات من أدوات مثل كلود كود إلى نماذج محلية. هذا الإجراء يفتح المجال أمام استخدام مئات النماذج مثل Gemma وQwen وDeepSeek بدلاً من الاكتفاء بالنماذج المحدودة التي توفرها المنصات التجارية.

إعداد بيئة العمل والتشغيل

  • يتم تشغيل كلود كود مع نموذج محلي عن طريق تغيير إعدادات الوصول ورموز المصادقة.
  • تسمح قدرات النماذج متعددة الوسائط مثل Gemma 4 بتحليل محتويات الصور برمجياً عبر أوامر سطرية بسيطة.

يمكن خداع أدوات مثل كلود كود لتعمل مع نماذج مفتوحة المصدر عبر تغيير مسارات الربط. لا تقتصر الاستفادة على النصوص فقط، بل تمتد إلى معالجة الصور عبر أوامر مباشرة، حيث يحلل النموذج الصور ويحدد تفاصيلها بدقة فورية.

متطلبات النظام والأداء

  • تتحدد سعة السياق (Context Window) المتاحة للنموذج وفقاً لحجم ذاكرة الفيديو (VRAM) المتوفرة في النظام.
  • يساهم إطار عمل MLX على معالجات أبل سيليكون في تسريع وقت توليد الرموز.
  • يعد vLLM خياراً أكثر كفاءة لنشر الخوادم التي تتطلب أداءً عالياً وإدارة ذاكرة متقدمة، بينما يتفوق أولاما في سهولة سير العمل المحلي.

تعد ذاكرة النظام عاملاً حاسماً، حيث توفر الأنظمة بذاكرة تتجاوز 48 جيجابايت سعة سياق تصل إلى 256 ألفاً. توفر أولاما أيضاً إمكانية التشغيل داخل حاويات دوكر، مما يسهل دمج النماذج المحلية في الخدمات السحابية أو التطبيقات المستضافة، مع وجود بدائل مثل vLLM للمقارنة عند الحاجة إلى معايير أداء مختلفة.

커뮤니티 글

모든 글 보기