استبدلتُ بيئة عمل الـ LLM المحلية بالكامل بهذه الأداة (AnythingLLM)

BBetter Stack
Computing/SoftwareSmall Business/StartupsInternet Technology

Transcript

00:00:00هذا هو البديل لـ NotebookLM من جوجل: AnythingLLM
00:00:04إنه مساحة عمل مفتوحة المصدر للاستضافة الذاتية تتيح لك الدردشة مع قاعدة الأكواد والمستندات والبيانات الداخلية
00:00:10بالإضافة إلى ذلك، فهو يتمتع بخصوصية تامة، وعلى عكس معظم إعدادات نماذج اللغة المحلية
00:00:14لن تحتاج لدمج Llama مع LangChain وقاعدة بيانات متجهة واجهة مستخدم رخيصة فقط لجعله قابلاً للاستخدام؛ وخلال الدقائق القليلة القادمة
00:00:22سأوضح لك بالضبط كيف يستبدل كل تلك المكونات وهل يستحق فعلاً الانتقال إليه
00:00:30إذًا
00:00:32إليك المشكلة الحقيقية: النماذج المحلية أصبحت سهلة الآن، لكن سير العمل ليس دائمًا بهذه السهولة
00:00:38لديك Llama يعمل في نافذة أوامر، ونصوص LangChain في أخرى، وقاعدة بياناتك المتجهة في مكان آخر، وواجهة مستخدم جمعتها مؤقتًا
00:00:47نعم، هذا يعمل بالفعل
00:00:49لكن علينا الحذر هنا؛ AnythingLLM يدمج كل ذلك في مساحة عمل واحدة، حيث تحصل على تقنية RAG بالسحب والإفلات
00:00:56وباني وكلاء ذكاء اصطناعي مرئي بدون كود، وواجهة برمجة تطبيقات كاملة للمطورين مع أداة دمج، ويمكنك جلب مزوديك الخاصين مثل Ollama وLM Studio وGrok
00:01:04وxAI، لذا نحصل على أجزاء متحركة أقل مما يؤدي لسرعة الإنجاز؛ إذا كنت تستمتع بهذا النوع من المحتوى عن الأدوات التي تسرع
00:01:11سير عمل المطورين، تأكد من الاشتراك في قناة Better Stack. والآن دعوني أشرح هذا
00:01:16سأقوم بتثبيت تطبيق سطح المكتب هنا
00:01:18بعدها يمكنني ربط نسخة Llama المحلية الخاصة بي واستخدام LanceDB كقاعدة بيانات متجهة افتراضية
00:01:24لذا لا يوجد شيء إضافي لتهيئته هنا
00:01:27سأقوم بسحب مستودع Python وملف PDF يحتوي على وثائق
00:01:31سيقوم Anything تلقائيًا بتقسيم وتضمين وفهرسة كل هذا من أجلي
00:01:36يمكنني الآن أن أطلب “اشرح نقطة النهاية هذه في Fast API” مع الاستشهاد بالملف المحدد، وسيجيب مع استشهادات تشير لمسارات الملفات الحقيقية
00:01:43كل هذا يؤدي الآن لتقليل الهلوسة البرمجية
00:01:47سأنشئ وكيلاً سريعًا لتلخيص أهم منشورات Hacker News يوميًا. سأقوم بدمج أداة البحث في الويب وهذا كل شيء
00:01:54بضغطة واحدة؛ لا توجد تعقيدات Docker Compose التي نضطر لإضافتها عادةً
00:01:58هنا يبدأ الشعور بأنه طبقة إنتاجية إضافية
00:02:02مساحات العمل عبارة عن مشاريع معزولة، مما يعني بقاء عمل العملاء منفصلاً عن مشروعك الجانبي
00:02:09والذي بدوره يبقى منفصلاً عن الويكي الداخلي الخاص بك. هناك واجهة برمجة تطبيقات REST كاملة لدمج RAG خاص في
00:02:16لوحات التحكم الداخلية لبرامجك وحتى إضافة لبرنامج VS Code
00:02:20هذا رائع لأنك مع Anything لست مقيدًا بواجهة معينة
00:02:24باني الوكلاء المرئي يتيح لك ربط أدوات مثل استعلامات SQL والبحث في الويب عبر SERP API وعمليات الملفات وحتى
00:02:32خوادم MCP. وإذا كنت تريد مزيدًا من التحكم، نعم
00:02:34لا يزال بإمكانك استخدام LangChain داخل الوكيل. LanceDB هو المخزن المتجه الافتراضي
00:02:40لكن يمكنك الانتقال إلى PGVector أو Qdrant بضغطة واحدة
00:02:43هناك أيضًا أداة دردشة جاهزة يمكنك دمجها في منتجك، ويمكنك تبديل مزودي النماذج
00:02:50أثناء المحادثة دون إعادة التشغيل أو حتى إعادة الفهرسة. إذًا ما الفرق بين هذا والأدوات الأخرى؟
00:02:55التي نستخدمها بالفعل مثل NotebookLM أو Open WebUI؛ تلك الأدوات رائعة
00:03:00إذا كنت تريد بشكل أساسي واجهة دردشة Llama مع إضافات
00:03:03لكن AnythingLLM يضيف ميزات أقوى لتقنية RAG المدمجة، ومساحات عمل للوكلاء، وتطبيق سطح مكتب
00:03:08لديك PrivateGPT الذي يعمل جيدًا للإجابة على الأسئلة البسيطة من المستندات
00:03:12لكن AnythingLLM يضيف الوكلاء وواجهة برمجة تطبيقات كاملة فوق ذلك
00:03:16هناك أداة تسمى Dify تحدثت عنها في فيديو آخر؛ Dify وLangFlow قويان إذا كنت تحب سير العمل المرئي الكثيف
00:03:23لكنهما ثقيلان بشكل عام. مع AnythingLLM
00:03:26فهو أخف لحالات استخدام RAG المعتمدة بكثافة على المستندات. LangChain يعطي مرونة أكبر لكنك تبني كل شيء بنفسك
00:03:33الآن لنتحدث عما يحبه المطورون وما لا يحبونه بناءً على بحثي في X وريديت ومصادر أخرى
00:03:40يثني الناس باستمرار على واجهة برمجة التطبيقات لأنها تجعل تضمين RAG الخاص في التطبيقات الحقيقية أسهل بكثير
00:03:46نسخة سطح المكتب تجعل الانضمام أسهل من غيرها، وإذا كان لديك فريق، يمكن لعضو جديد التثبيت والربط و
00:03:54البدء في ذلك بسرعة كبيرة
00:03:55بالإضافة إلى أن القدرة المضافة على تبديل النماذج في منتصف الدردشة دون فقدان السياق هي ميزة ضخمة. ولأنه مفتوح المصدر يمكننا
00:04:01استضافته ذاتيًا، مما يعني إمكانية عرضه للعملاء أو للآخرين دون قلق بشأن خروج بياناتك من البيئة. أما في الجانب السلبي
00:04:09فإن تقنية RAG تحتاج أحيانًا لـ “تثبيت المستندات” لاسترجاع مثالي في المجموعات الكبيرة، وأتحدث هنا عن 500 مستند أو أكثر
00:04:16سوف تستهلك ذاكرة الرام في أجهزة اللابتوب الضعيفة، كما أن تدفقات الوكلاء قد تبدو تجريبية في بعض الحالات الخاصة
00:04:22لذا لن يكون مثاليًا. لكن بالنسبة لمعظم سير العمل في العالم الحقيقي، فهو أحد أقل الخيارات إيلامًا المتاحة لنا حاليًا
00:04:28خاصة كونه خيارًا مفتوح المصدر. فهل يستحق الأمر؟ أعني إذا كنت تبني أدوات داخلية أو أنظمة ذكاء اصطناعي خاصة للعملاء
00:04:37فنعم بالطبع، أو إذا كنت تريد قاعدة RAG بمستوى الإنتاج دون كتابة كل شيء بنفسك
00:04:41فهذا سيكون رائعًا. إذا كنت بحاجة لوكلاء يمكن إطلاقهم فعليًا، فهذه أيضًا ميزة كبيرة
00:04:46فنحن لا نقوم بدمج كل شيء يدويًا
00:04:47لكن إذا كنت تتطلب ضبطًا دقيقًا للغاية لكل شيء أو تفضل بناء كل شيء من الصفر باستخدام LangChain الخام
00:04:55فلا بأس، أتفهم ذلك
00:04:56لكن هذا لن يكون مناسبًا لك. وإذا كنت تعمل على أجهزة ضعيفة جدًا وتحتاج لشيء خفيف للغاية
00:04:57فلن يكون هذا هو الخيار الأمثل. رابط تحميل نسخة سطح المكتب والمستودع موجود أدناه
00:05:03إذا كنت تستمتع بهذه الأنواع من الأدوات لتسريع وتغيير سير عملك، تأكد من الاشتراك في قناة Better Stack
00:05:07وسنراكم في فيديو آخر
00:05:13وداعًا

Key Takeaway

تعد AnythingLLM الحل المتكامل والأكثر كفاءة للمطورين الذين يرغبون في بناء بيئة عمل محلية متكاملة للذكاء الاصطناعي تجمع بين سهولة الاستخدام، الخصوصية، وقوة وكلاء البرمجة.

Highlights

أداة AnythingLLM هي مساحة عمل مفتوحة المصدر للاستضافة الذاتية تهدف لتبسيط سير عمل نماذج اللغة المحلية.

تدمج الأداة تقنيات RAG (توليد الاستجابة المعزز بالاسترجاع) مع واجهة مستخدم بديهية تعتمد على السحب والإفلات.

توفر ميزة بناء وكلاء ذكاء اصطناعي مرئية بدون كود ودعم كامل لربط مزودي النماذج مثل Ollama وxAI.

تتميز الأداة بالخصوصية التامة وعزل المشاريع في مساحات عمل منفصلة مما يناسب المطورين والشركات.

توفر واجهة برمجة تطبيقات (API) قوية تسمح بدمج ميزات الدردشة وRAG مباشرة في التطبيقات والمنتجات.

تتفوق على أدوات مثل NotebookLM وDify بكونها أخف وزناً وأكثر تركيزاً على إدارة المستندات الضخمة.

تدعم تبديل نماذج الذكاء اصطناعي أثناء المحادثة دون فقدان السياق أو الحاجة لإعادة فهرسة البيانات.

Timeline

مقدمة عن AnythingLLM والفرق عن جوجل

يبدأ الفيديو بتقديم AnythingLLM كبديل قوي ومفتوح المصدر لأداة NotebookLM من جوجل. يوضح المتحدث أنها مساحة عمل تتيح للمستخدمين الدردشة مع قواعد الأكواد والبيانات الداخلية بخصوصية تامة. تكمن أهمية هذه الأداة في أنها تلغي الحاجة لدمج تقنيات معقدة مثل LangChain وقواعد البيانات المتجهة يدوياً. يشير المقطع إلى أن الأداة مصممة لتكون قابلة للاستخدام الفوري بمجرد التثبيت. هذا القسم يضع حجر الأساس لفهم كيف تقوم الأداة بتبسيط البنية التحتية لنماذج اللغة المحلية.

حل مشكلة تعقيد سير العمل المحلي

يسلط المتحدث الضوء على المعاناة التي يواجهها المطورون في تشغيل نماذج Llama والنصوص البرمجية في نوافذ منفصلة. تقدم AnythingLLM حلاً يجمع كل هذه المكونات في واجهة واحدة تدعم تقنية RAG بالسحب والإفلات. كما تتيح بناء وكلاء ذكاء اصطناعي بشكل مرئي دون كتابة سطر برمج واحد، مع إمكانية ربط مزودين خارجيين مثل LM Studio. يهدف هذا الجزء لشرح كيف تؤدي قلة الأجزاء المتحركة إلى زيادة سرعة الإنجاز. يشجع الفيديو المطورين على تجربة هذه الأداة لتقليل الفوضى في بيئات التطوير الخاصة بهم.

التثبيت العملي وتجربة فهرسة البيانات

يستعرض هذا القسم خطوات تثبيت تطبيق سطح المكتب وربط نسخة Llama المحلية بسهولة. يتم استخدام LanceDB كقاعدة بيانات متجهة افتراضية دون الحاجة لتهيئات إضافية معقدة من قبل المستخدم. يوضح المتحدث تجربة عملية بسحب مستودع Python وملف PDF، حيث تقوم الأداة بتقسيم وفهرسة البيانات تلقائياً. الميزة الأبرز هنا هي قدرة الأداة على الإجابة مع تقديم استشهادات دقيقة لمسارات الملفات الحقيقية لتقليل الهلوسة. كما يظهر المقطع سهولة إنشاء وكيل لتلخيص أخبار Hacker News بضغطة واحدة وبدون تعقيدات Docker.

مساحات العمل، الوكلاء، وواجهة البرمجيات (API)

يشرح المقطع مفهوم مساحات العمل المعزولة التي تضمن فصل بيانات العملاء عن المشاريع الشخصية بشكل آمن. تتوفر واجهة برمجة تطبيقات REST كاملة تسمح للمطورين بدمج تقنية RAG في لوحات تحكم برامجهم الخاصة. يتيح باني الوكلاء المرئي ربط أدوات متنوعة مثل استعلامات SQL والبحث في الويب وخوادم MCP. يمكن للمستخدمين أيضاً الانتقال إلى قواعد بيانات متجهة أخرى مثل PGVector بضغطة زر إذا دعت الحاجة. يؤكد المتحدث على مرونة الأداة في تبديل النماذج أثناء المحادثة، مما يوفر تجربة مستخدم سلسة واحترافية.

مقارنة مع الأدوات الأخرى والتقييم النهائي

يقارن المتحدث بين AnythingLLM وأدوات أخرى مثل Open WebUI وDify وPrivateGPT موضحاً نقاط القوة لكل منها. يرى أن AnythingLLM هي الأنسب لحالات الاستخدام التي تعتمد بكثافة على المستندات والوكلاء بوزن خفيف. يتطرق الفيديو أيضاً لآراء مجتمع المطورين على منصات مثل Reddit الذين يثنون على سهولة الانضمام وفعالية الـ API. ومع ذلك، يتم ذكر بعض السلبيات مثل استهلاك الذاكرة في الأجهزة الضعيفة عند معالجة أكثر من 500 مستند. ينتهي الفيديو بالتوصية بالأداة لبناء أنظمة ذكاء اصطناعي بمستوى إنتاجي عالٍ وبأقل قدر من الألم البرمجي.

Community Posts

View all posts