إعدادات للحفاظ على الإنفاق الشهري لواجهة برمجة التطبيقات (API) لأنت로픽 (Anthropic) في حدود 200,000 وون بعد تعديل الأسعار
بالنسبة للمستقلين أو الفرق الصغيرة التي تعمل بميزانية تطوير شهرية تقل عن 500,000 وون، فإن تغيير سياسة أنتروبيك الأخير يمثل مشكلة مزعجة نوعاً ما. فقد اصبحت هناك قيود على استخدام أدوات الطرف الثالث، كما أن الرصيد المتبقي كل شهر لا يتم ترحيله إلى الشهر التالي بل يختفي تماماً. ولكن إذا اعتمدت على العميل الرسمي بشكل أعمى، فسوف تتجاوز فواتير API الخاصة بك مئات الآلاف من الوون بعد عدد قليل من جلسات البرمجة.
إن تغيير الأدوات لن يحل المشكلة. يجب عليك تعديل هيكل تمرير الأوامر (Prompts) نفسه من أجل حماية رصيد حسابك.
التحقق من سجل استهلاك الرموز (Tokens) وإصلاح معدل نجاح التخزين المؤقت أولاً
ترسل أدوات البرمجة المستندة إلى الوكلاء (Agents) عشرات الآلاف من الرموز السياقية دفعة واحدة في طلب واحد. ووفقاً لجدول الأسعار الرسمي لأنتروبيك، فإن تكلفة الإدخال الأساسية لنموذج Claude 3.5 Sonnet هي 3.00 دولار لكل مليون رمز، بينما تبلغ تكلفة الإخراج 15.00 دولاراً. وفي المقابل، عند تطبيق التخزين المؤقت للأوامر (Prompt Caching)، تنخفض تكلفة الإدخال إلى 0.30 دولار. وهو فرق بنسبة 90%. في اللحظة التي تُدخل فيها إضافات الطرف الثالث طابعاً زمنياً أو معرف جلسة (Session ID) في أعلى موجه النظام، يتم إبطال هذا التخزين المؤقت بالكامل وتضطر لدفع 3.00 دولارات في كل مرة.
أولاً وقبل كل شيء، افتح سجلات الأشهر الثلاثة الماضية واحسب نسبة cache_read_input_tokens مقارنة برموز الإدخال.
- المشاريع التي تقل فيها نسبة التخزين المؤقت عن 40% يجب مراجعة طريقة حقن الأوامر فيها.
- بدلاً من إرسال قاعدة الكود بأكملها مع كل طلب، قم بالتعديل بحيث يتم تمرير الملفات المتغيرة فقط بناءً على
git diff كالسياق.
- ضع قواعد ثابتة في أعلى موجه النظام وأعلن عن
cache_control: {"type": "ephemeral"}.
فقط من خلال نقل المتغيرات الديناميكية إلى أسفل الموجه وتخزين النص الثاتي مؤقتاً، يمكنك توفير ما يقرب من نصف هدر الرموز في الخلفية.
تقسيم النماذج حسب صعوبة العمل باستخدام وسيط LiteLLM
ليس من الضروري كتابة كل سطر من الكود باستخدام Sonnet أو Opus. إن استدعاء نموذج حدود السحابة (Cloud Frontier Model) للإكمال التلقائي لعلامات التبويب هو إهدار واضح.
| تصنيف العمل |
نموذج الاستدعاء |
موقع التنفيذ |
مستوى التكلفة |
| تصميم البنية وتحسين التعليمات البرمجية واسع النطاق |
Claude 3.5 Sonnet |
واجهة برمجة التطبيقات السحابية |
السعر القياسي (100%) |
| وظائف الأدوات البسيطة واختبارات الوحدات |
Claude 3.5 Haiku, DeepSeek-V3 |
واجهة برمجة التطبيقات السحابية |
من 20% إلى 30% |
| الإكمال التلقائي للعلامات التبويب في الوقت الفعلي والنماذج الجاهزة |
Ollama (Qwen2.5-Coder 14B) |
محلي على الجهاز (On-Device) |
$0.00 |
قم بتشغيل LiteLLM على جهازك المحلي ليقوم بدور بوابة حركة المرور. واكتب قواعد توجيه النماذج في ملف config.yaml.
`yaml
model_list:
- model_name: smart-model
litellm_params:
model: anthropic/claude-3-5-sonnet-20241022
api_key: os.environ/ANTHROPIC_API_KEY
- model_name: fast-model
litellm_params:
model: deepseek/deepseek-chat
api_key: os.environ/DEEPSEEK_API_KEY
- model_name: local-coder
litellm_params:
model: ollama/qwen2.5-coder:14b
api_base: http://localhost:11434
`
قم بتحديد export ANTHROPIC_BASE_URL="http://localhost:4000" في الطرفية (Terminal) وقم بربط Continue.dev أو Claude Code. يتم معالجة الإكمال التلقائي في الوقت الفعلي بواسطة نموذج Qwen المحلي على وحدة معالجة الرسوميات (GPU)، بينما يتم توجيه أسئلة التصميم المعقدة فقط إلى Sonnet.
قم بالعمل جنباً إلى جنب على تقليل الرموز الناتجة (Output Tokens). من خلال كتابة موجه النظام بحيث يستبعد تماماً المقدمات غير الضرورية والتحيات وشرح التعليمات البرمجية ويعيد كتل التعليمات البرمجية فقط، سيتم تقليل الإنفاق على رموز الإخراج ذات التكلفة العالية بشكل كبير.
استهلاك رصيد الشهر المتبقي عن طريق نقله إلى واجهة برمجة التطبيقات المجمعة (Batch API)
رصيد أنتروبيك الشهري يتبخر ببساطة بمجرد مرور تاريخ انتهاء الصلاحية. لكي لا تضيع الرصيد المتبقي، يجب تشغيل واجهة برمجة تطبيقات الدفعات (Batch API) الخاصة بأنتروبيك قبل 3 أيام من انتهاء الصلاحية.
تمنحك واجهة برمجة تطبيقات الدفعات خصماً بنسبة 50% على جميع أسعار الرموز بشرط إرجاع النتائج بشكل غير متزامن في غضون 24 ساعة. وإذا قمت بدمج ذلك مع التخزين المؤقت للأوامر، فيمكنك معالجتها بحوالي 5% من السعر الأصلي. قم بجمع المهام التي لا تتطلب إجابات فورية في الوقت الفعلي وقم بإرسالها دفعة واحدة.
- التحليل الثابت لقاعدة الكود بأكملها والتحقق من الثغرات الأمنية
- الإنشاء بالجملة لرموز اختبار الوحدات للكود القديم
- التحديث التلقائي لمواصفات نقاط نهاية API والوثائق التقنية
من خلال حزم هذه المهام في ملف JSONL وإرسالها إلى نقطة نهاية الدفعات، يمكنك تحويل الرصيد الذي كان على وشك الضياع إلى رموز اختبار وأصول وثائق.
تثبيت حد الإنفاق مسار الالتفاف المحلي
لمنع الفواتير المفرطة، قم بإيقاف تشغيل إعادة الشحن التلقائي (Auto-Recharge) في إعدادات الدفع لوحدة تحكم أنتروبيك، وقم بالدفع يدوياً بحوالي 150 دولاراً في بداية الشهر.
بعد ربط حد الاستدعاء المباشر بـ 150 دولاراً في قائمة حد الاستهلاك (Spend Limits) في وحدة التحكم، قم بإضافة إعدادات استعادة الأخطاء (Fallback) إلى وسيط LiteLLM.
`yaml
router_settings:
fallbacks:
- claude-3-5-sonnet-20241022: ["ollama/qwen2.5-coder:14b"]
`
حتى إذا نفد الرصيد وحدث خطأ 429، فإن Ollama المحلي يتولى الاستدعاء على الفور. وإذا كنت تعمل كفريق، فيمكنك مشاركة ملف .continue/config.json في جذر مستودع Git، وتحديد الحد الشهري للمفتاح الافتراضي (Virtual Key) لكل عضو في الفريق بـ 50 دولاراً في صفحة إدارة LiteLLM. نظراً لأنه يتم تحويل حركة المرور للمطورين الذين يتجاوزون الحد إلى النموذج المحلي فقط، فلن يتجاوز إجمالي إنفاق الفريق الميزانية.