للحماية من الكود الذي تكتبه الذكاء الاصطناعي، يجب البدء بعزل البنية التحتية
TuBrief 편집팀
2026년 7월 7일
0
Computing/Software원본 영상을 바탕으로 AI의 도움을 받아 작성했습니다. 원본 영상이 기준입니다.
커뮤니티의 다른 글
댓글 (0)
Log in to leave a comment
아직 작성된 글이 없습니다
원본 영상을 바탕으로 AI의 도움을 받아 작성했습니다. 원본 영상이 기준입니다.
Log in to leave a comment
아직 작성된 글이 없습니다
تتزايد سرعة إنتاج الأكواد بواسطة الذكاء الاصطناعي التوليدي بوتيرة مخيفة. ومع ذلك، فإن المشكلة الحقيقية التي يواجهها كبار المهندسين وقادة التقنية تكمن في مكان آخر: وهي العبء المعرفي الهائل الناتج عن محاولة التحقق من الأكواد التي تنتجها الآلة في ثانية واحدة ودمجها في الأنظمة الحالية. يشير تقرير DORA 2025 من Google Cloud إلى أن تبني الذكاء الاصطناعي يزيد من وتيرة النشر، ولكنه في الوقت نفسه يزيد من عدم استقرار النظام. وهذا يعني أن البشر يقضون الليالي في إصلاح المشاكل (الثقوب السوداء) التي تنشأ عن النسخ واللصق الأعمى للكود. لا يمكن للأساليب اليدوية، حيث يقرأ البشر الأكواد ويصححونها واحداً تلو الآخر، مواكبة هذه السرعة. لكي نمنع تحول الكود إلى مجرد نفايات، يجب علينا بناء هيكلية لا تثق في المنطق الذي يكتبه الذكاء الاصطناعي في المقام الأول، مع أتمتة عمليات التحقق.
لا يفهم الكود الذي يقترحه الذكاء الاصطناعي سياق العمل. فحتى لو بدا الكود سليماً، فإنه غالباً ما يكسر القواعد الدقيقة للمجال (Domain). لذلك، يجب التعامل مع المنطق الذي يكتبه الذكاء الاصطناعي كنظام خارجي قابل للانهيار في أي لحظة. ولهذا السبب يجب تصميم "طبقة منع فساد" (Anti-Corruption Layer) منذ البداية لتعريف واجهات تجريد واضحة تمنع الملوثات من دخول نطاق النطاق الأساسي.
لا يكفي مجرد فصل بنية البرمجيات. فهناك مخاطر كامنة من استيراد كود الذكاء الاصطناعي لمكتبات خبيثة أو العبث بنظام الملفات المحلي. إن تجربة شركة Stripe عند تصميم نظام الوكلاء المستقلين (Minions)، حيث يتم تشغيل كود الذكاء الاصطناعي داخل أجهزة افتراضية مستقلة معزولة عن الجهاز المضيف مع منع الوصول إلى الشبكة على مستوى البروتوكول، تعد دراسة حالة تستحق التأمل. للدفاع عن بيئة الإنتاج، يجب إدخال أدوات تحكم على مستوى النواة (Kernel) داخل خطوط أنابيب CI/CD.
يجب بناء بيئة تنفيذ "انعدام الثقة" (Zero Trust) التي تحبس الكود غير الموثوق وتمنعه من الخروج. وتقليل وقت الاستجابة لأعطال النظام هو مجرد فائدة إضافية تأتي لاحقاً.
إن قيام المطورين بمراجعة مئات الأسطر من الأكواد التي ينتجها الذكاء الاصطناعي يدوياً أمر محفوف بالمخاطر؛ لأن التعب الذهني يؤدي إلى "انحياز الأتمتة" (Automation Bias)، حيث يمرر البشر الكود الذي يبدو سليماً ظاهرياً دون تدقيق. يجب أن يتم اكتشاف عيوب المنطق الذي تكتبه الآلة بواسطة كود اختبار قابل للتنفيذ، وليس بواسطة البشر. يجب قلب الترتيب بحيث يتم إجبار الذكاء الاصطناعي على إنشاء حالات اختبار تحدد مواصفات التشغيل قبل أن يُطلب منه كتابة كود التنفيذ الفعلي. القاعدة هي الإلزام بتعريف 5 فئات: المسار الطبيعي، الشروط الحدية، معالجة الاستثناءات، المدخلات غير الطبيعية، وسيناريوهات استرداد الأعطال.
تغطية الكود (Line Coverage) للأكواد التي تُنشأ عبر كتابة المطالبات (Prompts) يدوياً ليست عالية. وفقاً لبيانات تشغيل الوكلاء من DeepBlue، بلغت تغطية أسطر الاختبار التي حصل عليها المهندسون البشر في محادثاتهم مع الذكاء الاصطناعي 32% فقط في المتوسط. في المقابل، عندما تم ربط التحليل الساكن للكود المصدري وبناء الصناديق الرملية لوقت التشغيل بوكلاء اختبار مؤتمتة، تم تحقيق تغطية اختبارات انحدار بنسبة 81% دون تدخل بشري. هيكل الآلة التي تراقب الآلة أكثر دقة بكثير.
بالنسبة للمنطق الذي يصعب فيه المقارنة المباشرة (1:1) مثل نتائج الترجمة باللغة الطبيعية أو كائنات JSON الديناميكية، يتم ربط تقنية LLM-as-a-Judge. يتم تثبيت إطارات عمل مثل AgentProctor في بنية الاختبار التحتية وإدخال قوالب معايير التقييم إلى نموذج التحكيم. من خلال جعل نموذج التحكيم يحدد بتقدير كمي ما إذا كان الكود المعاد لا يكسر قيود الأمان، ووضع حواجز حماية (Guardrails) تمنع البناء (Build) في حال عدم استيفاء المعايير، يمكن التخلص من معاناة البشر في فحص الكود الخام.
كلما زاد الكود الذي تكتبه الآلة، تراكمت الديون المعرفية داخل النظام. وتنشأ مواقف غريبة حيث يعمل الكود، لكن لا أحد يعرف لماذا يعمل بهذه الطريقة. وبما أن أدوات الذكاء الاصطناعي تركز فقط على حل المشكلات المحلية الفورية، فإنها تفرض تكاليف باهظة عند إعادة هيكلة النظام بأكمله بعد بضعة أشهر. للحفاظ على نية التصميم خلف قاعدة الكود، يجب اعتماد عملية "سجل قرارات الوكيل" (Agent Decision Record) كمعيار للفريق. وهذا يعني ترك سجلات بصيغة قابلة للقراءة آلياً توضح سبب اختيار هيكل معين ولماذا تم استبعاد البدائل الأخرى.
بما أن ذاكرة البشر ليست موثوقة، يجب أيضاً زرع عملية ترك علامة تشير إلى أن الكود كُتب بواسطة الذكاء الاصطناعي في تاريخ الالتزامات (Commits) ضمن خط أنابيب الأتمتة. باستخدام أدوات مثل مكتبة git-ai الإضافية، يمكنك تسجيل ملاحظات مساهمة الوكيل في مسار بيانات تعريف مستقل refs/notes/ai دون تلويث نص رسالة الالتزام. خطوات بناء خط أنابيب Git واضحة:
pre-commit hooks في بيئة التطوير المحلية ومستودعات خادم CI.AI-Footprint: model=gpt-4o) ومعلومات المؤلف المشارك في البيانات التعريفية قسراً.من خلال تجميع البيانات التعريفية بهذه الطريقة، يمكن لاحقاً استخراج إحصائيات سلاسل التوريد في الوقت الفعلي لتحديد أي إصدار من نماذج الذكاء الاصطناعي تسبب في تركيز عيوب معينة أو ثغرات أمنية. هذا هو صمام الأمان الذي يمنع الجحيم الناتج عن اضطرار المطورين لقراءة عشرات الآلاف من أسطر الكود لعدم وجود وثائق تسليم.
عندما تبدأ الأكواد التي يتم إنشاؤها عشوائياً بالتراكم في طابور طلبات السحب (Pull Request)، تصاب مراجعة الكود اليدوية بالشلل. للحفاظ على الإنتاجية، يجب تقسيم عملية المراجعة إلى بوابة تغذية راجعة حتمية تتمحور حول الآلة، وتقييم التأثير الهيكلي الذي يتمحور حول البشر. البديل هو بوابة ضمان جودة من 3 مراحل تعمل فور تحميل الكود إلى بيئة CI:
أولاً، يتم وضع بوابة "لينتينج" (Linting) فائقة السرعة تحكم على صحة هيكل الجمل وتطابق تلميحات النوع (Type Hints) في أقل من 5 ثوانٍ؛ إذا تم استبعاد الكود هنا، يتم رفضه فوراً. ثانياً، يتم تنفيذ اختبارات تأثير انتقائية تقوم بتشغيل اختبارات الوحدة الواقعة ضمن نطاق التعديلات فقط (حوالي 2%). ثالثاً، يتم تشغيل حلقة أتمتة التصحيح الذاتي، حيث يتم إرسال مكدس الخطأ (Error Stack) إلى الوكيل كـ "سياق" لإصلاح نفسه بحد أقصى مرتين عند فشل الاختبار.
فقط أجزاء الكود النظيفة التي تجتاز حلقة التصحيح الذاتي هذه تظهر على شاشة المطور البشري الكبير. لم يعد المراجع البشري يضيع وقته في البحث عن الأخطاء المطبعية أو انتقاد اصطلاحات الكتابة. يجب أن يُكرس وقت كبار المهندسين فقط للتحكم الكلي: مراجعة ما إذا كانت حدود النطاق قد انهارت بسبب الارتباط المباشر بين المكونات، والتأكد مما إذا كان قد تم عكس الضغط (Backpressure) لحماية طبقة الاستمرارية عند ارتفاع حركة المرور المفاجئ، وتحليل البنية التحتية للنظام واقتصادياته مثل تجاوز أداء SQL N+1. هذه هي الطريقة الوحيدة لحماية أنظمة الإنتاج وسط تدفق الأكواد الذي يشبه الفيضان.