مصطلحًا
الاستدلال بالدفعة
- الفئة
- Training, Adaptation & Inference
- الصعوبة
- متوسط
التعريف
الاستدلال بالدفعة هو عملية تشغيل نموذج تعلم آلي على مجموعة كبيرة من نقاط البيانات في وقت واحد، بدلاً من معالجة الطلبات الفردية في الوقت الفعلي.
آلية العمل والسياق
الاستدلال بالدفعة هو استراتيجية نشر حيث يعالج النموذج مجموعة مدخلات تم جمعها مسبقاً كمهمة واحدة. على عكس الاستدلال في الوقت الفعلي (أو عبر الإنترنت)، الذي يتطلب استجابات ذات زمن انتقال منخفض للتفاعلات الفردية للمستخدم، يعطي الاستدلال بالدفعة الأولوية للإنتاجية وكفاءة الموارد. هذا النهج مثالي للسيناريوهات التي لا تكون فيها النتائج مطلوبة على الفور، مثل إنشاء تقارير يومية، أو معالجة البيانات التاريخية، أو إجراء تصنيف البيانات على نطاق واسع. من خلال تجميع البيانات، يمكن للأنظمة زيادة استخدام الأجهزة إلى أقصى حد، مثل تجميع وحدات معالجة الرسومات (GPU batching)، مما يقلل بشكل كبير من تكلفة التنبؤ الواحد. ومع ذلك، فإن القيد الرئيسي هو زمن الانتقال؛ ولأن النظام ينتظر حجماً كافياً من البيانات أو نافذة زمنية مجدولة لبدء العملية، فإنه لا يمكنه دعم التطبيقات التفاعلية. يعتمد الاختيار بين الاستدلال بالدفعة والاستدلال في الوقت الفعلي كلياً على متطلبات زمن الانتقال المحددة وتكرار البيانات الواردة.
لماذا هو مهم
من خلال فصل التنبؤ عن تجربة المستخدم الفورية، يمكن للمطورين تحسين استخدام البنية التحتية، والتعامل مع مجموعات البيانات الضخمة التي قد تطغى على الأنظمة في الوقت الفعلي، وإجراء تحليلات معقدة خلال ساعات خارج أوقات الذروة.
مثال واقعي
تستخدم شركة تجزئة الاستدلال بالدفعة لإنشاء توصيات منتجات مخصصة لقاعدة عملائها بالكامل كل ليلة. بدلاً من حساب هذه التوصيات عند تسجيل دخول المستخدم، يعالج النظام سجل تصفح اليوم السابق لملايين المستخدمين في مهمة دفعة واحدة. وهذا يضمن أنه عندما يزور المستخدمون الموقع في صباح اليوم التالي، تكون خلاصتهم المخصصة جاهزة بالفعل، مما يوفر تكاليف حوسبة كبيرة خلال ساعات ذروة حركة المرور.
أخطاء شائعة
- افتراض أن الاستدلال بالدفعة يمكن أن يحل محل الاستدلال في الوقت الفعلي لميزات المستخدم التفاعلية.
- الفشل في مراعاة فجوة زمن الانتقال بين جمع البيانات وتوافر التنبؤ.
- توفير بنية تحتية زائدة عن الحاجة من خلال التعامل مع مهام الدفعة كما لو كانت تتطلب نفس أجهزة زمن الانتقال المنخفض مثل خدمات الوقت الفعلي.
- إهمال تنفيذ معالجة قوية للأخطاء في حالات فشل الدفعة الجزئية.
الأسئلة الشائعة
كيف يختلف الاستدلال بالدفعة عن الاستدلال في الوقت الفعلي؟
يوفر الاستدلال في الوقت الفعلي استجابات فورية للطلبات الفردية، بينما يعالج الاستدلال بالدفعة مجموعات من البيانات في فترات زمنية مجدولة، مع إعطاء الأولوية للكفاءة على السرعة.
متى يجب أن أختار الاستدلال بالدفعة بدلاً من البث؟
اختر الاستدلال بالدفعة عندما لا تتطلب حالة الاستخدام الخاصة بك نتائج فورية، أو عندما تحتاج إلى معالجة مجموعات بيانات ضخمة، أو عندما تريد تقليل تكاليف البنية التحتية من خلال استخدام موارد الحوسبة خارج أوقات الذروة.
هل يمكن استخدام الاستدلال بالدفعة لنماذج الذكاء الاصطناعي التوليدي؟
نعم، يُستخدم الاستدلال بالدفعة بشكل متكرر للنماذج التوليدية عند إنشاء كميات كبيرة من المحتوى، مثل إنشاء آلاف الصور التسويقية أو تلخيص أرشيفات المستندات الطويلة، حيث لا تكون المخرجات الفورية مطلوبة.