رمز

آلية العمل والسياق

في بنية النماذج اللغوية الكبيرة الحديثة، لا تتم معالجة النص كسلاسل خام من الأحرف. بدلاً من ذلك، يخضع لعملية تسمى الترميز، حيث يتم تحويل المدخلات إلى تسلسل من المعرفات الرقمية المعروفة بالرموز. يمكن أن يمثل رمز واحد كلمة شائعة، أو جزءاً من كلمة، أو حتى حرفاً واحداً، اعتماداً على المرمز المحدد الذي يستخدمه النموذج. على سبيل المثال، قد يتم تقسيم كلمة 'unhappiness' إلى 'un' و'happi' و'ness'. يسمح نهج الكلمات الفرعية هذا للنماذج بالتعامل مع الكلمات النادرة، والأخطاء الإملائية، والهياكل المورفولوجية المعقدة بفعالية. يتم تحديد إجمالي عدد الرموز التي يمكن للنموذج معالجتها في وقت واحد من خلال 'نافذة السياق' الخاصة به، والتي تعمل كذاكرة قصيرة المدى للنموذج. يعد فهم الترميز أمراً بالغ الأهمية لأنه يؤثر بشكل مباشر على أداء النموذج، والتكاليف الحسابية، ودقة توليد المخرجات.

لماذا هو مهم

تعد الرموز المقياس الأساسي لكل من التكلفة والسعة في الذكاء الاصطناعي التوليدي. يعتمد تسعير واجهة برمجة التطبيقات (API) عالمياً تقريباً على عدد الرموز التي تمت معالجتها، ويحدد حجم نافذة سياق النموذج مقدار المعلومات التي يمكنه 'تذكرها' أثناء المحادثة. يجب على المطورين فهم حدود الرموز لمنع اقتطاع البيانات ولتحسين كفاءة مطالباتهم وتطبيقاتهم.

مثال واقعي

عندما ترسل مطالبة إلى ذكاء اصطناعي مثل ChatGPT، يقوم النظام أولاً بترميز مدخلاتك. إذا سألت، 'كم عدد الرموز الموجودة في هذه الجملة؟'، يقوم النموذج بتقسيم تلك الجملة إلى حوالي 10-12 رمزاً. إذا كنت تبني تطبيقاً باستخدام واجهة برمجة تطبيقات، فستتم محاسبتك بناءً على العدد الإجمالي لهذه الرموز لكل من مدخلاتك واستجابة النموذج المولدة، مما يجعل إدارة الرموز ضرورية للتحكم في الميزانية.

أخطاء شائعة

• افتراض أن رمزاً واحداً يساوي دائماً كلمة واحدة؛ في الواقع، يتم تقسيم العديد من الكلمات إلى رموز متعددة.
• تجاهل حد الرموز للنموذج، مما يؤدي إلى 'نسيان' الذكاء الاصطناعي لبداية محادثة طويلة.
• الاستهانة بتكلفة المطالبات الطويلة، حيث يتم محاسبة رموز المدخلات تماماً مثل رموز المخرجات.
• الاعتقاد بأن الترميز متطابق عبر جميع نماذج الذكاء الاصطناعي؛ تستخدم النماذج المختلفة مفردات واستراتيجيات ترميز مختلفة.

الأسئلة الشائعة