نافذة السياق

أقصى كمية من النص (بالتوكنز) يستطيع النموذج أن يراها ويأخذها في الاعتبار في المحادثة أو الطلب الواحد.

نافذة السياق هي «الذاكرة قصيرة المدى» للنموذج اللغوي: كل ما يراه في لحظة واحدة، من التعليمات والمحادثة السابقة والمستندات المرفقة وحتى رده الحالي. تُقاس بالتوكنز، وتختلف بين نموذج وآخر. ما يقع خارج هذه النافذة لا يراه النموذج أصلًا. لذلك فهي تحدد كم من المعلومات يمكنك تقديمه في كل مرة.

في التطبيقات، هذا يفسّر لماذا «ينسى» المساعد تفاصيل ذُكرت في بداية محادثة طويلة جدًا، ولماذا لا يمكنك ببساطة إرسال كل ملفات شركتك في كل طلب. حتى لو كانت النافذة كبيرة، فملؤها بنص غير مهم يرفع التكلفة وقد يشتّت النموذج. نصيحة عملية: أرسل للنموذج ما يحتاجه فقط. للبيانات الكبيرة، استخدم أسلوب RAG لجلب الأجزاء المتعلقة بالسؤال فقط، وفي المحادثات الطويلة لخّص ما سبق بدل إعادة إرساله كاملًا.