Contact us

חלון הקשר Context Window

חלון הקשר (Context Window) הוא כמות הטקסט המרבית שמודל שפה יכול להחזיק ולעבד בו-זמנית, הנמדדת בטוקנים. הוא כולל גם את הקלט שנשלח למודל וגם את התשובה שהוא מחולל. כשהשיחה חורגת מגבול החלון, המידע הישן ביותר יוצא מהזיכרון והמודל מפסיק להתייחס אליו.
חלון הקשר - כמות הטקסט שמודל שפה מעבד בו-זמניתחלון ההקשר10 טוקנים אחרוניםמחוץ להקשר

מה זה חלון הקשר?

חלון הקשר הוא כמות המידע המרבית שמודל שפה יכול להחזיק מול העיניים בו-זמנית, הנמדדת בטוקנים. הוא כולל את כל מה שנשלח למודל - ההוראות, השיחה הקודמת והמסמכים שצורפו - וגם את התשובה שהמודל מחולל. אפשר לדמות אותו לזיכרון עבודה מוגבל בגודלו.

ככל שחלון ההקשר גדול יותר, המודל יכול להתייחס ליותר מידע בבת אחת: מסמך שלם, שיחה ארוכה או בסיס ידע, בלי לאבד את ההקשר.

איך זה עובד

כשכמות הטקסט בשיחה חורגת מגבול החלון, המידע הישן ביותר נדחף החוצה והמודל מפסיק להתייחס אליו. לכן מודל עשוי לשכוח פרט שנכתב בתחילת שיחה ארוכה מאוד.

  • קלט - ההנחיה, ההיסטוריה והקבצים שמוזנים למודל.
  • פלט - התשובה, שגם היא נספרת בתוך אותו חלון.
  • גלישה - כשהחלון מתמלא, החלקים הראשונים נשמטים מהזיכרון.

למה זה חשוב

בתוכן שמיועד להופיע בתשובות AI, כדאי להציג את המסר המרכזי בתמציתיות ובבירור, כדי שהמודל יוכל לקלוט ולהשתמש בו גם כשהוא מעבד מקורות רבים בתוך חלון מוגבל.

שאלות נפוצות

מה קורה כשחלון ההקשר מתמלא?

כשכמות הטקסט חורגת מגבול החלון, החלקים הישנים ביותר נשמטים מזיכרון העבודה של המודל, והוא מפסיק להתייחס אליהם. לכן בשיחה ארוכה מאוד המודל עלול לאבד פרטים שנכתבו בהתחלה.

האם חלון הקשר גדול תמיד עדיף?

חלון גדול מאפשר לעבד יותר מידע בבת אחת, אך הוא גם יקר יותר ועלול להאט את התשובה. לעיתים עדיף להזין למודל רק את המידע הרלוונטי ולשמור על הנחיה ממוקדת מאשר למלא את החלון בטקסט מיותר.

מה ההבדל בין חלון הקשר לזיכרון הקבוע של המודל?

חלון ההקשר הוא זיכרון זמני שקיים רק למשך העיבוד הנוכחי ונמחק בסיומו. הידע הקבוע של המודל, לעומת זאת, נצרב באימון ואינו משתנה בין שיחה לשיחה. חלון ההקשר הוא מה שהמודל רואה כרגע.

זקוקים לעוד מידע? מילון מונחים ←
זקוקים לייעוץ או שירות? קידום ב-AI ←