כיוונון עדין Fine-Tuning
מה זה כיוונון עדין?
כיוונון עדין (Fine-Tuning) הוא לקיחת מודל שפה כללי שכבר אומן על כמות עצומה של מידע, והמשך אימונו על סט נתונים ממוקד וקטן יותר. כך המודל לומד את השפה, הטון או הידע הספציפי של תחום או ארגון מסוים, מבלי להתאמן מאפס.
איך זה עובד?
מזינים למודל דוגמאות מייצגות - למשל שאלות ותשובות אופייניות לעסק, מסמכים מקצועיים או סגנון כתיבה רצוי - והוא מעדכן את המשקלים הפנימיים שלו כדי להתמחות. התוצאה היא מודל שמדבר "בשפה" של הארגון.
מתי בוחרים בכיוונון עדין?
כשצריך עקביות גבוהה במשימה חוזרת, טון מותג ייחודי או ידע נישתי. לחלופין, כשמספיק להזין הקשר בזמן אמת, שיטת RAG לרוב זולה ופשוטה יותר מכיוונון מלא.
שאלות נפוצות
מה ההבדל בין כיוונון עדין ל-RAG?
כיוונון עדין משנה את המודל עצמו באמצעות אימון. RAG משאיר את המודל כפי שהוא ומזין לו מידע רלוונטי בזמן השאלה. RAG לרוב פשוט וזול יותר.
האם כל עסק צריך לכוונן מודל?
לא. לרוב הצרכים פרומפט טוב או RAG מספיקים. כיוונון עדין מתאים למשימות חוזרות שדורשות עקביות או ידע נישתי גבוה.
כמה נתונים צריך לכיוונון עדין?
תלוי במשימה, אך בדרך כלל מאות עד אלפי דוגמאות איכותיות ומייצגות עדיפות על כמות גדולה של נתונים לא מדויקים.