אמזון מוסיפה התאמה מלאה של מודלי שפה בלי לנהל תשתיות
מאת מערכת זירת AI · פורסם: · עודכן:
AWS הוסיפה כוונון מלא של כל פרמטרי המודל לשירות הכוונון ללא שרתים ב-SageMaker AI, בלי צורך בהקצאת GPU או אשכולות. בניסוי על Qwen3-4B עם 110 אלף דוגמאות קוד הגיעה השיטה ל-90 אחוזי נכונות, אך החברה מזהירה כי היא רגישה מאוד להיפר-פרמטרים ועלולה לגרום לשכחה של ידע כללי.
בקצרה:
- המעבר בין שיטות הכוונון בניסוי מחייב שינוי של פרמטר אחד בקוד.
- המודלים המכווננים נרשמים אוטומטית ב-SageMaker Model Registry כגרסאות מוכנות לפריסה.
- ירידה בהפסד האימון אינה מבטיחה שימור של יכולות שלא אומנו.
- בחלק מהניסויים LoRA הובילה, ולכן AWS ממליצה לבחור בשיטה לפי ניסויים ואופי הנתונים.
Amazon Web Services הוסיפה תמיכה בכוונון מלא (Full Fine-Tuning, או FFT) לשירות SageMaker AI Serverless Model Customization. מעתה ניתן לעדכן את כל הפרמטרים של מודל שפה פתוח על נתוני הארגון, בלי להקצות GPU, להקים אשכול או להגדיר אימון מבוזר. השירות מטפל בעצמו בהקצאת כוח המחשוב ובניהול נקודות השמירה, והמשתמש מגדיר רק את מודל הבסיס, מאגר הנתונים וההיפר-פרמטרים.
מדוע כוונון מלא ולא LoRA
בשנים האחרונות הפכו שיטות כוונון חסכוניות בפרמטרים, ובראשן LoRA, לברירת המחדל בארגונים רבים. השיטה מקפיאה את משקלי המודל ומוסיפה זוגות קטנים של מטריצות בדרגה נמוכה, וכך מצמצמת את הדרישה למשאבי GPU. לפי AWS, המבנה בדרגה נמוכה מגביל את כושר הייצוג של המודל: כשהמשימות מורכבות יותר ומאגרי הנתונים עוברים עשרות אלפי דוגמאות, LoRA נתקלת ברמה שבה הגדלת הדרגה כבר אינה סוגרת את הפער.
כוונון מלא, לעומת זאת, מעדכן את כל מטריצות המשקל ומנצל את מלוא כושר הייצוג של המודל. הטענה העסקית שמציגה החברה היא שמודל קטן ומותאם יכול להשתוות למודל חזית במשימה ממוקדת, בעלות הסקה נמוכה בהרבה לכל טוקן, וחיסכון כזה מצטבר על פני מיליוני בקשות.
הניסוי: מודל Qwen3-4B ו-110 אלף דוגמאות קוד
כדי לבחון את הפער, צוות AWS כיוונן את מודל הבסיס Qwen3-4B על מאגר Magicoder-Evol-Instruct-110K, הכולל 110,000 זוגות של הוראה ותשובה בתחומי תכנות. המאגר חולק ל-99,000 דוגמאות אימון, 5,500 לאימות ו-5,500 לבדיקה. שתי השיטות קיבלו אותן הנחיות, אותם יעדים ואותו קוד הערכה, והמעבר ביניהן מחייב שינוי של פרמטר אחד בלבד בקוד.
ההערכה נעשתה בשלושה כלים מובנים: שיפוט אוטומטי בידי Amazon Nova Pro שבודק נכונות לוגית של הקוד, מדד PRIMECODE המשווה את הקוד לפתרונות ייחוס באמצעות BLEU, ROUGE ו-F1, ומבחן MMLU על פני 57 תחומים אקדמיים, ששימש לזיהוי שכחה של ידע כללי. לפי הדיווח, ב-100 אלף דוגמאות ומעלה הגיע הכוונון המלא ל-90.0 אחוזי נכונות סמנטית במשימות יצירת קוד, ויתרונו בלט במיוחד במדדי BLEU ו-ROUGE-2.
הצוות הריץ עשרות ניסויים גם על DeepSeek-R1-1.5B, Nemotron-30B ו-Gemma-4-26B, וכל ניסוי, מהגשה ועד תוצאות, הסתיים בתוך שעות ספורות. המודלים המכווננים נרשמים אוטומטית ב-SageMaker Model Registry כגרסאות מוכנות לפריסה.
היפר-פרמטרים והסכנה של שכחה קטסטרופלית
החלק המעשי ביותר בפרסום נוגע לרגישות של כוונון מלא להגדרות. קצב למידה של 2e-5 על מאגר של יותר מ-100 אלף דוגמאות זוהה כאזור בטוח. קצבים של 5e-5 ומעלה התגלו כהרסניים: ציוני MATH צנחו ל-2 עד 3 אחוזים ודיוק MMLU ירד ל-3.6 אחוזים, עדות ברורה לשכחה קטסטרופלית. התצורה ששמרה בצורה הטובה ביותר על הידע הכללי כללה חימום של 5 אחוזים, גודל אצווה 8 וקצב למידה של 2e-5.
90.0 אחוזים – נכונות סמנטית ביצירת קוד לפי AWS 2e-5 – קצב למידה שזוהה כאזור בטוח 3.6 אחוזים – דיוק MMLU בקצב למידה של 5e-5 ומעלה
גם מספר המחזורים התברר כשאלה של שכחה יותר מאשר של עקומת הפסד. ציון הנכונות עלה ל-90.0 אחוזים בשלושה מחזורים, וכל הארכה מעבר לכך פגעה בכל הגרסאות שנבדקו. ההפסד באימון ממשיך לרדת, אך יכולות שלא אומנו נשחקות בשקט.
לא פתרון אוניברסלי
AWS עצמה מסייגת את הממצאים. בחלק מהניסויים LoRA עקפה מעט את הכוונון המלא במדד השיפוט האוטומטי, 81.5 אחוזים לעומת 79.5 אחוזים, ושתי השיטות נפלו מתחת למודל הבסיס במבחן MATH. המסקנה של החברה היא שהבחירה בין השיטות צריכה להישען על ניסויים, על אופי הנתונים ועל הבנת הפשרות. עבור צוותים עם מאגרים גדולים ואיכותיים ומשימות הדורשות התאמה עמוקה, כמו יצירת קוד או הבנת שפה תחומית, הכוונון המלא הופך כעת לנגיש יותר, אך דורש משמעת בכיוון ההיפר-פרמטרים.
שאלות נפוצות
מה זה כוונון מלא (Full Fine-Tuning) של מודל שפה?
כוונון מלא הוא תהליך התאמה שבו מעדכנים את כל הפרמטרים של מודל שפה באמצעות נתונים ייעודיים, למשל נתוני הארגון. בניגוד לשיטות שמעדכנות רק רכיבים מצומצמים, הוא מאפשר התאמה עמוקה יותר למשימה. לפי AWS, הגישה עשויה להתאים במיוחד למאגרים גדולים ואיכותיים ולמשימות כמו יצירת קוד או הבנת שפה תחומית.
איך מכווננים מודל שפה ב-Amazon SageMaker בלי לנהל תשתיות GPU?
שירות SageMaker AI Serverless Model Customization מאפשר לבצע כוונון מלא למודל שפה פתוח בלי להקצות GPU, להקים אשכול או להגדיר אימון מבוזר. המשתמש בוחר מודל בסיס, מאגר נתונים והיפר-פרמטרים, והשירות מנהל את משאבי המחשוב ונקודות השמירה. בסיום, המודלים המכווננים נרשמים אוטומטית ב-SageMaker Model Registry כגרסאות מוכנות לפריסה.
מה ההבדל בין כוונון מלא ל-LoRA, ומתי כדאי לבחור בכל שיטה?
LoRA היא שיטת כוונון חסכונית שמקפיאה את משקלי המודל ומוסיפה מטריצות קטנות בדרגה נמוכה; כוונון מלא מעדכן את כל המשקלים. לפי AWS, כוונון מלא עשוי להועיל במשימות מורכבות ובמאגרים גדולים, אך אינו עדיף תמיד. בחלק מהניסויים LoRA הובילה מעט, ולכן הבחירה צריכה להתבסס על ניסויים, אופי הנתונים והפשרות הנדרשות.
אילו תוצאות השיג הכוונון המלא של Qwen3-4B במשימות יצירת קוד?
לפי דיווח AWS, כוונון מלא של Qwen3-4B הגיע ל-90.0 אחוזי נכונות סמנטית ביצירת קוד כאשר נעשה שימוש ב-100 אלף דוגמאות ומעלה. הניסוי השתמש במאגר Magicoder-Evol-Instruct-110K, והיתרון בלט במדדי BLEU ו-ROUGE-2. עם זאת, התוצאות אינן מעידות על יתרון בכל משימה: בחלק מהניסויים LoRA הובילה, ושתי השיטות פגעו בביצועי MATH ביחס למודל הבסיס.
מה זו שכחה קטסטרופלית, ואיך מצמצמים אותה בכוונון מלא?
שכחה קטסטרופלית היא פגיעה משמעותית בידע וביכולות קודמים של המודל בעקבות אימון על נתונים חדשים. בניסויי AWS, קצבי למידה של 5e-5 ומעלה גרמו לצניחה בביצועים. התצורה ששמרה בצורה הטובה ביותר על הידע הכללי כללה קצב למידה 2e-5, חימום של 5 אחוזים וגודל אצווה 8; הארכת האימון מעבר לשלושה מחזורים פגעה בביצועים