Microsoft Research מציגהשיטה חדשה שמוזילה יצירת קוד
חוקרי Microsoft Research מציעים גישה יעילה יותר להפעלת מודלי שפה בזמן יצירת קוד: לנסות קודם, לתכנן רק אם הבדיקה נכשלת. לפי המחקר, השיטה משפרת את יחס העלות מול הביצועים ומאפשרת להגיע לתוצאות של מודלים גדולים בעלות נמוכה בהרבה.
על פי פרסום מחקרי של Microsoft Research, שיטה חדשה בשם Planning-after-Trial, או בקיצור PaT, עשויה לשנות את האופן שבו מודלי שפה גדולים מייצרים קוד בזמן אמת, בעיקר כאשר נדרש איזון בין דיוק, מהירות ועלות חישובית.
לנסות קודם, לתכנן אחר כך
רוצה להישאר מעודכן ב-AI?
הירשם לדיוור השבועי שלנו וקבל עדכונים, המלצות על כלים, חדשות ודוחות מיוחדים
המחקר יוצג בכנס ACL 2026, אחד הכנסים המרכזיים בעולם לעיבוד שפה טבעית ובינה מלאכותית. הבעיה שהמחקר מבקש לפתור מוכרת היטב למפתחי מערכות AI: ככל שמודלי שפה גדולים משתפרים בפתרון בעיות תכנות, כך גדלה גם כמות החישוב הנדרשת בשלב ההרצה, כלומר בזמן שבו המשתמש כבר מבקש תשובה. בשנים האחרונות התפתחה גישה של הגדלת חישוב בזמן בדיקה, שבה המודל אינו מסתפק בתשובה אחת, אלא מתכנן, מנסה, בודק ומתקן. גישה זו יכולה לשפר דיוק, אך היא גם מייקרת מאוד את ההפעלה.
רוב השיטות הקיימות פועלות לפי מדיניות שנקראת Planning-before-Trial, כלומר תכנון לפני ניסיון - לחובבי Claude Code שבנינו, הכוונה לתוכנת ה PLAN. במצב כזה המערכת משקיעה משאבים בתכנון פתרון עוד לפני שהיא מנסה לייצר קוד. החוקרים טוענים כי זו גישה בזבזנית, משום שחלק ניכר מהבעיות ניתנות לפתרון ישיר ללא תכנון מורכב. במילים פשוטות, המערכת חושבת יותר מדי גם כשאין בכך צורך.
כיצד PaT משנה את סדר הפעולות
החידוש המרכזי ב-PaT הוא היפוך הסדר. במקום לבצע תכנון מראש, המערכת מנסה תחילה לייצר פתרון קוד באמצעות מודל חסכוני יותר. רק אם תהליך האימות נכשל, למשל אם בדיקות יחידה אינן עוברות או שהקוד אינו עומד בדרישות, מופעל רכיב תכנון חזק ויקר יותר. כך מתבצע שימוש ממוקד במשאבים מתקדמים רק במקרים שבהם הם באמת נדרשים.
גישה זו מתאימה במיוחד ליצירת קוד, משום שקוד מאפשר אימות אובייקטיבי יחסית. בניגוד למשימות כתיבה כלליות, שבהן קשה לדעת אם תשובה היא נכונה לחלוטין, קוד ניתן להרצה ולבדיקה מול מקרי מבחן. לכן ניתן לבנות לולאת עבודה שבה המודל מייצר פתרון, המערכת מריצה בדיקות, ורק במקרה של כישלון מופעל מנגנון חשיבה ותכנון עמוק יותר.
המחקר מדגיש גם את היתרון של תצורה הטרוגנית: מודל קטן וזול מטפל בניסיונות הראשוניים, בעוד שמודל גדול וחזק נשמר להתערבות נקודתית. לפי התוצאות שפורסמו, תצורה כזו מצליחה להגיע לביצועים דומים לאלה של שימוש קבוע במודל גדול, תוך הפחתת עלות ההסקה בכ-69%. עבור חברות שמפעילות כלי תכנות מבוססי AI בהיקפים גדולים, זהו נתון משמעותי במיוחד.
משמעות רחבה לשוק כלי הפיתוח מבוססי AI
המחקר משתלב במגמה רחבה יותר בתעשייה: מעבר ממודלים שמנסים לענות מיד, למערכות AI שמנהלות תהליך פתרון מבוקר. כלים כמו עוזרי קוד, סוכני תכנות ומערכות אוטומטיות לתיקון באגים נשענים יותר ויותר על מחזורי ניסיון, בדיקה ושיפור. האתגר הוא לבצע את המחזורים הללו בלי להפוך כל בקשה פשוטה לפעולה יקרה.
PaT מציעה תשובה פרגמטית לאתגר הזה. היא אינה דורשת בהכרח מודל חדש או אימון מחדש, אלא מדיניות הפעלה חכמה יותר בזמן השימוש. אם תוצאות המחקר ישוחזרו במערכות מסחריות, הן עשויות להשפיע על הדרך שבה שירותי AI לתכנות מתומחרים, מתוכננים ונפרסים בארגונים.
בסופו של דבר, הערך של PaT אינו רק בשיפור ביצועים, אלא בהבנה שמערכות AI יעילות אינן צריכות לחשוב לעומק בכל רגע. לפעמים הדרך החכמה ביותר היא לנסות, לבדוק, ורק אז להשקיע בתכנון מורכב.