MIT ומיקרוסופט מציגות את Murakkab: מערכת שמאיצה סוכני AI ומפחיתה דרמטית עלויות ענן
מערכת מחקרית חדשה בשם Murakkab מנסה לפתור אחת הבעיות הבוערות ביותר בעולם סוכני הבינה המלאכותית: איך להריץ תהליכי AI מורכבים בענן במהירות גבוהה יותר, בצריכת אנרגיה נמוכה יותר ובעלות מופחתת, בלי להקריב ביצועים או דיוק.
סוכני AI הופכים לתשתית ענן, והחשבון מתחיל להתנפח
המעבר ממודלי שפה בודדים אל מערכות סוכנים מרובות שלבים משנה במהירות את תעשיית הבינה המלאכותית. יותר ויותר יישומים אינם מסתפקים עוד בקריאה אחת למודל, אלא מרכיבים שרשרת של סוכנים, מודלים, מסדי נתונים, כלי קוד ותהליכי עיבוד חיצוניים. כך נבנות מערכות שמסוגלות לנתח וידאו, להפיק תמלול, לבחור פריימים חשובים, להריץ קוד, לחפש מידע ולנסח תשובה סופית למשתמש.
רוצה להישאר מעודכן ב-AI?
הירשם לדיוור השבועי שלנו וקבל עדכונים, המלצות על כלים, חדשות ודוחות מיוחדים
אבל מאחורי היכולת הזו מסתתרת בעיה כלכלית ותפעולית כבדה: כל שלב בשרשרת דורש משאבי מחשוב, וכל החלטת תצורה שגויה עלולה להפוך לשריפת כסף, חשמל וזמן GPU. בעולם שבו ענקיות ענן נאבקות על קיבולת מרכזי נתונים ועל הספקת חשמל, אופטימיזציה של סוכני AI אינה רק שיפור הנדסי. היא הופכת לשאלה אסטרטגית.
מה Murakkab עושה אחרת
המערכת החדשה, Murakkab, שפותחה בידי חוקרים מ-MIT ומיקרוסופט Azure, מציעה גישה עמוקה יותר מאשר עוד כלי תזמון לענן. במקום שהמפתח יגדיר מראש באופן קשיח אילו מודלים, אילו כלים, איזה חומרה ואיזה סדר פעולות יפעילו את היישום, Murakkab מאפשרת לתאר את מטרת היישום בשפה גבוהה יחסית. למשל: מערכת שאלות ותשובות על וידאו שמחלצת פריימים, מייצרת תמלול ומשיבה לשאלות.
מכאן, המערכת בוחרת באופן אוטומטי את רכיבי העבודה המתאימים, מזהה אילו פעולות חייבות להתבצע ברצף ואילו יכולות לרוץ במקביל, ומתאימה את הפריסה בפועל לפי אילוצי המשתמש. אם הלקוח מעדיף זמן תגובה קצר, דיוק גבוה או עלות נמוכה, Murakkab יכולה לשנות את האיזון בזמן אמת. כלומר, האופטימיזציה אינה מסתיימת בשלב הפיתוח, אלא נמשכת בזמן ההרצה בענן.
המספרים שמעניינים את תעשיית ה-AI
במבחנים על עומסי עבודה כמו שאלות ותשובות על וידאו ויצירת קוד, Murakkab הצליחה לעמוד בדרישות המשתמשים תוך שימוש בכ-35% בלבד מכמות יחידות המחשוב שנדרשו בשיטות אחרות. צריכת האנרגיה ירדה לכ-27%, והעלות ירדה לפחות מרבע מהעלות המקבילה. באחד המקרים המערכת הפחיתה את צריכת האנרגיה ביותר מסדר גודל, במחיר של ירידה של כ-2% בלבד בדיוק.
הנתונים האלה חשובים משום שהם מצביעים על כיוון שבו תשתיות AI עתידיות לא יתחרו רק בגודל המודל או במספר המעבדים הגרפיים, אלא ביכולת לתזמן, לפרק ולבנות מחדש תהליכים סוכניים בצורה חכמה. במילים אחרות, יתרון תחרותי בענן עשוי להגיע פחות מהשאלה מי מחזיק ביותר שבבים, ויותר מהשאלה מי יודע לנצל אותם טוב יותר.
המשמעות העסקית: שכבת ניהול חדשה לסוכני AI
עבור ספקיות ענן, Murakkab מייצגת אפשרות לשכבת תזמור חדשה בין אפליקציות AI לבין תשתית החומרה. שכבה כזו יכולה לספק נראות עמוקה יותר אל תוך עומסי העבודה, לאפשר שיתוף משאבים יעיל יותר בין לקוחות, ולצמצם הקצאת יתר. עבור ארגונים, המשמעות עשויה להיות פיתוח מהיר יותר של יישומי AI מורכבים בלי להחזיק צוותי מומחים לכל שילוב אפשרי של מודלים, כלים וחומרה.
בטווח הארוך, מערכות מסוג זה עשויות להפוך לחלק בלתי נפרד מפלטפורמות בניית סוכנים. ככל שמופיעים מודלים חדשים, מאיצים חדשים וכלי תוכנה חדשים, מפתח אנושי לא יוכל לבדוק ידנית את כל קומבינציות התצורה האפשריות. לכן, שוק ה-AI יזדקק לא רק לסוכנים חכמים יותר, אלא גם למנהלי תהליכים חכמים יותר שמבינים עלות, אנרגיה, דיוק וזמן תגובה כמערכת אחת.
Murakkab עדיין נמצאת במסגרת מחקרית, אך היא מסמנת מגמה ברורה: השלב הבא במהפכת הסוכנים לא יהיה רק אוטונומיה, אלא יעילות. מי שיפתור את בעיית היעילות, יוכל להריץ יותר יכולות AI, ליותר משתמשים, בפחות אנרגיה ובעלות שמאפשרת מודלים עסקיים בני קיימא.