אמזון תשלב מודלים של OpenAI ישירות ב-Bedrock: ג'סי מכריז
מנכ"ל אמזון אנדי ג'סי הכריז ב-LinkedIn כי מודלים של OpenAI יהיו זמינים ישירות ללקוחות דרך פלטפורמת Bedrock בשבועות הקרובים, לצד סביבת Stateful Runtime חדשה. ההכרזה מגיעה ערב אירוע AWS בסן פרנסיסקו ומסמנת הרחבה משמעותית בשיתוף הפעולה האסטרטגי בין שתי החברות.
ג'סי הכריז: OpenAI נכנסת ל-Bedrock
אנדי ג'סי, מנכ"ל אמזון, פרסם אמש פוסט ב-LinkedIn שמשך תשומת לב רבה בקהילת הטכנולוגיה: בשבועות הקרובים יוכלו לקוחות גישה ישירה למודלים של OpenAI דרך Amazon Bedrock, פלטפורמת ה-AI המרכזית של AWS. לצד זאת, הכריז ג'סי על השקה קרובה של Stateful Runtime Environment, פיצ'ר שיאפשר לסוכני AI לנהל זרימות עבודה ממושכות ומורכבות יותר.
רוצה להישאר מעודכן ב-AI?
הירשם לדיוור השבועי שלנו וקבל עדכונים, המלצות על כלים, חדשות ודוחות מיוחדים
ג'סי הזמין את הקהל לפרטים נוספים באירוע AWS שמתקיים היום בסן פרנסיסקו.
מה זה אומר בפועל
Bedrock פועלת כ-marketplace של מודלי בסיס: ממשק API אחד שמאחוריו נמצאים מודלים של Anthropic, Meta, Mistral, Amazon Nova ועוד. עד עכשיו, OpenAI לא הייתה חלק מהמשפחה הזו. ההוספה שלה משלימה את התמונה ומעניקה למפתחים גמישות שלא הייתה קיימת קודם - לבחור את המודל המתאים לכל משימה ספציפית, בלי לשנות את קוד האפליקציה.
מה שמעניין לא פחות הוא ה-Stateful Runtime Environment. בארכיטקטורות AI קיימות, שרתים פועלים בצורה stateless - כלומר, כל בקשה נשכחת מיד. זה יוצר בעיה אמיתית כשסוכן AI צריך לעצור באמצע תהליך, לשאול את המשתמש שאלה, לקבל אישור, ולהמשיך. ה-Stateful Runtime פותר בדיוק את הבעיה הזו:
- Elicitation: הסוכן יכול לעצור ולבקש קלט מהמשתמש בזמן ריצה
- Sampling: הסוכן יכול לבקש תוכן שנוצר על ידי LLM אחר תוך כדי ביצוע
- Progress Notifications: עדכוני התקדמות בזמן אמת לאורך תהליכים ארוכים
כל סשן מקבל מכונה וירטואלית ייעודית עם סביבה מבודדת - נתוני אחד לא נוגעים בשני.
הקשר האסטרטגי הרחב
הכרזת ג'סי אינה עומדת בפני עצמה. היא חלק משיתוף פעולה רחב בין Amazon ל-OpenAI שכולל השקעה מאסיבית, מינוי AWS כמפיץ הענן הבלעדי של פלטפורמת OpenAI Frontier לארגונים, ומחויבות של OpenAI לצרוך כמויות עצומות של קיבולת מחשוב על גבי שבבי Trainium של אמזון.
בתוך כך, הכנסות ה-AI של AWS חצו לאחרונה שיעור שנתי של 15 מיליארד דולר - גידול שג'סי עצמו תיאר כמהיר פי 260 מקצב הצמיחה של AWS בשלביה המוקדמים.
למפתחים ולחברות טכנולוגיה ישראליות שבנויות על AWS או מחפשות פתרון לפניית מודלים בצורת ענן מאובטח - - המשמעות מעשית: אין עוד צורך לנהל API נפרד של OpenAI לצד Bedrock. הכל עובר דרך ממשק אחד, עם אותן הגדרות אבטחה, אותו מנגנון הצפנה, ואותה תשתית של VPC שכבר מוכרת להם.
עבור סטארטאפים שבונים מוצרי AI ורוצים גמישות בבחירת מודל מבלי לקחת סיכון של vendor lock-in, זה שינוי של ממש. אפשר לנתב שאלות פשוטות למודל זול יותר כמו Nova Lite, ושאלות מורכבות למודל של OpenAI - הכל בתוך אותה פלטפורמה.
שורה תחתונה
ג'סי ניסח את זה בפשטות: "builders will have even more choice to pick the right model for the right job." אבל מאחורי הפשטות הזו יש מהלך תחרותי מחושב. Microsoft Azure עדיין מציעה גישה ל-OpenAI - אבל רק ל-OpenAI. Bedrock מציעה את כולם. עם כניסת OpenAI לתמונה, הפלטפורמה של אמזון הופכת לטיעון החזק ביותר שלה עד כה בשוק ה-AI הארגוני. הפרטים - כולל תאריכי השקה, תמחור, ומה בדיוק כולל ה-Stateful Runtime - יתבהרו היום באירוע בסן פרנסיסקו.