קרדיט תמונה: AP
מנכ"ל אמזון העלה חששות ביטחוניים שהובילו להשבתת מודלי Anthropic
לפי דיווחי The Wall Street Journal ו-Reuters, מנכ"ל אמזון אנדי ג'אסי הוא שהעביר לממשל טראמפ מידע על פגיעות אבטחה במודלי Claude Fable 5 של Anthropic - חברה שבה אמזון משקיעה מיליארדי דולרים. הדיווח הוביל לאיסור ייצוא פדרלי ולהשבתה גלובלית של שני המודלים החזקים ביותר של החברה.
כשהמשקיע הגדול ביותר הופך למקור החשש הביטחוני
השבוע נחשפה סאגה חריגה בעמק הסיליקון: לפי דיווחים מרובים, מנכ"ל אמזון אנדי ג'אסי הוא שהעביר לממשל טראמפ מידע שהוביל להשבתה גלובלית של שני המודלים החזקים ביותר של Anthropic - חברה שאמזון משקיעה בה עד כה כ-5 מיליארד דולר.
רוצה להישאר מעודכן ב-AI?
הירשם לדיוור השבועי שלנו וקבל עדכונים, המלצות על כלים, חדשות ודוחות מיוחדים
לפי דיווח של The Wall Street Journal, ג'אסי פנה לשר האוצר סקוט בסנט ולגורמי ממשל נוספים וסיפר כי חוקרים מטעם אמזון הצליחו להשתמש במודל Claude Fable 5 כדי לשאוב מידע שניתן לנצל לצורך מתקפות סייבר. בעקבות הפנייה הטיל הממשל איסור ייצוא (export control) על שני המודלים: Fable 5 ו-Mythos 5, והגישה אליהם ברחבי העולם נחסמה (כפי שפורסם על ידי TechCrunch).
הסבך: משקיע שמדווח על ההשקעה שלו
המקרה יוצר מתח עמוק בין שני שיקולים מנוגדים. מחד, אמזון היא המשקיעה והשותפה המסחרית הגדולה של Anthropic, כשה-AWS מחובר ישירות לתשתיות המודלים. מאידך, נראה כי ג'אסי בחר להעדיף דיווח ביטחוני על פני שמירת יחסים עסקיים - או לפחות כך מוצג הדבר בפומבי.
דובר אמזון אישר שהחברה מתייעצת לעתים עם ממשלות בנושאי סיכוני אבטחה, אך הוסיף שהחברה אינה חושפת פרטי שיחות אלה. בנוסף ציין כי שירותי AWS עצמם נפגעו מהשבתת המודלים.
גרסת הממשל: ניסיון לתקן נכשל
דייוויד סאקס, לשעבר "צאר ה-AI" של ממשל טראמפ וכיום שותף-יושב-ראש של המועצה הנשיאותית לייעוץ במדע וטכנולוגיה, הציג גרסה אחרת: לטענתו, "שותף אמין" שפעל מול גם Anthropic וגם הממשל האמריקני הגיע עם "jailbreak" - שיטה לעקוף את מנגנוני הבקרה של המודל. לדבריו, הממשל דרש מ-Dario Amodei, מנכ"ל Anthropic, לתקן את הפגיעות או להוריד את המודל - ואמודיי סירב.
מנגד, Anthropic פרסמה פוסט רשמי בו טענה כי היכולות שהדאיגו את הממשל קיימות ממילא במודלים ציבוריים אחרים, ולכן ההשבתה אינה מגינה בפועל על אף אחד.
המשמעות עבור שוק ה-AI הארגוני
האירוע מעלה שאלות מהותיות שרלוונטיות גם לחברות ישראליות המשלבות מודלי שפה בתוצרים מסחריים. ראשית, הוא ממחיש שאפילו מודלים של חברות שנחשבות לשמרניות ומאופקות בגישתן לבטיחות - כמו Anthropic - אינן חסינות מהשבתה פוליטית-רגולטורית. שנית, הוא מדגים שהשקעה פיננסית גדולה אינה ערובה לנאמנות מסחרית בעת לחץ ביטחוני.
עבור ארגונים המבוססים על Claude דרך AWS - כולל חברות ישראליות רבות בתחומי הפינטק, הסייבר והבריאות הדיגיטלית - ההשבתה הפתאומית ממחישה את הצורך בתוכנית גיבוי למודל חלופי ובהימנעות מתלות יתר בספק יחיד.
התמונה הכוללת מצביעה על מגמה ברורה: ממשלות, בראשות ארצות הברית, הופכות לשחקן אקטיבי בשאלה אילו מודלי AI רשאים לפעול ובאילו גבולות - וחברות טכנולוגיה, גם הגדולות שבהן, נמצאות כעת בצומת בין האינטרסים המסחריים לדרישות המדינה.