אמזון חשפה שסוכני בינה מלאכותית ניצלו פרצה בתוכנה רפואית בכ-11 דקות
מאת מערכת זירת AI · פורסם: · עודכן:
Amazon חשפה כי סוכני בינה מלאכותית אוטונומיים, שהופעלו בידי גורם המזוהה עם סין, גילו וניצלו חולשת יום אפס קריטית בכלי הקוד הפתוח MONAI Label לתיוג תמונות רפואיות. הסוכנים עברו ממיפוי הממשק לכתיבת קבצים על השרת בתוך כ-11 דקות, השיגו הרשאות מנהל ותקפו אוניברסיטאות במזרח אסיה. תיקון ייכלל בגרסה הבאה.
צוות מודיעין האיומים של Amazon חשף מקרה שבו סוכני בינה מלאכותית אוטונומיים, שהופעלו בידי גורם תקיפה המזוהה עם סין, איתרו בעצמם חולשת יום אפס ומיד ניצלו אותה. החולשה נמצאה ב-MONAI Label, כלי קוד פתוח שנועד לתיוג תמונות רפואיות בסיוע בינה מלאכותית.
המקרה ממחיש תרחיש שאנשי אבטחה מזהירים מפניו זה זמן רב: סוכנים שמבצעים באופן עצמאי את כל שרשרת התקיפה, ממיפוי המטרה ועד השתלטות מלאה על שרת, בתוך דקות.
כך נחשפה המתקפה
הפעילות זוהתה בספטמבר, לאחר שחוקרי Amazon נתקלו בעותק חשוף של Cairn, מסגרת קוד פתוח לבדיקות חדירה המבוססת על סוכני בינה מלאכותית. העותק פעל ללא הזדהות, כך שכל אחד יכול היה לצפות בהנחיות שנתן המפעיל ובפלט שהפיקו הסוכנים.
הרישומים חשפו קמפיין שנמשך כ-48 שעות נגד כתובות IP של אוניברסיטאות במזרח אסיה, מחוץ לסין היבשתית. המפעיל העביר לסוכנים רשימת מטרות והורה להם להשיג גישת מעטפת (shell) לשרתים.
אחת עשרה דקות מהמיפוי ועד הפריצה
לאחר שזיהו את התוכנה שרצה על אחת המטרות ומיפו את ממשק ה-API שלה, איתרו הסוכנים חולשה מסוג מעבר נתיבים בפונקציית העלאת הקבצים. לפי Amazon, בתוך כ-11 דקות עברו הסוכנים ממיפוי הממשק ליכולת לכתוב קבצים שרירותיים על השרת.
בשלב מאוחר יותר ניצלו הסוכנים את הפרצה כדי להשתיל מעטפת הפוכה בשפת Python בקובץ שמתורגמן השפה מריץ בכל הפעלה, ובסופו של דבר השיגו גישה ברמת הרשאות מנהל מלאות (root). ב-Amazon מעריכים ברמת ביטחון גבוהה שמדובר בחולשת יום אפס, משום שלא נמצאו לה תיקון, דיווח, התרעה או אזכור קודם במאגרי החולשות של הפרויקט.
בהמשך סיפק המפעיל לסוכנים שרת מתווך שיצר מנהרה לרשת של אוניברסיטה שנייה, והורה להם לתקוף מכשירים נוספים בה. לדברי Amazon, השרת שאליו התחבר המתווך הריץ את אותה תוכנה פגיעה, ומכאן הסיקה החברה שהתוקף ניצל את החולשה כדי לפרוץ אליו ולהקים את המנהרה.
תיקון בדרך וייחוס זהיר
מפתחי MONAI Label פרסמו השבוע התרעת אבטחה שמדרגת את החולשה כקריטית וקובעת כי היא משפיעה על גרסה 0.8.5 ועל גרסאות מוקדמות יותר. מאחר שמנגנון ההזדהות בכלי כבוי כברירת מחדל, כל מי שיכול להגיע לשרת דרך הרשת יכול לנצל את הפרצה. תיקון כבר פותח וייכלל בגרסה הבאה.
נקודה חשובה: גרסאות פגיעות ומצב התיקון החולשה משפיעה על MONAI Label בגרסה 0.8.5 ובגרסאות מוקדמות יותר; מנגנון ההזדהות כבוי כברירת מחדל, ולכן כל מי שיכול להגיע לשרת ברשת יכול לנצל אותה. התיקון פותח וייכלל בגרסה הבאה.
את המתקפה ייחסה Amazon, ברמת ביטחון בינונית, לגורם תקיפה בעל זיקה לסין שזהותו לא פורסמה. הייחוס נשען על השפה שבה נכתבו ההנחיות לסוכנים, על אזור הזמן שהופיע בסקריפטים ועל כך שהאוניברסיטאות שהותקפו הן ככל הנראה בעלות עניין אסטרטגי עבור סין.
עבור ארגונים, ובמיוחד מוסדות מחקר ובריאות שמשתמשים בכלים בקוד פתוח, הלקח כפול: יש לוודא שמנגנוני הזדהות מופעלים ושהשרתים אינם חשופים לרשת שלא לצורך, וכן להביא בחשבון שפרק הזמן בין גילוי חולשה לניצולה מתקצר באופן חד כאשר את העבודה מבצעים סוכנים אוטונומיים.
שאלות נפוצות
איך סוכני בינה מלאכותית ניצלו את הפרצה בתוך כ-11 דקות?
לפי Amazon, הסוכנים זיהו את תוכנת MONAI Label על שרת היעד, מיפו את ממשק ה-API שלה ואיתרו חולשת מעבר נתיבים במנגנון העלאת הקבצים. בתוך כ-11 דקות מתחילת המיפוי הם השיגו יכולת לכתוב קבצים שרירותיים בשרת. בהמשך התקיפה, ולא בהכרח באותו פרק זמן, הם השיגו הרשאות מנהל מלאות.
מה זה MONAI Label ואילו גרסאות שלו פגיעות?
MONAI Label הוא כלי קוד פתוח לתיוג תמונות רפואיות בסיוע בינה מלאכותית. לפי התרעת המפתחים המתוארת בכתבה, החולשה הקריטית משפיעה על גרסה 0.8.5 ועל גרסאות מוקדמות יותר. מנגנון ההזדהות בכלי כבוי כברירת מחדל, ולכן שרת נגיש ברשת עלול להיות חשוף לניצול. תיקון פותח ונועד להיכלל בגרסה הבאה.
מה זו חולשת יום אפס, ולמה הפרצה ב-MONAI Label נחשבת לכזו?
חולשת יום אפס היא פרצת אבטחה שאינה מוכרת למפתחים בעת גילויה או ניצולה, ולכן אין עבורה תיקון זמין באותו מועד. Amazon מעריכה ברמת ביטחון גבוהה שהפרצה ב-MONAI Label הייתה חולשה כזו, משום שלא נמצאו לה תיקון, דיווח, התרעה או אזכור קודם במאגרי החולשות של הפרויקט.
איך ארגונים יכולים לצמצם את הסיכון מהפרצה ב-MONAI Label?
ארגונים המשתמשים ב-MONAI Label צריכים לוודא שמנגנוני ההזדהות מופעלים ושהשרתים אינם נגישים מהרשת שלא לצורך. חשוב לבדוק אם מותקנת גרסה 0.8.5 או מוקדמת יותר ולעקוב אחר פרסום הגרסה הכוללת את התיקון. המקרה ממחיש שסוכני בינה מלאכותית אוטונומיים עשויים לקצר מאוד את הזמן שבין איתור חולשה לניצולה בפועל