זירת AI

הובלה אופטימלית מונחית נקודות מפתח: מודלים, אלגוריתמים ויישומים

מאת Xiang Gu, Yucheng Yang, Wei Zeng, Jian Sun, Zongben Xu · פורסם: · עודכן:

המאמר מציג את KPG-RL, מסגרת להובלה אופטימלית המנצלת מעט זוגות נתונים שההתאמה ביניהם ידועה כדי להנחות התאמה בין התפלגויות שלמות. בניגוד לשיטות שממזערות בעיקר מרחק או עיוות גאומטרי, המסגרת משלבת מסכה המשמרת את ההתאמות הידועות עם עלות המשווה את הקשר היחסי של כל דגימה לנקודות ההכוונה. כך ניתן להתאים גם נתונים ממרחבי תכונות שונים. החוקרים מפתחים גרסאות מאוזנות, חלקיות ולא־מאוזנות, ומשלבים את ההכוונה בניסוחי Kantorovich ו־Gromov-Wasserstein. לצורך הגדלת היקף הנתונים נגזר ניסוח דואלי עם רגולריזציית χ², המאפשר ללמוד את הצימוד ברשתות עצביות ובמיני־אצוות. שתי אסטרטגיות נוספות משלבות למידה אדברסרית כדי לצמצם את הטשטוש בהעברת תמונות. בניסויים הודגמו שיפורים בהתאמת תחומים, ביישור נתוני תאים ובתרגום תמונות; למשל, דיוק ממוצע של 79.9% ב־Office-31 ו־87.6% בהתאמה לקטגוריות היעד בתמונות חיות באמצעות שלושה זוגות הכוונה. עם זאת, ההצלחה תלויה באיכות ההכוונה, והצימוד העצבי המקורב אינו מבטיח קיום מדויק של אילוצי ההתפלגויות.

יישומי המאמר

המשמעות המעשית היא שאפשר ללמד מערכת כיצד להתאים בין שני מאגרי נתונים באמצעות מספר קטן של דוגמאות תואמות, במקום לתייג התאמות לכל הרשומות. לדוגמה, כמה התאמות ידועות בין שתי שיטות מדידה יכולות להנחות התאמה של יתר הנתונים, גם כאשר המאגרים משתמשים בייצוגים שונים. בביולוגיה חישובית, השיטה יכולה לסייע בחיבור מדידות מסוגים שונים של תאים, כגון ביטוי גנים ונגישות כרומטין. בהתאמת תחומים, היא מאפשרת לנצל מאגר מקור מתויג כדי לשפר סיווג במאגר יעד שיש בו מעט תוויות. הגרסאות החלקיות והלא־מאוזנות מתאימות למצבים שבהם חלק מהקבוצות חסרות או מופיעות בשכיחויות שונות. ביצירת תמונות, מעט זוגות לדוגמה יכולים להגדיר תרגום רצוי בין קטגוריות, כגון חתול לאריה, בעוד שרוב תמונות האימון אינן מזווגות. זו עדיין שיטת מחקר ולא מוצר מוכן: איכות התוצאות תלויה בדוגמאות ההכוונה, בייצוג הנתונים ובאימון, ואין הבטחה שכל פרט בתמונה או כל התאמה ביולוגית יישמרו.

פירוט המאמר

הבעיה והמטרה

הובלה אופטימלית היא כלי להתאמת התפלגויות באמצעות חישוב תוכנית צימוד בין דגימות מקור ויעד. אולם התאמה זולה מבחינה גאומטרית אינה בהכרח נכונה מבחינה סמנטית: דגימות ממחלקות שונות עלולות להתחבר, ואף שימור המבנה הפנימי אינו פותר תמיד עמימות בין קבוצות. המאמר בוחן כיצד מעט התאמות ידועות יכולות לכוון את התאמת יתר הדגימות. הוא מרחיב עבודה כנסית מ־2022, בעיקר באמצעות מודלים לא־מאוזנים, ניסוח דואלי ללמידה עצבית ויישומים חדשים בנתוני תאים ובתרגום תמונות.

המנגנון המרכזי

המסגרת KPG-RL משלבת שני רכיבים משלימים. הראשון הוא מסכה בינארית המגבילה את תוכנית ההובלה ומשמרת את התאמת זוגות נקודות ההכוונה. במקרה הבסיסי, שבו לשתי נקודות מזווגות מסה שווה, כל מסת נקודת המקור עוברת לבת זוגה, שאינה מקבלת מסה מנקודות אחרות. הנספחים מרחיבים את הטיפול למסות שונות. המסכה מקבעת את ההתאמות הנתונות, אך לבדה אינה מסבירה כיצד להתאים את הדגימות הלא־מזווגות. הרכיב השני מעביר את ההכוונה לשאר הנתונים. לכל דגימה מחושב וקטור הסתברויות באמצעות softmax של מרחקיה לנקודות ההכוונה בתחומה. לאחר מכן נבנית עלות התאמה לפי הדמיון בין וקטורי המקור והיעד, בדרך כלל באמצעות דיברגנץ Jensen–Shannon. דגימות בעלות יחסי קרבה דומים לזוגות ההכוונה מקבלות עלות נמוכה. מאחר שנדרשים מרחקים בתוך כל תחום בלבד, השיטה יכולה לחבר מרחבי תכונות שונים. עם זאת, כאשר פרופילי היחסים אינם מבחינים היטב בין דגימות, ההכוונה מוגבלת ונדרש מידע נוסף.

ניסוחים, אלגוריתמים ותאוריה

המודל הבסיסי הוא תוכנית ליניארית, שאפשר לפתור ישירות או להוסיף לה רגולריזציה אנטרופית ולפתור באמצעות Sinkhorn מותאם למסכה. שילוב עם Kantorovich מוסיף עלות ישירה בין דגימות, ושילוב עם Gromov-Wasserstein מוסיף שימור של מרחקים פנימיים. הגרסה האחרונה נשארת בעיה לא־קמורה ונפתרת באמצעות Frank–Wolfe. המאמר מציג התכנסות לתוכנית האופטימלית בבעיה האנטרופית תחת תנאי היתכנות, וכן תכונות מטריקה ודיברגנץ תחת הנחות מפורשות על המרחקים ועל עקביות זוגות ההכוונה. תכונות אלה אינן הבטחה אוטומטית לכל בחירת עלות מעשית. הגרסאות החלקיות מתאימות רק כמות מסה מוגדרת, אך מחייבות את העברת מסת נקודות ההכוונה. פתרונן נעזר בנקודות דמה הקולטות מסה שאינה מותאמת. הגרסאות הלא־מאוזנות מרככות את אילוצי ההתפלגויות השוליות באמצעות ענישות KL, תוך אכיפה חזקה בנקודות ההכוונה, ומשתמשות באיטרציות Sinkhorn מוכללות. הבחנה זו חשובה כאשר קיימות קבוצות חסרות, דגימות חריגות או שכיחויות שונות בין התחומים.

למידה עצבית והעברת דגימות

אחסון תוכנית צימוד מלאה דורש מספר משתנים הגדל כמכפלת גדלי המאגרים. כדי להתמודד עם זאת, החוקרים גוזרים ניסוח דואלי למודל עם רגולריזציית χ² ומייצגים את הפוטנציאלים הדואליים באמצעות רשתות עצביות. האימון נעשה במיני־אצוות, והפוטנציאלים מאפשרים לחשב משקלי צימוד לפי הצורך. בניסוי על נתונים סינתטיים, הגישה העצבית הגיעה ל־80,000 דגימות בכל צד עם זיכרון שיא מדווח של כ־0.02GB; Sinkhorn חרג מזיכרון המאיץ החל מ־50,000. עם זאת, Sinkhorn היה מהיר יותר בגדלים הקטנים, והקירוב העצבי עלול להפר את האילוצים השוליים. ליצירת דגימות יעד מוצעות שתי אסטרטגיות. Manifold Barycentric Projection, או MBP, משלבת קרבה לממוצע המושרה מהצימוד עם אימון אדברסרי המעודד פלט הדומה לנתוני היעד. Manifold Sampling, או MSP, לומדת מחולל מותנה במקור וברעש, במטרה לדגום מההתפלגות המותנית שמגדיר הצימוד. שתיהן נועדו להתגבר על טשטוש הנוצר ממיצוע רגיל. ההתקרבות ליריעת הנתונים היא יעד אימון מעשי, ולא אילוץ גאומטרי מדויק שמובטח להתקיים.

תוצאות בהתאמת תחומים ובביולוגיה

בהתאמת תחומים הטרוגניים ב־Office-31, מרכזי מחלקות המקור ודוגמאות יעד מתויגות משמשים נקודות הכוונה. הדגימות מועברות למרחב היעד ועליהן מאומן SVM. עם דוגמת יעד אחת לכל מחלקה, הגרסה האנטרופית השיגה 79.9% דיוק ממוצע, לעומת 60.6% באימון על היעד המתויג בלבד ו־76.1% ב־STN. בניסויי הסרת רכיבים, המסכה לבדה שיפרה שיטות קיימות, אך שימור היחסים הוסיף תועלת משמעותית. בגרסת עולם פתוח, המזהה גם מחלקות לא מוכרות, המודל החלקי השיג ממוצע הרמוני של 69.1%, לעומת 48.7% בבסיס. ביישור רב־אומי נבחנו scGEM ו־SNARE בתרחישים של הסרת סוגי תאים ושל דגימה לא־מאוזנת. ניתן זוג תאים תואם אחד לכל סוג משותף. הגרסה הלא־מאוזנת הבסיסית השיגה 68.5% בממוצע, והגרסה הלא־מאוזנת עם GW השיגה 67.8%. המדד היה דיוק מסווג שכנים קרובים בין הייצוגים המיושרים, ולכן הוא מעיד על התאמה ברמת סוג התא ולא בהכרח על זיהוי מדויק של כל תא. בנוסף, חלק מהבסיסים היו בלתי־מונחים, בעוד שאחרים הותאמו לקבלת פיקוח חלקי; ההשוואה אינה מבודדת לחלוטין את תרומת האלגוריתם מתרומת המידע הנוסף.

תרגום תמונות, מגבלות ומשמעות

בתרגום MNIST לספרות סיניות השתמשו בעשרה זוגות הכוונה. MBP השיגה 76.28% התאמה למחלקה הרצויה ו־FID של 5.36; MSP השיגה 72.36% ו־3.05 בהתאמה. בתמונות חיות, שלושה זוגות הגדירו חתול–אריה, שועל–טיגריס ונמר–זאב. MBP השיגה 87.60% ו־MSP השיגה 87.27% התאמה לקטגוריות היעד, עם שיפור ניכר בטשטוש לעומת הקרנה בריצנטרית רגילה. גם החלפת הצימוד בשיטות flow matching בצימוד מונחה שיפרה את ההתאמה הסמנטית. עם זאת, היישום לחיות נשען על ייצוגי CLIP ועל המרחב הסמוי של Stable Diffusion, והדיוק נמדד באמצעות מסווג. המסקנה המרכזית היא שמעט התאמות יכולות לשנות משמעותית את איכות היישור, אך כיסוי ההכוונה, שגיאות בזוגות ואיכות הייצוג נשארים גורמים מכריעים.

היילייטס

  • ב־Office-31, עם דוגמה מתויגת אחת לכל מחלקת יעד, KPG-RL השיגה 79.9% דיוק ממוצע, לעומת 60.6% באימון על נתוני היעד המתויגים בלבד.
  • ביישור רב־אומי, הגרסה הלא־מאוזנת השיגה 68.5% בממוצע בארבעה תרחישים; עם זאת, חלק משיטות ההשוואה לא קיבלו את ההתאמות הידועות.
  • בתרגום תמונות חיות, שלושה זוגות הכוונה הספיקו ל־87.60% התאמה לקטגוריות היעד ב־MBP ול־87.27% ב־MSP, עם FID של 17.34 ו־16.62 בהתאמה.
  • בניסוי קנה המידה, הלמידה העצבית טיפלה ב־80,000 דגימות בכל צד בזיכרון שיא מדווח של כ־0.02GB, בעוד שפותר Sinkhorn חרג מהזיכרון החל מ־50,000 דגימות.
  • הכוונה שגויה פוגעת בביצועים: בניסוי התאמת תחומים עם שלוש דוגמאות לכל מחלקה, הדיוק נשאר 86.2% ב־20% זוגות שגויים, אך ירד ל־69.2% ב־50% זוגות שגויים.

שאלות נפוצות

כיצד אפשר להתאים בין מאגרי נתונים בעזרת מעט דוגמאות תואמות?

מסגרת KPG-RL משתמשת במספר קטן של זוגות נתונים שההתאמה ביניהם ידועה כדי להנחות התאמה בין התפלגויות שלמות. היא משמרת את הזוגות הידועים ומשווה את יחסי הקרבה של יתר הדגימות לנקודות ההכוונה. כך אפשר להתאים גם מאגרים בעלי ייצוגי תכונות שונים, בלי לתייג התאמה לכל רשומה. איכות ההתאמה תלויה באמינות הדוגמאות ובמידת הכיסוי שלהן.

כיצד התאמה מונחית משפרת סיווג כשיש מעט נתונים מתויגים?

בהתאמת תחומים, KPG-RL מאפשרת לנצל מאגר מקור מתויג כדי לשפר סיווג במאגר יעד שבו מעט תוויות. בניסוי Office-31, עם דוגמת יעד מתויגת אחת לכל מחלקה, השיטה השיגה דיוק ממוצע של 79.9%, לעומת 60.6% באימון על נתוני היעד המתויגים בלבד. התוצאה מדגימה כיצד מעט דוגמאות הכוונה עשויות לסייע בהעברת מידע בין מאגרים, אך אינה מבטיחה שיפור זהה בכל משימה.

איך ניתן לתרגם תמונות בין קטגוריות בלי מאגר גדול של תמונות מזווגות?

אפשר להשתמש במעט זוגות תמונות כדי להגדיר את התרגום הרצוי, בעוד שרוב תמונות האימון אינן מזווגות. בניסוי בתמונות חיות, שלושה זוגות הכוונה הגדירו התאמות כגון חתול–אריה, והתקבלה התאמה לקטגוריות היעד של כ־87%, לפי מסווג. שילוב הצימוד עם למידה אדברסרית נועד לצמצם טשטוש הנובע ממיצוע תמונות. עם זאת, אין בכך הבטחה לשימור כל פרט בתמונה, והניסוי נשען על ייצוגי CLIP ועל המרחב הסמוי של Stable Diffusion.

מדוע KPG-RL משלבת מסכת התאמות עם עלות המבוססת על יחסים לנקודות הכוונה?

המסכה משמרת את ההתאמות הידועות, אך לבדה אינה קובעת כיצד להתאים את יתר הדגימות. לשם כך, לכל דגימה מחושב וקטור הסתברויות באמצעות softmax של מרחקיה לנקודות ההכוונה בתחומה. עלות ההתאמה משווה בין הווקטורים, בדרך כלל באמצעות דיברגנץ Jensen–Shannon. מכיוון שהמרחקים מחושבים בתוך כל תחום בנפרד, אין צורך במרחב תכונות משותף. עם זאת, אם פרופילי הקרבה אינם מבחינים היטב בין דגימות, יכולת ההכוונה מוגבלת ונדרש מידע נוסף.

מתי כדאי להשתמש בהובלה אופטימלית חלקית או לא־מאוזנת ליישור נתונים ביולוגיים?

הובלה חלקית מתאימה כאשר רוצים להתאים רק כמות מסה מוגדרת, למשל כשחלק מסוגי התאים אינם משותפים לשני המאגרים. הובלה לא־מאוזנת מרככת את אילוצי ההתפלגויות באמצעות ענישות KL, ולכן מתאימה גם להבדלים בשכיחויות של קבוצות. בניסויי יישור רב־אומי, עם זוג תאים תואם אחד לכל סוג משותף, הגרסה הלא־מאוזנת השיגה 68.5% בממוצע בארבעה תרחישים. המדד בחן התאמה ברמת סוג התא, ולא זיהוי מדויק של כל תא. כמו כן, חלק משיטות ההשוואה לא קיבלו את ההתאמות הידועות.

כיצד הלמידה העצבית מאפשרת להרחיב הובלה אופטימלית למאגרים גדולים?

במקום לאחסן מטריצת צימוד מלאה, שגודלה גדל כמכפלת גדלי המאגרים, השיטה לומדת פוטנציאלים דואליים באמצעות רשתות עצביות ומיני־אצוות. הניסוח מבוסס על רגולריזציית χ² ומאפשר לחשב משקלי צימוד לפי הצורך. בניסוי סינתטי, הגישה טיפלה ב־80,000 דגימות בכל צד, עם זיכרון שיא מדווח של כ־0.02GB, בעוד שפותר Sinkhorn חרג מזיכרון המאיץ החל מ־50,000 דגימות. היתרון אינו מוחלט: Sinkhorn היה מהיר יותר בגדלים קטנים, והצימוד העצבי המקורב אינו מבטיח עמידה מדויקת באילוצי ההתפלגויות השוליות.

מחקרים קשורים