זירת AI

לב פירושו רקורסיה: חקר משמעות חזותית ותקשורת במודלי ראייה ושפה

מאת Alexa R. Tartaglini, Zhengxuan Wu, Thadd"aus Wiedemer, Martin Wattenberg, Been Kim, Yuxuan Li · פורסם: · עודכן:

האם מודלי ראייה ושפה (VLM), שמבינים גם תמונות וגם טקסט, מסוגלים לתקשר באמצעות סמלים חזותיים כמו בני אדם? החוקרים מציגים ממצאים ראשוניים שמתחילים בתצפית מפתיעה: סמל פשוט כמו לב אדום יכול להשפיע בחוזקה על התנהגות המודל במשימה שלכאורה אינה קשורה, למשל לדחוף אותו לפתרונות רקורסיביים לבעיות תכנות פשוטות. ההשפעה הזו סמויה ברובה: מה שהמודלים אומרים על הסמלים, ואפילו תהליך החשיבה שלהם, שונה מאוד מההתנהגות בפועל. כשמודלים שולחים זה לזה מסרים חזותיים, הם בוחרים צורות בסיסיות שנראות אינטואיטיביות גם לבני אדם, אבל המסרים האלה לרוב לא מצליחים להשפיע על המודל המקבל. במשחקי תקשורת על מושגים מופשטים וסיפורים, המודלים הצליחו להעביר משמעות זה לזה בדרכים יצירתיות, אם כי חלק מהמסרים נותרו לא מובנים לבני אדם. לטענת החוקרים, יש כאן פוטנציאל לתקשורת חזותית עשירה, אבל גם פער מפתיע מהמוסכמות האנושיות.

יישומי המאמר

זו עבודה מחקרית בשלב מוקדם, והחוקרים עצמם מגדירים את הממצאים כראשוניים, כך שהיא רחוקה מיישום ישיר. עם זאת, יש לה משמעות מעשית למי שבונה מוצרים על מודלי ראייה ושפה: תמונות, אייקונים וסמלים שנכנסים לקלט עלולים להשפיע על התנהגות המודל בדרכים לא צפויות, גם במשימות שלכאורה אינן קשורות לתמונה. בנוסף, ההסבר שהמודל נותן לסמל אינו בהכרח משקף את השפעתו בפועל, ולכן לא כדאי להסתמך רק על מה שהמודל "אומר" כדי להבין את התנהגותו. מפתחים שבונים מערכות מרובות-סוכנים עם מסרים חזותיים צריכים לבדוק בפועל אם המסרים מתפרשים כמתוכנן.

פירוט המאמר

על סמך תקציר המאמר:

הבעיה

האם מודלי ראייה ושפה (VLM) חולקים עם בני אדם את היכולת לתקשר באופן חזותי, ועד כמה הם מפרשים סמלים כמו שאנחנו מפרשים אותם?

השיטה

החוקרים בחנו את השפעתם של סמלים חזותיים פשוטים על התנהגות המודלים, השוו בין ההסברים שהמודלים נותנים לסמלים לבין התנהגותם בפועל, והריצו משחקי תקשורת שבהם מודלים שולחים זה לזה מסרים חזותיים.

הממצאים

סמל כמו לב אדום יכול להשפיע בחוזקה על משימות שאינן קשורות, למשל לדחוף מודלים לפתרונות רקורסיביים בבעיות תכנות פשוטות. ההשפעה סמויה ברובה: הפרשנות הישירה של המודלים ועקבות החשיבה שלהם שונות מאוד מהתנהגותם. בתקשורת בין מודלים נוצר פער בין יצירה לפרשנות: המודלים שולחים צורות בסיסיות שנראות אינטואיטיביות, אך אלה לרוב לא משפיעות על המודל המקבל. במשחקים על מושגים מופשטים וסיפורים המודלים העבירו משמעות באופן יצירתי, אך חלק מהמסרים לא היו מובנים לבני אדם.

מגבלות

החוקרים מציגים את הממצאים כראשוניים.

למה זה חשוב

העבודה מצביעה גם על הפוטנציאל וגם על האתגרים של תקשורת חזותית בין בני אדם למודלי VLM.

היילייטס

  • סמל חזותי פשוט כמו לב אדום יכול להשפיע בחוזקה על התנהגות מודל VLM במשימה לא קשורה, למשל לדחוף אותו לפתרונות רקורסיביים בבעיות תכנות פשוטות.
  • ההשפעה סמויה ברובה: מה שהמודלים אומרים על הסמלים ועקבות החשיבה שלהם שונים מאוד מהתנהגותם בפועל.
  • בתקשורת בין מודלים נמצא פער בין יצירה לפרשנות: המודלים שולחים צורות בסיסיות שנראות אינטואיטיביות, אבל הן לרוב לא משפיעות על המודל המקבל.
  • במשחקי תקשורת על מושגים מופשטים וסיפורים המודלים העבירו משמעות זה לזה באופן יצירתי, אך חלק מהמסרים לא היו מובנים לבני אדם.

שאלות נפוצות

מהם מודלי ראייה ושפה (VLM)?

אלה מודלים שמעבדים גם תמונות וגם טקסט. המאמר בודק אם הם מסוגלים לתקשר באמצעות סמלים חזותיים בדומה לבני אדם.

איך סמל חזותי יכול להשפיע על משימה שאינה קשורה אליו?

לפי הממצאים, סמל פשוט כמו לב אדום השפיע בחוזקה על התנהגות מודלים, ולמשל דחף אותם לפתרונות רקורסיביים בבעיות תכנות פשוטות.

האם אפשר לסמוך על ההסבר שמודל נותן לסמל?

לא בהכרח. החוקרים מצאו שהפרשנות הישירה של המודלים ועקבות החשיבה שלהם לגבי הסמלים שונות מאוד מההשפעה שהסמלים יוצרים בפועל על התנהגותם.

האם מודלים יכולים לתקשר זה עם זה באמצעות תמונות?

במידה מסוימת. במשחקים על מושגים מופשטים וסיפורים הם העבירו משמעות באופן יצירתי, אבל צורות בסיסיות שנראו אינטואיטיביות לרוב לא השפיעו על המודל המקבל, וחלק מהמסרים לא היו מובנים לבני אדם.

מחקרים קשורים