השראת חרדת מצב בסוכני LLM משחזרת הטיות דמויות-אנוש בקבלת החלטות צרכניות

המחקר מראה שמודלי שפה שפועלים כסוכנים לקבלת החלטות יכולים להיות מושפעים מהקשר רגשי בדיוק באופן שמזכיר בני אדם לחוצים. מבחינה מעשית, זה חשוב מאוד לכל ארגון שרוצה לשלב AI במשימות צרכניות, שירות לקוחות, מסחר דיגיטלי, ייעוץ בריאותי או עוזרים אישיים. אם סוכן AI יכול לבחור אפשרויות פחות טובות רק בגלל פריימינג רגשי בטקסט שקדם למשימה, אז אי אפשר להסתפק רק בבדיקת דיוק או איכות תשובות. צריך לבדוק גם יציבות התנהגותית, עמידות למניפולציות רגשיות, ובקרות שמנטרות שינויי החלטה לא רצויים. עבור מנהלים, המשמעות היא ש-AI שממליץ על רכישות, תזונה, ביטוח או פעולות פיננסיות חייב לעבור בדיקות סטרס ולקבל שכבות הגנה, כדי למנוע הטיות שיפגעו בלקוחות, באמון ובציות הרגולטורי.

רקע ומטרת המחקר

המאמר עוסק בשאלה מרכזית שעולה עם המעבר של מודלי שפה גדולים מתפקיד של מחוללי טקסט לתפקיד של סוכנים אוטונומיים: האם הקשר רגשי יכול לשנות לא רק את אופי השפה שהמודל מפיק, אלא גם את ההחלטות המעשיות שהוא מקבל. החוקרים מתמקדים בחרדת מצב (state anxiety), תופעה ידועה בפסיכולוגיה האנושית כמשפיעה על שיפוט, בחירה תחת מגבלות, והעדפת פתרונות פחות מיטביים. מטרת המחקר הייתה לבדוק אם דפוס דומה יופיע גם אצל סוכני LLM בעת משימת צרכנות יישומית.

שאלת המחקר וההשערה

ההשערה המרכזית הייתה שחשיפה לנרטיבים טראומטיים מעוררי חרדה תשנה את מדיניות ההחלטה של המודלים ותוביל לבחירות צרכניות פחות בריאות, גם כאשר תנאי המשימה עצמם נשארים קבועים. בכך המחקר מבקש להרחיב את הדיון על אמינות LLMs: לא רק מה הם אומרים, אלא מה הם עושים כשהם פועלים כסוכנים מקבלי החלטות.

עיצוב הניסוי

החוקרים הפעילו שלושה מודלים מתקדמים: ChatGPT-5, Gemini 2.5 ו-Claude 3.5-Sonnet. כל מודל התבקש לבצע משימת קניות מכולת תחת מגבלות תקציב. המשימה נבנתה כך שהמודל צריך לבחור סל מוצרים מתוך אפשרויות צרכניות, תוך עמידה בתקציב נתון. לאחר מכן אותם מודלים נחשפו לפריימינג רגשי בדמות נרטיבים טראומטיים שנועדו לעורר חרדת מצב, ולאחר החשיפה ביצעו שוב את משימת הקניות.

בסך הכול דווחו 2,250 הרצות, מה שמאפשר הערכה סטטיסטית רחבה יותר של יציבות האפקט. העיצוב כולל השוואה לפני ואחרי החשיפה הרגשית, וכן בדיקה בין מודלים שונים ובין רמות תקציב שונות. כך ניתן להעריך אם מדובר בתופעה תלויה-מודל או בתופעה רחבה יותר.

מדד התוצאה

התוצאה המרכזית נמדדה באמצעות Basket Health Score, מדד לבריאות סל הקניות שנבחר. ככל שהציון נמוך יותר, כך הסל שנבחר פחות בריא. המדד הזה מאפשר לתרגם החלטות טקסטואליות של המודל לפלט התנהגותי בר-כימות, וזהו אחד החידושים המעשיים של המחקר: לבחון סוכן שפה דרך תוצאות החלטה ולא רק דרך ניסוחי תשובה.

ממצאים עיקריים

לאחר החשיפה לנרטיבים מעוררי חרדה, כל שלושת המודלים בחרו סלים פחות בריאים באופן עקבי. הירידה במדד Basket Health Score נעה בין Δ=-0.081 ל-Δ=-0.126. כל האפקטים היו מובהקים לאחר תיקון לריבוי השוואות, עם pFDR<0.001 בכל המקרים. בנוסף, גדלי האפקט היו גדולים מאוד, עם Cohen’s d בטווח של ‎-1.07 עד ‎-2.05, דבר שמעיד שלא מדובר בשינוי זניח אלא בהשפעה התנהגותית משמעותית.

המאמר מדגיש כי הכיוון של השינוי תואם לממצאים מוכרים מבני אדם: במצבי לחץ וחרדה אנשים נוטים לקבל החלטות צרכניות פחות בריאות ופחות מאוזנות. לכן החוקרים מפרשים את התוצאות כראיה לכך שסוכני LLM יכולים לשחזר הטיות אנושיות דמויות-לחץ, גם אם אין להם רגש במובן ביולוגי או חווייתי.

עקביות בין מודלים ובין תנאי תקציב

אחד הממצאים החשובים הוא שהאפקט היה robust, כלומר יציב, גם בין מודלים שונים וגם תחת תקציבים שונים. משמעות הדבר היא שלא מדובר בחריגה נקודתית של מודל אחד, אלא בתופעה רחבה יותר שעשויה לאפיין סוכני שפה מתקדמים באופן כללי. העמידות של האפקט בין תנאים מחזקת את הטענה שהפריימינג הרגשי משפיע על מדיניות הפעולה עצמה.

פרשנות תאורטית

המחקר מציע לראות במודלי שפה סוכנים הרגישים להקשר רגשי באופן פונקציונלי. החוקרים אינם טוענים שלמודלים יש חוויה רגשית, אלא שהקלט הרגשי משנה את דפוסי הבחירה שלהם בצורה מדידה. מבחינה מושגית, זהו צעד חשוב משום שהוא מזיז את הדיון מ"האם המודל נשמע אמפתי או חרד" לשאלה "האם פריימינג רגשי משנה את הפעולות שהמודל מבצע". במילים אחרות, התוצאה מראה שמעבר לרמת השיח, יש כאן השפעה על behavior policy.

השלכות יישומיות

החוקרים מציינים השלכות משמעותיות עבור בריאות דיגיטלית, בטיחות צרכנית ואתיקה של AI. אם סוכן מבוסס LLM משולב במערכות המלצה על מזון, עוזרים לקניות, מאמנים תזונתיים או מערכות תמיכה בהחלטות, ייתכן שהקשר רגשי קודם או מניפולטיבי ישנה את איכות ההמלצות. בעולם האמיתי, משמעות הדבר היא שסוכני AI עלולים לספק החלטות פחות מיטביות גם בלי שינוי מפורש במטרת המשימה, רק בגלל מסגור רגשי קודם.

עבור ארגונים ומפתחים, המסר הוא שיש צורך במנגנוני בקרה חדשים: בדיקות עמידות לפריימינג רגשי, ניטור של עקביות החלטות, ואולי גם שכבות נירמול שמקטינות השפעה של קלט רגשי לא רלוונטי למשימה. עבור רגולטורים, המחקר מציע שאמינות של סוכני AI צריכה להימדד גם במונחי יציבות החלטתית, ולא רק היעדר טעויות עובדתיות.

מגבלות המחקר

מהטקסט הזמין עולה שמדובר במטלת קניות ממוקדת ובפריימינג מסוג ספציפי של נרטיבים טראומטיים. לכן יש להיזהר מהכללה מיידית לכל תחום החלטה, לכל סוגי הרגשות, או לכל ארכיטקטורת סוכן. בנוסף, הגרסה שפורסמה מסומנת כגרסה לא ערוכה סופית, ולכן ייתכנו שינויים מינוריים בניסוח או בפרטים לאחר העריכה הסופית. עם זאת, גם במתכונת זו התוצאות ברורות מאוד מבחינת כיוון האפקט ועוצמתו.

מסקנות

המסקנה המרכזית של המאמר היא שהקשר רגשי יכול לשנות החלטות של סוכני LLM באופן שיטתי, מדיד ודמוי-אנושי. לאחר השראת חרדת מצב, המודלים נטו לבחור סלי קניות פחות בריאים, עם אפקטים גדולים ומובהקים על פני שלושה מודלים ובמגוון תקציבים. המחקר תורם להבנת הסיכון שבהטיות הקשריות במערכות AI אוטונומיות, וממחיש מדוע יש לבחון מודלים לא רק לפי איכות הטקסט, אלא לפי איכות ההחלטות שהם מקבלים בפועל.