כיצד בני אדם שופטים את המצפון המוסרי של הבינה המלאכותית
מחקר חדש שפורסם בכתב העת Computers in Human Behavior מגלה כי אמון בצ'אטבוט AI אינו נגזר מחומה או מיעילות לבדן, אלא מהתאמה בין סגנון התקשורת לבין חומרת הסיטואציה. הממצאים רלוונטיים במיוחד למעצבי מערכות AI בתחומי הבריאות, הביטחון והחינוך, ומציבים שאלות עמוקות על עיצוב ממשקי אמון אנושי-מכונה.
אמון ב-AI: לא שאלה של חמימות, אלא של התאמה לסיטואציה
כאשר מערכת AI ממליצה על החלטה רפואית קריטית, או מסייעת לנהג אוטונומי בדילמת בטיחות, מה גורם לאדם לסמוך עליה? מחקר חדש שפורסם לאחרונה בכתב העת Computers in Human Behavior מציע תשובה מפתיעה: לא חומה ולא קור - אלא הלימה.
רוצה להישאר מעודכן ב-AI?
הירשם לדיוור השבועי שלנו וקבל עדכונים, המלצות על כלים, חדשות ודוחות מיוחדים
החוקרים ליאנשאן ג'אנג ומאי יין ג'או מאוניברסיטת Shanghai Jiao Tong חקרו כיצד בני אדם מייחסים כשירות מוסרית למערכות שיחה מבוססות AI. המחקר מבחין בין שני מושגים מרכזיים: תפיסת סוכנות מוסרית, כלומר האמונה שהישות יכולה לקבל החלטות מכוונות ולשאת באחריות עליהן, ותפיסת רגש מוסרי, כלומר האמונה שהישות מסוגלת לחוש או לבטא אכפתיות וחמלה.
המתודולוגיה: שיחה בזמן אמת עם צ'אטבוט מבוקר
הניסוי כלל 447 משתתפים שגויסו דרך פלטפורמת סקרים סינית בשם Credamo. כל משתתף ניהל שיחה של כ-20 תורות עם צ'אטבוט שנבנה על פלטפורמת Coze, שבו החוקרים שלטו בצורה מדויקת על תגובות המערכת. חצי מהמשתתפים קיבלו צ'אטבוט חם ואמפתי, עם ביטויי אכפתיות ואמוג'ים. החצי השני קיבל צ'אטבוט מקצועי, פורמלי ומוכוון-יעילות.
לאחר מכן הוצגה לכל משתתף דילמה מוסרית: חלקם קיבלו תרחיש בחומרה נמוכה, וחלקם תרחיש של בחירה בין חיים ומוות. הצ'אטבוט הגיב לדילמה על פי אחת משתי גישות: גישה אוטיליטרית, שמקבלת פגיעה במיעוט לטובת ההמון, או גישה דאונטולוגית, שאוסרת גרימת נזק בכל מצב.
הממצאים: ההתאמה קובעת, לא הסגנון כשלעצמו
כפי שעולה מנתוני המחקר שפורסם ב-PsyPost על ידי אריק דולן, הממצא המרכזי הוא שסגנון השיחה כשלעצמו אינו מספיק כדי לבנות אמון מוסרי. "פשוט להפוך את הצ'אטבוט לחמים יותר לא גרם אוטומטית לאנשים לראות בו יכולת רגשית-מוסרית גבוהה יותר", ציין ג'אנג.
בתרחישים בחומרה נמוכה, משתתפים העדיפו את הצ'אטבוט החם וראו בו אמין יותר. אך בתרחישים בחומרה גבוהה, המגמה התהפכה: דווקא הצ'אטבוט המקצועי-פורמלי זכה לייחוס גבוה יותר של סוכנות מוסרית ויכולת רגשית, בייחוד כאשר המליץ על פתרון אוטיליטרי מנומק.
ממצא נוסף שהפתיע את החוקרים: משתתפים ייחסו רגש מוסרי גבוה יותר לצ'אטבוט שבחר לקבל נזק לאחד כדי להציל רבים, לעומת זה שסירב לגרום נזק לחלוטין. הסיבה, לדעת החוקרים, היא שהמשתתפים פירשו את ההמלצה האוטיליטרית לא כחישוב קר, אלא כביטוי של דאגה לחיי הרוב.
המשמעות למעצבי מערכות AI
המחקר שולח מסר ברור לצוותי פיתוח מוצר: אופטימיזציה לחמימות אינה מרשם אוניברסלי. "אמון תלוי פחות בשאלה האם ה-AI נשמע 'חם' או 'קר', ויותר בשאלה האם הוא מתקשר בצורה שמתאימה לסיטואציה", סיכם ג'אנג.
עבור חברות ישראליות הפועלות בתחומי הבריאות הדיגיטלית, הביטחון, המשפט או ה-EdTech, הממצאים הללו מחדדים דרישה מעשית: עיצוב ממשקי AI חייב לכלול רגישות קונטקסטואלית. מערכת שמתנהגת בצורה זהה בייעוץ פיננסי יומיומי ובהחלטת חירום רפואית עלולה לאבד אמינות בדיוק ברגעים שבהם היא נחוצה ביותר.
החוקרים מציינים מגבלות ברורות: המשתתפים צעירים, אורבניים ומשכילים מסין, והאינטראקציה הייתה חד-פעמית וקצרה. הם מתכוונים להרחיב את המחקר לתרבויות נוספות, קבוצות גיל שונות, ולאינטראקציות ממושכות עם השלכות אמיתיות.
"המטרה אינה לגרום לאנשים לסמוך יותר על AI, אלא לעזור להם לסמוך עליו בצורה חכמה יותר", סיכם ג'אנג - משפט שכדאי לתלות מעל שולחן העבודה של כל מנהל מוצר AI.