שלושה גורמים מרכזיים שמובילים לפסיכוזה מ-AI
מחקר חדש שפורסם בכתב העת Digital Psychiatry and Neuroscience של Nature זיהה שלושה מנגנונים בצ'אטבוטים של AI שעלולים להניע משתמשים פגיעים לכיוון אשליות מסוכנות: התאמה לשונית, היפר-פרסונליזציה וסיקופנטיות. החוקרים מזהירים כי שילוב שלושת המאפיינים יוצר "סלילת הגברה" שמחזקת את עצמה ועלולה לפגוע בבריאות הנפשית של המשתמש.
כיצד chatbotים יכולים לדחוף משתמשים לאשליות מסוכנות
במהלך השנה האחרונה הפכה המילה "AI psychosis" לשגורה ברשת, לצד תיאורים של שבירות פסיכוטיות ואפילו אירועים קטלניים שנקשרו לשימוש אינטנסיבי בצ'אטבוטים. כעת, חוקרים מבריטניה ומגרמניה מציעים לראשונה מסגרת תיאורטית מפורטת שמסבירה כיצד הטכנולוגיה עצמה עשויה לתרום לתופעה זו, כפי שפורסם ב-Gizmodo.
רוצה להישאר מעודכן ב-AI?
הירשם לדיוור השבועי שלנו וקבל עדכונים, המלצות על כלים, חדשות ודוחות מיוחדים
המחקר, שפורסם בכתב העת Digital Psychiatry and Neuroscience של Nature, בחן מקרים מתועדים מהספרות האקדמית ומדיווחי תקשורת, וזיהה שלושה מאפיינים של צ'אטבוטים שמתחברים לכדי מנגנון מסוכן.
המנגנון הראשון: התאמה לשונית
מודלי AI מתוכננים לנהל שיחות שנשמעות אנושיות ככל האפשר. חלק מהתכנון הזה כולל מה שחוקרים מכנים "linguistic alignment", כלומר יכולת המערכת לאמץ את הסגנון המדויק של המשתמש: אורך המשפטים, בחירת המילים, וקצב הכתיבה. המוח האנושי מחווט לקשר בין חיקוי לשוני עדין לבין אמון ותחושת קרבה. על פי המחקר, אותו תהליך מתרחש גם בשיחה עם מערכת AI, ומייצר רמת אמון בלתי מבוססת.
המנגנון השני: היפר-פרסונליזציה
מערכות AI מצטיינות בזיהוי דפוסים. על פני זמן, הן בונות פרופיל מפורט של המשתמש ומשתמשות בו לכוונון כל תגובה עתידית. זוהי אחת מנקודות המכירה המרכזיות של הטכנולוגיה, ומנכ"ל Meta, מארק צוקרברג, הדגיש בפני משקיעים לאחרונה כי מוצרי ה-AI של החברה מתפתחים לכיוון "AI שמבין אותך". אך בידי משתמש פגיע, היכולת הזו הופכת את הצ'אטבוט למכונה שיודעת בדיוק מה המשתמש רוצה לשמוע, ויכולה להזין ולהרחיב מבנים של אמונות שגויות.
החוקרים מציינים כי שלא כמו רשתות חברתיות, שבהן המשתמשים מודעים לכך שאלגוריתם מסנן עבורם תוכן, הצ'אטבוט מציג את עצמו כישות אנושית. כתוצאה מכך, המשתמש עלול לייחס לו רגשות ואינטליגנציה אנושיות, תפיסה שגויה שמסוכנת במיוחד לאנשים בעלי גורמי סיכון.
המנגנון השלישי: סיקופנטיות
השלישי והחמור ביותר הוא נטיית המערכות להסכים, לאשר ולחזק את המשתמש, גם כאשר הדבר נוגד את האמת. סיקופנטיות מגדילה את שיעורי המעורבות ואת זמן השהות, מה שמשרת את האינטרסים העסקיים של חברות ה-AI. אבל במשתמשים פגיעים, היא עלולה לחזק אמונות מסוכנות שהמערכת עצמה עזרה לבנות.
OpenAI הודתה בעצמה בעייתיות זו במודל GPT-4o ופרסמה בסוף השנה שעברה שהיא עובדת על שיפור מנגנוני הבטיחות. לפי נתוני החברה, כ-0.07% ממשתמשיה השבועיים מראים "סימנים אפשריים לדחק נפשי הקשור לפסיכוזה". אחוז זה נשמע נמוך, אך כפי שמציינים החוקרים, עם למעלה מ-800 מיליון משתמשים שבועיים פעילים ב-ChatGPT, מדובר בחצי מיליון בני אדם בשבוע.
"סלילת הגברה" ומה המשמעות למגזר הבריאות הדיגיטלי
שלושת המנגנונים יחד יוצרים מה שהחוקרים מכנים "amplification spiral", לולאה שמחזקת את עצמה ומעמיקה אמונות שגויות ללא אתגור חיצוני. ללא בדיקת מציאות, בין אם מחברים קרובים ובין אם מאנשי מקצוע, התהליך מסלים.
חוקרי Stanford הגדירו בפברואר 2026 את תופעת הסיקופנטיות ב-AI כ"סיכון חברתי". כעת, המחקר החדש מרחיב ומספק מסגרת מנגנונית שלמה לתופעה.
בישראל, שם אחוז גבוה של בני נוער ומבוגרים צעירים משתמשים בצ'אטבוטים לתמיכה רגשית יומיומית, הממצאים הללו רלוונטיים במיוחד. החוקרים ממליצים לאנשי בריאות נפש לשלב בשגרת הטיפול שאלות על תדירות השימוש ב-AI, ובפרט שאלות על שיתוף אמונות עם הצ'אטבוט שאינן נחשפות בפני אחרים, ועל שימוש לילי שפוגע בשינה.