כשמכונות מייצרות עובדות שלא קיימו מעולם
הסתמכות על כלי AI לצורכי מחקר ועריכה מעוררת שאלות חמורות על יחסה של הטכנולוגיה לאמת, למקורות ולראיות. הבעיה אינה ניסוח גנרי בלבד אלא משהו עמוק יותר: היכולת של מערכות לייצר ציטוטים ועובדות שכלל לא התרחשו, תוך שהן נשמעות אמינות לחלוטין.
כשמודל השפה לא יודע מה הוא ממציא
השאלה אם AI יכול לכתוב כמו אדם כבר נדונה למוות. השאלה החשובה יותר, שצוברת תאוצה בשיח הציבורי במערב, היא אחרת לגמרי: האם ניתן לסמוך על כך שמה שה-AI כותב - אכן קרה?
רוצה להישאר מעודכן ב-AI?
הירשם לדיוור השבועי שלנו וקבל עדכונים, המלצות על כלים, חדשות ודוחות מיוחדים
ציטוטים מפוברקים שהוצגו כאותנטיים, מקורות מחקר שמעולם לא נכתבו, שמות של חוקרים המצורפים למאמרים שלא קיימים. אלה אינם כשלים תיאורטיים. הם קורים כבר עכשיו, בחדרי עורכי דין, חדרי עריכה, מחלקות שיווק וגופי ממשל ברחבי העולם.
סיימון נידר, חוקר ממחלקת דרבישייר באנגליה, ניסח זאת בחדות כפי שפורסם ב-The Guardian: הסופרים שנתפסו מפרסמים ציטוטים בדויים לא ניסו להונות. הם האמינו שהם שולטים בתהליך ושה-AI הוא רק כלי עזר. אבל "בדיה נכנסה לתוך הרשומה העובדתית". הבעיה לא הייתה עצלות, אלא אמון שגוי במערכת שמייצרת ניסוחים סבירים - מבלי שהיא מסוגלת להבחין בין מה שנצפה, מה שהוסק ומה שהומצא.
הבעיה עמוקה מסגנון הכתיבה
מערכות LLM מאומנות על טקסטים עצומים ומייצרות תשובות ש"נשמעות נכון". אך נכון מבחינה סגנונית אינו שקול ל"נכון מבחינה עובדתית". הסכנה הגדולה אינה שה-AI כותב בצורה שטוחה או גנרית - זה פגם אסתטי שניתן לזהות. הסכנה היא שהוא כותב בצורה שכנועית ושוטפת גם כשהוא מפבריק.
הנקודה שמועלית בשיח הזה היא מושג ה-provenance - יכולתנו לאתר טענה חזרה אל הראיה שממנה היא נובעת. ציטוט מפוברק וציטוט אמיתי יכולים להגיע עטויים באותו לבוש לשוני. בעידן שבו תוכן AI משמש כבסיס לאימון דורות עתידיים של מודלים, מדובר בלולאה שמזינה את עצמה: AI לומד מ-AI, והפרדה בין עובדה להמצאה הופכת קשה עוד יותר.
שאלת האמפתיה והשליטה
מעבר לאמינות המידע, עולה שאלה אחרת: מה שמערכות AI אינן יכולות לעשות הוא לחוש. אין להן הבנה של הקשר אנושי, כאב, שמחה או אחריות. כשפלטפורמות אלו מוזמנות לשמש כלים בקבלת החלטות בתחומי בריאות, משפט, חינוך או ממשל, השאלה היא לא רק אם הן דיוקניות, אלא אם הן מכילות את ממד האמפתיה הנדרש לפסיקה אנושית.
המשמעות עבור ארגונים ישראלים
עבור חברות ישראליות המשלבות כלי AI בתהליכי עבודה - בין אם מדובר בחברות משפט, פירמות ייעוץ, מערכות בריאות או חדרי עריכה - הנושא הזה אינו אקדמי. הסתמכות על פלט של מודל לצורכי מחקר, תיעוד משפטי או ייצור תוכן עיתונאי, ללא מנגנון בדיקה שיטתי של מקורות, טומנת בחובה סיכון תדמיתי ומשפטי של ממש.
הפתרון אינו נטישת הכלים - אלא בניית שכבת אימות שאינה מסתמכת על המכונה לבדיקת עצמה. בדיוק כפי שלא היינו מבקשים מעד יחיד לאמת את עדותו שלו, לא ניתן להטיל על מערכת AI לזהות את שגיאותיה בלא מסגרת בקרה חיצונית.