הצ'אטבוטים הם לא החברים שלכם
מרדית' וויטאקר, נשיאת Signal, מתריעה מפני הסכנות הגלומות בשימוש בצ'אטבוטים כמו ChatGPT ו-Claude לצורכי מידע אישי. בראיון ל-Bloomberg היא מסבירה מדוע אינטגרציה של AI עוזרים כמו Microsoft Copilot לתוך אפליקציות מסרים מהווה, לדעתה, דלת אחורית ממש לפרטיות האישית.
AI הוא כלי, לא שותף לחשיבה
מרדית' וויטאקר, נשיאת Signal ואחת מהקולות הביקורתיים המרכזיים בעולם הטכנולוגיה, הבהירה השבוע את עמדתה בנוגע לצ'אטבוטים של בינה מלאכותית: "אלה לא החברים שלכם. אלה לא יצורים בעלי תודעה. אלה לא בני-שיח בעלי רגישות."
רוצה להישאר מעודכן ב-AI?
הירשם לדיוור השבועי שלנו וקבל עדכונים, המלצות על כלים, חדשות ודוחות מיוחדים
הדברים נאמרו בראיון ל-Bloomberg, שבו נדונו נושאי מדיניות, פרטיות ועתיד Signal (כפי שפורסם על ידי TechCrunch). וויטאקר הודתה כי היא עצמה עושה שימוש בכלי AI "לעיצוב מסמך פה ושם", אך הדגישה שהיא אינה שואלת אותם שאלות: "אני רצינית מאוד לגבי החשיבה והכתיבה שלי, ואני לא רוצה שתהליך גיבוש רעיון יסוגר או יוצף על ידי תגובה של מערכת שמממצעת את מה שכבר קיים שם בחוץ."
Copilot כ"דלת אחורית"
החלק הפרובוקטיבי ביותר בדבריה של וויטאקר נגע לחזון שהציג מוסטפא סולימאן, מנכ"ל Microsoft AI, לפיו משתמשים יוכלו לאפשר ל-Copilot לנהל את כל קניות חג המולד שלהם. וויטאקר ניתחה את המשמעות של תרחיש כזה: מתן גישה ל-Copilot למשתמש פירושו, בפועל, גישה לכרטיס האשראי, לדפדפן, ל-Signal, ליכולת לשלוח הודעות לבני משפחה בשמו, לכתובת הבית וליומן.
"מה שתיארת הוא מערכת עם גישה חודרנית מאוד על פני יישומים ושירותים מרובים," אמרה וויטאקר. "בהקשר של Signal, זה יהווה סוג של דלת אחורית."
הדגם העסקי שעומד מאחורי הניתוח
הביקורת של וויטאקר אינה עומדת בחלל ריק. היא מגיעה מנשיאת ארגון ללא מטרות רווח שבנה את מוצרו כולו סביב הצפנה מקצה לקצה והיעדר איסוף נתונים. Signal מספקת תשתית תקשורת לעיתונאים, פעילים, ועסקים הזקוקים לסודיות מרבית.
השאלה המהותית שוויטאקר מעלה היא ארכיטקטורלית: מודל AI שמתחבר לשירותים מרובים יוצר בהכרח נקודת ריכוז של גישה ומידע. גם אם הספקית עצמה אינה זדונית, כל פגיעות אבטחה במערכת כזו חושפת בבת אחת נתונים ממגוון רחב של מקורות.
עבור ארגונים ישראלים המאמצים כיום פתרונות AI עוזרים כגון Microsoft 365 Copilot, Google Gemini for Workspace, או כלים ארגוניים דומים, הדברים מציבים שאלה מעשית: האם בוצעה הערכת סיכוני גישה לפני הפריסה? מחלקות IT ומנהלי אבטחת מידע נדרשים להגדיר בצורה ברורה לאילו נתונים ושירותים יש לאפליקציית ה-AI גישה, ולצמצם הרשאות מיותרות.
פרטיות כעיקרון עסקי
וויטאקר מייצגת גישה שלפיה פרטיות היא לא רק ערך אתי אלא דרישה ארגונית. בעידן שבו כלי AI מוטמעים בעומק תשתיות התקשורת הארגונית, ההבחנה בין "עוזר שימושי" ל"מערכת עם גישה רחבה מדי" הופכת לשאלת ניהול סיכונים של ממש.