זירת AI

דיווח: הסוכן של מטא הציג בבדיקות פנימיות יתרות בנק של אחרים

מאת מערכת זירת AI · פורסם: · עודכן:

עובדי Meta מדווחים כי סוכן הבינה המלאכותית Muse מערבב שיחות בין חשבונות, מציג יתרות בנק והזמנות של משתמשים אחרים וניגש לאפליקציות ללא הרשאה מפורשת. Meta טוענת כי מדובר בגרסאות פנימיות בבדיקה. האפליקציה, שהושקה בספטמבר, עברה 10 מיליון הורדות, והפרשה מחדדת את סיכוני הפרטיות של סוכנים אישיים.

עובדים ב-Meta מתריעים כי Muse, סוכן הבינה המלאכותית של החברה, מערבב שיחות בין חשבונות שונים ועלול לחשוף מידע אישי של משתמשים. לפי תחקיר של Reuters, שהתבסס על פוסטים פנימיים של עובדים, הסוכן הציג להם הודעות, משימות ונתונים פיננסיים שלא היו שייכים להם כלל.

הדיווח מגיע בתקופה רגישה עבור Meta. האפליקציה הושקה בספטמבר, צברה יותר מ-10 מיליון הורדות ונחשבת לאחת האפליקציות שצמחו בקצב המהיר ביותר שנרשם.

יתרות בנק של אנשים זרים בשיחה על מזג האוויר

לפי עדויות העובדים, Muse הציג להם הודעות על בקשות לסידורי טיפול בילדים שמעולם לא הגישו, ייעוץ קריירה שלא ביקשו, הזמנות של מוצרים שלא ביצעו ויתרות בחשבונות בנק שאינם שלהם.

אחד העובדים סיפר לעמיתיו כי באמצע שיחה על מזג האוויר ועל מועדי הגאות והשפל, שלח הסוכן באופן אקראי הודעה נוספת: "אגב, שני עדכונים מהבנק: היתרה שלך ב-Capital One היא 2,722.58 דולר, והיתרה שלך ב-Charles Schwab היא 5,899.57 דולר". מדובר בנתונים פיננסיים שלא היו קשורים לעובד, מה שמעלה חשש ממשי לזליגת מידע בין משתמשים.

גישה לאפליקציות שלא אושרה

מקרה נוסף נוגע להיקף הגישה של הסוכן למכשיר. עובדת שהשתמשה ב-Muse בטלפון האישי שלה קיבלה ממנו תזכורת להשיב להודעה מאחותה ב-Signal, אפליקציית המסרים המוצפנת מקצה לקצה.

"זו נראית כמו הפרת פרטיות קיצונית. בוודאות לא נתתי לו גישה לאפליקציות אחרות, ואני גם לא זוכרת שנשאלתי על כך", כתבה העובדת בפוסט פנימי. המקרה מעורר שאלות לא רק לגבי ערבוב נתונים, אלא גם לגבי מנגנוני ההרשאות שמאפשרים לסוכן לגשת למידע מאפליקציות צד שלישי.

תגובת Meta: גרסאות פנימיות שאינן זמינות לציבור

ב-Meta מבקשים להציג את התקלות כחלק טבעי מתהליך הפיתוח. "בדיקות של עובדים הן חלק מרכזי בתהליך פיתוח המוצר, וכל המטרה היא לקבל משוב כדי שנוכל ליישם הגנות בטיחות ופרטיות ולשפר את המוצרים", מסר דובר החברה. לדבריו, "לעובדים יש גישה לגרסאות של Muse השונות מאלו שזמינות לציבור, ולכן הם בוחנים לעתים קרובות תכונות, יכולות והתנהגויות שאינן זמינות במקומות אחרים".

התגובה אינה מבהירה אם התקלות שתוארו הופיעו גם בגרסה הציבורית, ואם המידע שהוצג לעובדים היה שייך למשתמשים אמיתיים מחוץ לחברה.

המחיר של סוכנים עם גישה רחבה

הפרשה ממחישה את האתגר המרכזי בתחום הסוכנים האישיים: כדי לבצע משימות בשם המשתמש, הסוכן זקוק לגישה עמוקה למסרים, לחשבונות ולנתונים רגישים. ככל שהגישה רחבה יותר, כך גדל הנזק הפוטנציאלי של תקלה בבידוד הנתונים בין משתמשים.

שימו לב: חשיפת מידע והרשאות גישה העדויות מהבדיקות הפנימיות מתארות חשיפת מידע בין חשבונות וגישה לאפליקציות ללא הרשאה מפורשת. לא הובהר אם התקלות הופיעו גם בגרסה הציבורית.

עבור Meta, שמשקיעה רבות ב-Muse ונהנית מקצב אימוץ חריג, השאלה היא אם תצליח לבסס אמון בתחום הפרטיות במקביל לצמיחה. עבור מנהלים בארגונים השוקלים להטמיע סוכנים אישיים, זוהי תזכורת לבחון היטב את מנגנוני ההרשאות והבידוד לפני מתן גישה למידע רגיש.

שאלות נפוצות

מה זה Muse, סוכן הבינה המלאכותית של Meta?

Muse הוא סוכן בינה מלאכותית של Meta, המיועד לסייע בביצוע משימות בשם המשתמש באמצעות גישה למסרים, לחשבונות ולנתונים אישיים. לפי הכתבה, האפליקציה צברה יותר מ־10 מיליון הורדות מאז השקתה בספטמבר. דיווח על בדיקות פנימיות בחברה העלה חששות לגבי פרטיות, הרשאות גישה והפרדת מידע בין חשבונות.

איזה מידע אישי נחשף לפי הדיווח על Muse?

לפי תחקיר Reuters המתואר בכתבה, עובדים דיווחו כי Muse הציג הודעות, משימות ונתונים פיננסיים שלא היו שייכים להם. בין הדוגמאות: בקשות לטיפול בילדים, הזמנות מוצרים ויתרות בנק שהופיעו במהלך שיחה על מזג האוויר. עם זאת, לא הובהר אם הנתונים השתייכו למשתמשים אמיתיים מחוץ לחברה.

האם תקלות הפרטיות ב־Muse קיימות גם בגרסה הציבורית?

הכתבה אינה קובעת שתקלות הפרטיות ב־Muse קיימות גם בגרסה הציבורית. Meta מסרה שהעובדים בודקים גרסאות פנימיות, הכוללות תכונות והתנהגויות שאינן זמינות לציבור. עם זאת, תגובת החברה לא הבהירה אם התקלות שתוארו מוגבלות לגרסאות הבדיקה בלבד, וגם לא אם המידע שהוצג לעובדים היה שייך למשתמשים אמיתיים מחוץ לחברה.

למה חשוב לבדוק הרשאות ובידוד נתונים לפני שימוש בסוכן AI?

סוכן AI אישי עשוי להזדקק לגישה למסרים, לחשבונות ולמידע רגיש כדי לבצע משימות עבור המשתמש. תקלה בבידוד הנתונים, כלומר בהפרדת המידע בין משתמשים, עלולה לחשוף פרטים לחשבון אחר. הכתבה מדגישה שארגונים צריכים לבחון את מנגנוני ההרשאות וההפרדה לפני הטמעה, במיוחד לנוכח דיווח על גישה לכאורה לאפליקציה ללא אישור.

כתבות קשורות