מטא תשתמש ב-AI לזיהוי קטינים
מטא משיקה מערכת AI שסורקת תמונות וסרטונים כדי לזהות משתמשים מתחת לגיל 13 על בסיס רמזים ויזואליים. הטכנולוגיה, שכבר פועלת במדינות נבחרות, מגיעה בעקבות פסק דין של 375 מיליון דולר שהוטל על החברה בגין סיכון ילדים. המערכת תורחב ל-Facebook ולמדינות נוספות במהלך השנה.
מטא הודיעה השבוע כי תתחיל להשתמש ב-AI לסריקת תמונות וסרטונים במטרה לזהות משתמשים מתחת לגיל 13 ולהסיר אותם מ-Facebook ו-Instagram. המערכת, כפי שפורסם על ידי TechCrunch, מנתחת רמזים ויזואליים כמו גובה ומבנה עצם כדי להעריך את גילו של המשתמש.
"אנחנו רוצים להיות ברורים: זו לא מערכת זיהוי פנים", הדגישה החברה בפוסט הרשמי. "ה-AI שלנו בודק תבניות כלליות ורמזים ויזואליים, למשל גובה או מבנה עצם, כדי להעריך את הגיל הכללי של מישהו. הוא לא מזהה את האדם הספציפי בתמונה". מטא טוענת שבשילוב עם ניתוח טקסט ואינטראקציות, המערכת תאפשר לזהות ולהסיר מספר גדול יותר של חשבונות של קטינים.
רוצה להישאר מעודכן ב-AI?
הירשם לדיוור השבועי שלנו וקבל עדכונים, המלצות על כלים, חדשות ודוחות מיוחדים
הטכנולוגיה כבר פועלת במדינות נבחרות, והחברה עובדת על הרחבתה. כאשר המערכת קובעת שמשתמש עשוי להיות קטין, היא תשבית את החשבון, והמשתמש יידרש להוכיח את גילו דרך תהליך אימות גיל כדי למנוע מחיקה מוחלטת.
רקע משפטי כבד
הצעד מגיע שבועות ספורים לאחר שמושבעים בניו מקסיקו חייבו את מטא לשלם 375 מיליון דולר בקנסות אזרחיים בגין הטעיית צרכנים לגבי בטיחות הפלטפורמות והעמדת ילדים בסיכון. בית המשפט גם הורה לחברה ליישם שינויים יסודיים בפלטפורמות. בתגובה, מטא איימה לסגור את שירותי המדיה החברתית שלה במדינה.
זהו רק אחד ממגוון תביעות רחב שמטא וחברות טק נוספות מתמודדות איתן בנושא בטיחות ילדים. הלחץ הרגולטורי והציבורי על פלטפורמות המדיה החברתית להגן על משתמשים צעירים הולך ומתגבר, והחברות נדרשות להוכיח שהן נוקטות צעדים משמעותיים.
הרחבת חשבונות מוגנים לנוער
במקביל, מטא הודיעה על הרחבת הטכנולוגיה שמעבירה אוטומטית נערים ל-"חשבונות נוער" מוגנים יותר ב-Instagram ל-27 מדינות באיחוד האירופי ולברזיל. חשבונות אלה כוללים הגנות נוספות: קבלת הודעות ישירות רק מאנשים שהמשתמש עוקב אחריהם או מחובר אליהם, הסתרת תגובות פוגעניות, והגדרת חשבונות כפרטיים כברירת מחדל.
הטכנולוגיה תורחב גם ל-Facebook בארצות הברית לראשונה, ובהמשך לבריטניה ולאיחוד האירופי ביוני הקרוב.
משמעות עבור המשתמש הישראלי
עבור משתמשים ישראליים ומפתחים מקומיים, הצעד של מטא מסמן התפתחות נוספת בשימוש ב-AI לניהול תוכן ואכיפת מדיניות. חברות ישראליות העוסקות בבינה מלאכתית לזיהוי תמונה או אימות גיל עשויות למצוא בכך הזדמנות לפתח פתרונות דומים או משלימים. מצד שני, המערכת מעלה שאלות לגבי דיוק הזיהוי ופוטנציאל לטעויות, במיוחד בקרב משתמשים שמבנה גופם אינו תואם את הסטריאוטיפים הגילאיים הסטנדרטיים.