TikTok הוצף בתוכן AI מזויף: 60% מהסרטונים למשתמשים חדשים
מחקר חדש של חברת Kapwing חושף כי כמעט 60% מהסרטונים המוגשים למשתמשים חדשים בעמוד ה-"For You" של TikTok הם תוכן AI שטחי ומופק בכמויות תעשייתיות. הנתון חמור במיוחד בתכנים לילדים, שם כמעט כל הסרטונים מיוצרים באמצעות AI. הפלטפורמות מתקשות למצוא פתרון אפקטיבי, ואפילו מומחי הזיהוי המובילים בעולם מודים שאינם מסוגלים עוד להבחין בין אמיתי ומזויף.
כשהאלגוריתם מחליט שהכמות עדיפה על האיכות
התוכן שמציף את רשתות החברתיות בשנים האחרונות קיבל שם: AI slop. מדובר בסרטונים ותמונות המיוצרים בכמויות תעשייתיות באמצעות כלי AI גנרטיבי, לרוב ללא ערך אמיתי, לעיתים עם אלמנטים מטרידים, ותמיד על חשבון יוצרים אנושיים.
רוצה להישאר מעודכן ב-AI?
הירשם לדיוור השבועי שלנו וקבל עדכונים, המלצות על כלים, חדשות ודוחות מיוחדים
מחקר שפרסמה חברת Kapwing, המפתחת כלי עריכת וידאו מסן פרנסיסקו, חושף את היקף הבעיה ב-TikTok: כמעט 60% מהסרטונים המוגשים למשתמשים חדשים בדף ה-"For You" הם תוכן מסוג זה. מדובר בפי שלושה מהשיעור המוגש למשתמשים חדשים ב-YouTube (כפי שדווח על ידי ויקטור טנגרמן ב-Futurism).
ילדים בחזית הסכנה
הממצא המדאיג ביותר מתייחס לקהל הצעיר ביותר. על פי Kapwing, קטגוריית הילדים היא זו שבה צפיפות תוכן ה-AI גבוהה מכל קטגוריה אחרת. בבדיקה של 100 סרטונים תחת ההאשטאג #cartoonkids, נמצא כי רק שלושה מהם היו יצירה אנושית. השאר - AI.
מומחים מזהירים כי חשיפה ממושכת של ילדים לתוכן מסוג זה עלולה להשפיע על התפתחות קוגניטיבית ועל יכולת ההבחנה בין מציאות לבדיה. המשמעות עבור הורים ישראלים היא שאפליקציות שנתפסות כבידוריות לילדים הפכו למרחב בלתי מבוקר שבו מרבית התוכן אינו נוצר בידי אדם.
אפקט כדור השלג האלגוריתמי
המחקר מצביע על בעיה מבנית נוספת: כאשר משתמש מראה עניין בתוכן AI, האלגוריתם מכפיל את ההגשה של תוכן דומה - ויוצר לולאת חיזוק שקשה לצאת ממנה. התוצאה היא הפרדה הדרגתית של המשתמש מתוכן אנושי אותנטי.
TikTok הודיעה בנובמבר האחרון על כלי שיאפשר למשתמשים לשלוט בכמות התוכן שנוצר ב-AI בפיד שלהם. ג'יד נסטר, מנהלת מדיניות ציבורית אירופית של TikTok לנושאי בטיחות ופרטיות, הסבירה כי "אנשים רבים נהנים מתוכן שנוצר בכלי AI, ואנחנו רוצים לתת להם שליטה על כמות התוכן הזה". עם זאת, הפתרון הזה אינו אוטומטי ודורש מהמשתמש להיות מודע לבעיה מלכתחילה.
מפלטפורמה לפלטפורמה: אין מקלט
TikTok רחוקה מלהיות המקרה היחיד. Facebook ו-Instagram של Meta הפכו גם הן לזירות שבהן תמונות ווידאו מיוצרי AI - לעיתים בעלי אופי מטריד ואפילו מחריד - מקבלות מיליוני צפיות ואינטראקציות. YouTube הכריזה לאחרונה על מהלכים לסימון תוכן AI, אך שמרה על מדיניות ניטרלית בכל הנוגע להמלצות ולהכנסות ממנו.
האתגר הטכני אינו פשוט לפתרון. הני פריד, המכונה "מומחה הדיפייק המוביל בעולם", הודה לאחרונה בראיון לניו יורק טיימס כי הפסיק לסמוך על עיניו שלו בבואו להבחין בין תוכן אמיתי לממוחשב - נקודה שמדגישה את הפער הגדל בין יכולות הייצור של AI לבין יכולות הזיהוי האנושיות.
השלכות עסקיות ורגולטוריות
עבור מפרסמים ישראלים הפועלים ב-TikTok ו-Instagram, הנתונים האלה מעוררים שאלות לגבי ערך תשומות הפרסום. כאשר חלק גדול מהפיד הוא תוכן אוטומטי, הסביבה שבה מופיעים מסרים שיווקיים משתנה. חברות המשקיעות ביצירת תוכן מקורי מתמודדות עם תחרות מתוצרי AI זולים שלעיתים מקבלים נראות אלגוריתמית גבוהה יותר.
השאלה שנותרת פתוחה היא עד כמה הפלטפורמות מוכנות לנקוט צעדים שישפיעו על מדדי המעורבות שלהן - שהן, בסופו של דבר, הבסיס להכנסותיהן.