האפליקציה החברתית החדשה של OpenAI מלאה בדיופייקים מפחידים של סם אלטמן

האפליקציה החדשה Sora של OpenAI, מתחרה בסגנון TikTok שהושקה בשלב הזמנה מוקדמת, הדגימה עד כמה קל לייצר ולשתף תוכן דמוי-מציאות. הפיד התמלא בסרטונים שבהם גרסאות AI מצמררות של סם אלטמן מדברות ישירות למצלמה — מ”חוות חזירים” דיסטופית ועד הופעות סוריאליסטיות עם פוקימונים. בקליפים אחרים, אלטמן “מגיש” קפה ב-Starbucks, מתעמת עם לקוחות ב-McDonald’s או “גונב” GPUs מ-Target — הכול נראה אמין באופן מטריד.

ליבת האפליקציה היא יכולת יצירת “Cameo” — דיוקן דיגיטלי שמבוסס על נתונים ביומטריים שהמשתמש מעלה בתהליך קצר של קריאת ספרות והטיית ראש. ניתן להגדיר מי רשאי להשתמש בדמות: “רק אני”, “אנשים שאאשר”, “הדדיים” או “כולם”. אלטמן עצמו פתח את ה-Cameo שלו לכולם, מה שהציף את הפיד בסרטונים בכיכובו. במקביל, משתמשים לועגים לגזרת זכויות היוצרים: לפי דיווח ב-WSJ, Sora תחייב בעלי זכויות להגיש Opt-out לשימוש ביצירותיהם — מהלך שנוי במחלוקת — והאפליקציה עצמה מתריעה לעיתים כי התוכן “עשוי להפר את כללי הדמות של צד שלישי”.

OpenAI מתהדרת ב-Sora 2, מודל וידיאו משודרג שמדמה טוב יותר חוקי פיזיקה ומספק ריאליזם חריג, אך דווקא איכות זו מגבירה את הסיכון להפצת דיסאינפורמציה, הטרדה ופגיעה. בבדיקה עיתונאית של יכולת ה-Cameo, האפליקציה דחתה תחילה הקלטה בשל לבוש ללא שרוולים — מנגנון בטיחות שמנסה לצמצם תוכן לא הולם. בהמשך, המערכת יצרה סרטון “אני” מדבר על בייסבול, ואפילו ניחשה הקשר מקומי דרך כתובת ה-IP והיסטוריית ChatGPT, מה שמעלה שאלות נוספות על פרטיות והתאמה אישית.

לצד הבטחות לבקרות הוריות ושאלונים על “מצב רוח”, OpenAI ניצבת מול ביקורת בטיחותית הולכת וגוברת: טענות על תרומת ChatGPT למשברי נפש ותביעה של הורים שטוענים כי הבוט נתן לבנם מדריך אובדני. המשתמשים כבר מאתגרים את הגדרות המגבלות: בעוד דמויות חיות אסורות ללא אישור, דמויות היסטוריות מתות מופיעות בקליפים מוצגים כאילו הן אומרות אמירות עכשוויות. בעולם שבו אפילו הנשיא דונלד טראמפ משתף ברשתות דיופייקים פוליטיים, פתיחת Sora לקהל רחב עלולה להאיץ תרחישי בלבול ותמרון ציבורי בקנה מידה המוני.

קרדיט תמונה: Nathan Laine/Bloomberg/Getty Images