OpenAI משיקה כלים לזיהוי תמונות מבוססות בינה מלאכותית
חברת OpenAI הודיעה על שתי מערכות משלימות לסימון ואימות תמונות שנוצרו על ידי מודלים שלה: הצטרפות לתקן הפתוח C2PA והטמעת טכנולוגיית SynthID של Google. לצד זאת, החברה מציגה כלי אימות ציבורי שיאפשר לכל משתמש לבדוק את מקור התמונה. הצעד נועד להפחית את הנזק מתוכן מזויף ולמצב את OpenAI כגורם אחראי בשוק.
OpenAI מציבה תקן חדש לאימות תמונות - אבל האתגר האמיתי רק מתחיל
בשעה שמחוללי התמונות מבוססי בינה מלאכותית הופכים נגישים ומתוחכמים יותר, שאלת האותנטיות של תוכן ויזואלי הפכה לאחת הבעיות המרכזיות שעמן מתמודדות חברות תקשורת, גופי בחירות ורשתות חברתיות ברחבי העולם. OpenAI מציגה היום שני מנגנונים שנועדו לתת מענה חלקי לאתגר זה.
רוצה להישאר מעודכן ב-AI?
הירשם לדיוור השבועי שלנו וקבל עדכונים, המלצות על כלים, חדשות ודוחות מיוחדים
שתי שכבות הגנה משלימות
החברה הודיעה על הצטרפות לתקן C2PA - ארגון ללא מטרת רווח שהוקם בשנת 2021 במטרה לצמצם את הנזקים שגורם תוכן AI לשיח הציבורי. התקן מוסיף סימון ברור בתוך המטאדאטה של כל תמונה שנוצרה, כך שניתן יהיה לזהות את מקורה. Google כבר אימצה את התקן במספר מוצרים שלה, אך האימוץ בתעשייה כולה נותר חלקי.
לצד זאת, OpenAI מטמיעה את SynthID, סימן מים בלתי נראה שפותח על ידי Google ומתוכנן לשרוד גם ניסיונות מחיקה - לרבות צילומי מסך, שינויי גודל ועריכה דיגיטלית. בניגוד לסימון המטאדאטה, שניתן למניפולציה יחסית בקלות, SynthID מיועד לשמש שכבת הגנה עמידה יותר בפני גורמים זדוניים.
שתי המערכות מתוכננות לפעול בצוותא, כאשר כל אחת מהן מכסה את נקודות התורפה של האחרת. כפי שציינה OpenAI בהודעתה: "סימני מים יכולים להיות עמידים יותר בפני טרנספורמציות כמו צילומי מסך, בעוד שמטאדאטה יכולה לספק יותר מידע מאשר סימן מים בלבד. יחד, הם הופכים את מקוריות התוכן לעמידה יותר מכל שכבה בנפרד."
כלי בדיקה ציבורי בדרך
חברת OpenAI מציגה גם תצוגה מקדימה של כלי אימות ציבורי שיאפשר לכל משתמש לבדוק האם תמונה נוצרה בעזרת מודלים שלה. בשלב הראשון הכלי יכסה אך ורק תמונות שנוצרו על ידי מוצרי OpenAI עצמה, עם כוונה להרחיבו בהמשך לכלים נוספים בשוק.
הגבולות של הפתרון הנוכחי
חשוב להבין את מגבלות ההכרזה: ההגנות החדשות חלות רק על תמונות שנוצרו דרך מוצרי OpenAI. הצפה של תוכן מזויף ממחוללים אחרים - חלקם פחות מפוקחים ופחות שקופים - לא תיפגע מהמהלך הנוכחי. הצעד מסייע להבטיח ש-OpenAI לא תהיה חלק מהבעיה, אך אינו פותר אותה במלואה.
כאן טמון האתגר האמיתי: יעילות מנגנוני האימות תלויה באימוץ רחב של התעשייה כולה. כל עוד שחקנים אחרים - לרבות מודלים בקוד פתוח שניתנים להרצה מקומית - אינם מאמצים תקנים דומים, הפתרון יישאר חלקי.
חברות תקשורת, גופי עיתונאות דיגיטלית ופלטפורמות מסחר מקומיות מתמודדות יומיומית עם אתגר אימות תמונות. ארגוני בדיקת עובדות כמו מפענח ו-FakeReporter, שפועלים בסביבה שבה תוכן מפברק יכול להסתחרר במהירות ברשתות חברתיות, יוכלו להסתמך על מנגנוני אימות מבוססי תקן בעבודתם השוטפת. המשמעות עבור חברות טכנולוגיה ישראליות הבונות פתרונות לאימות תוכן היא שהנוף התחרותי מתגבש סביב תקנים פתוחים - מה שמייצר הזדמנות לשחקנים מקומיים להיות חלק מהמערכת האקולוגית הזו.
השאלה הגדולה שנותרת פתוחה היא האם OpenAI תצליח לגייס שיתוף פעולה מספיק רחב בתעשייה כדי להפוך את כלי האימות לאפקטיבי באמת - או שהוא יישאר, לפחות בשלב זה, פתרון חלקי לבעיה שלמה.