AGI, שקיפות וחוכמת הדורות: מה באמת מזהירות חברות הבינה המלאכותית
חברות כמו Anthropic מזהירות מפני קצב ההתפתחות המואץ של בינה מלאכותית, אך האם ההגדרה של AGI כבר מטושטשת? ריכוז הכוח בידי מעט חברות, היעדר שקיפות, ורגולציה לקויה - אלו הם האתגרים האמיתיים שעומדים בפני החברה כיום, הרבה מעבר לוויכוח הסמנטי על AGI.
כשהאזהרות מגיעות מבפנים: מה חברות ה-AI באמת אומרות לנו
בשנים האחרונות הפכו האזהרות בנושא בינה מלאכותית למוכרות מאוד - אך מקורן עדיין מפתיע: הן מגיעות מאותן חברות שבנו את הטכנולוגיה עצמה. Anthropic, OpenAI וחברות דומות מדברות על "עצירה", על "גישה זהירה", ועל "סיכונים קיומיים" - בו בזמן שהן ממשיכות לפתח מודלים חזקים יותר ויותר.
רוצה להישאר מעודכן ב-AI?
הירשם לדיוור השבועי שלנו וקבל עדכונים, המלצות על כלים, חדשות ודוחות מיוחדים
הסתירה הזו אינה נעלמת על מי שעוקב אחרי התחום. אם AGI - בינה מלאכותית כללית ברמת אדם ומעלה - כבר הייתה קיימת, הטון של החברות היה שונה לחלוטין. הן לא היו מדברות על "בקרוב", "עשויה להגיע" או "אנחנו עדיין לא שם". הן היו עוסקות בהכלה, בסגירת מערכות, ובתיאום דחוף ברמה גלובלית.
הקו בין AI מתקדם ל-AGI מתטשטש
השאלה האמיתית אינה אם AGI כבר קיים, אלא האם ההבחנה עצמה עדיין רלוונטית. כאשר מערכת יכולה לנתח נתונים מורכבים, לכתוב קוד, לתכנן פעולות מרובות שלבים, ולייצר פתרונות מקוריים בתחומים שונים - הגדרות הופכות לפילוסופיות יותר מאשר מעשיות.
חברות כמו Anthropic מזהירות מפני הקצב: עקומות ה-scaling, נתוני ה-benchmark הפנימיים, ומסמכי המחקר הציבוריים - כולם מצביעים על כך שהסף הבא עלול להגיע מהר יותר ממה שהחברה יכולה לעכל. זוהי אזהרה על מסלול, לא על הגעה.
הבעיה האמיתית: שקיפות וריכוז כוח
מעבר לוויכוח הסמנטי, יש בעיה מובנית ועמוקה יותר. פיתוח ה-AI מתרחש מאחורי דלתות סגורות. הציבור מקבל גישה למוצרים, אך לא לתהליכים, להחלטות, ולנתונים שמניעים אותם. חברות כמו Meta, Google ו-OpenAI מגדירות מחדש את המרחב הציבורי הדיגיטלי ללא פיקוח ציבורי של ממש.
האינטרנט, שהובטח כרשת פתוחה ומבוזרת, הפך לאוסף של מערכות אקולוגיות קנייניות שבהן הכוח מרוכז בידי מעט. ה-AI לא שונה במהותו מהדינמיקה הזו - הוא מעצים אותה.
משמעות הדבר עבור ארגונים ומקבלי החלטות ישראלים היא ברורה: הסתמכות על שירותים שמופעלים ללא שקיפות נושאת סיכון עסקי ורגולטורי שיגדל ככל שהרגולציה הבינלאומית - ובפרט ה-AI Act האירופי - תתהדק.
חוכמת העבר ושגיאות ההווה
יש משהו מדויק בהשוואה לחוכמה עתיקה: עוד בתקופות קדומות הזהירו הוגים מפני ריכוז כוח ללא אחריות, מפני בניית דברים שיוצריהם אינם מבינים לגמרי, ומפני גאווה שמעוורת את היוצר לתוצאות יצירתו. האזהרות הללו אינן פחות רלוונטיות כיום.
ההבדל הוא שהיום, בניגוד לרעידות אדמה, הטכנולוגיה מפגינה את עצמה לאט ובאופן מדיד. עקומות הביצועים נמדדות. המחקר מתפרסם. ההחלטות נלקחות על ידי בני אדם. זה בדיוק מה שהופך את היעדר השקיפות לבלתי-נסלח - לא לבלתי-נמנע.
השאלה שנותרת פתוחה אינה אם AGI קיים, אלא האם המוסדות הציבוריים, הרגולטורים, וחברות הטכנולוגיה עצמן ינצלו את החלון שעדיין פתוח - כדי לבנות מסגרות אחריות שיחזיקו מעמד גם כאשר היכולות יגדלו עוד.