בינה מלאכותית על-אנושית: הבטחה עצומה ואיום קיומי אמיתי

כשה-AI יהיה חכם מכולנו: מה שמדענים יודעים ומה שעדיין מפחיד אותם

נתון אחד מסכם את המצב טוב יותר מכל הסברה: יכולות ה-AI מוכפלות בממוצע כל שבעה חודשים. זה לא קצב של שיפור רגיל, זו צמיחה אקספוננציאלית שהופכת כל תחזית לבת פחות מכשנה.

בשנה האחרונה עברנו את הסף שבו AI חצה את גבול הביצועים האנושיים בתחומים שנחשבו בלתי חדירים: שאלות מדעיות ברמת דוקטורט, אבחון רפואי מורכב, תכנות מתקדם. דוח של אוניברסיטת סטנפורד שפורסם לאחרונה מצא כי מערכות ה-AI החדישות ביותר מתאימות לביצועים של מומחים אנושיים ממוצעים בשאלות מדע ברמת PhD, ואף עולות עליהם.

ה-AI הרפואי של מיקרוסופט הוא דוגמה קונקרטית: הוא פתר מקרים רפואיים מורכבים בדיוק של 85 אחוזים, כאשר הממוצע של רופאים מנוסים עמד על 20 אחוזים בלבד.

מה זה בכלל "בינה על-אנושית"?

המונח superintelligence, או בינה על-אנושית, מתאר מצב שבו מערכת AI עולה על היכולת הקוגניטיבית של כל אדם בכל תחום, בו-זמנית. לא AI שמנצח שחמטאים, אלא מערכת שחושבת, ממציאה, מנהלת וחוקרת טוב יותר מהמוח האנושי הטוב ביותר, בכל תחום שהוא.

השאלה לא מוסכמת: חוקרים בכירים חלוקים בדעתם האם מדובר בשנים ספורות, בעשורים, או שמא במשהו שלא ייתגשם כלל. המחלוקת היא לא אקדמית - היא קובעת את האופן שבו ממשלות ותעשיות צריכות להתכונן.

הסיכון שמדאיג את חוקרי הבטיחות

אם מערכת על-אנושית תהיה גם בעלת יכולת שכנוע ותכנון עצמאי, השאלה של "מי שולט במי" תהפוך אמיתית. חלק מחוקרי הבטיחות בתחום ה-AI - ובהם אנשים שעבדו ב-OpenAI, Google DeepMind ובמוסדות אקדמיים מובילים - טוענים שהסיכון הוא קיומי ממש: לא בסגנון סרט מדע בדיוני, אלא כתרחיש שיש לו הסתברות שאינה אפסית.

הדילמה המרכזית: ככל שמערכת חכמה יותר, כך קשה יותר לוודא שמטרותיה עולות בקנה אחד עם מטרות האנושות. הבעיה הזו נקראת בספרות alignment problem, ועד כה אין לה פתרון מוסכם.

ההזדמנות שלא כדאי לפספס

במקביל לדיון הסיכונים, הפוטנציאל של AI חזק לפתרון אתגרים עולמיים הוא אמיתי לא פחות. מחקר מזורז בסרטן, פיתוח תרופות, ניהול משברי אקלים, ייעול מערכות אנרגיה - כל אלה יכולים להתרחש בקצב מהיר פי כמה עם כלים על-אנושיים.

עבור חברות ישראליות בתחומי הביומד, הסייבר והפינטק, הפרק הנוכחי הוא הזדמנות לבסס יתרון תחרותי: ישראל מונה כמה מחברות ה-AI הצומחות ביותר בעולם, ומוסדות כמו מכון ויצמן וטכניון פעילים מאוד במחקר הגבול של הנושא. המשמעות עבור חברות מקומיות היא שההחלטה האם לאמץ, לפתח או לרגל אחר ההתפתחויות האלה צריכה להתקבל עכשיו, ולא כשהטכנולוגיה כבר בפתח.

השאלה שנותרת פתוחה אינה אם ה-AI ימשיך להשתפר, אלא מי יגדיר את הכללים שלפיהם הוא יפעל כשיגיע לשיא יכולתו.