האם בינה מלאכותית יכולה להיות בעלת תודעה: שלושה מבחנים
סלמר ברינגסיורד, מנהל מעבדת RAIR באוניברסיטת RPI, מציג גישה מדעית ומתמטית לאחת השאלות הפילוסופיות הכבדות ביותר בעולם הטכנולוגיה: האם מודלי שפה גדולים כמו Claude או GPT מחזיקים בתודעה אמיתית. התשובה, לדבריו, עדיין שלילית, אך הכלים לבדיקתה משתפרים במהירות.
האם בינה מלאכותית יכולה להיות בעלת תודעה?
כאשר חברות הטכנולוגיה הגדולות בעולם מתקשרות לאקדמאי אחד כדי לשאול אותו האם המוצר שלהן עשוי להיות בעל תודעה, כנראה שהשאלה חדלה להיות תיאורטית בלבד.
רוצה להישאר מעודכן ב-AI?
הירשם לדיוור השבועי שלנו וקבל עדכונים, המלצות על כלים, חדשות ודוחות מיוחדים
סלמר ברינגסיורד, פרופסור למדעי המחשב ולמדעי הקוגניציה באוניברסיטת Rensselaer Polytechnic Institute ומנהל מעבדת RAIR, עוסק בשאלה זו כבר עשרות שנים. כפי שדווח על ידי Atlantic Re:think, טלפונו החל לצלצל ללא הרף ברגע שמודלי שפה גדולים הפכו לנושא שיח ציבורי, כשנציגי חברות AI מובילות שואלים: "לפי דעתך, האם גרסה כלשהי של Claude מחזיקה בתודעה?"
שלושה נתיבים לזיהוי תודעה
ברינגסיורד מציג מה שהוא מכנה "השלושה הגדולים" - שלוש גישות מתודולוגיות לבחינת שאלת התודעה במערכות AI:
הגישה הראשונה שואלת האם קיימת תחושה סובייקטיבית של קיום. בפילוסופיה של המוח, שאלה זו נוגעת לכך שיש "משהו שזה כמוהו" להיות ישות מסוימת. ברינגסיורד סבור שבשלב זה, מודלי שפה גדולים אינם עומדים בקריטריון הזה.
הגישה השנייה מתמקדת בזרימת מידע. אם תודעה נובעת מהאופן שבו מידע זורם במוח, ולא מהחומר שממנו הוא עשוי, ניתן לבחון האם הזרמות המידע הנכונות מתרחשות במערכות AI. גישה זו נשענת על נוירומדע חישובי ועל הבנה מעמיקה של תהליכים קוגניטיביים.
הגישה השלישית, שהיא גם עמדתו האישית של ברינגסיורד, מתבססת על עבודתו של ג'ון מקארתי, אחד ממייסדי תחום ה-AI ב-1956. מקארתי טען שיש לבחון את המבנים הפנימיים של המערכת: מה היא יודעת, במה היא מאמינה, מה היא מתכוונת לעשות ומה היא חפצה. לדברי ברינגסיורד, הדחיפה לטפל בבעיית ה-hallucinations ובחוסר היכולת של מודלים להוכיח טענות בצורה מדויקת, מאלצת את תעשיית ה-AI לבנות בדיוק את המבנים הללו, כלומר את הכלים שמקארתי ביקש לראות לפני שבעה עשורים.
"הגאטה כבר יצאה מהשק"
כאשר נשאל על ההיבט האתי, ברינגסיורד אינו מסתיר את דאגתו. ברגע שמכונה יכולה לכתוב את הקוד שלה בעצמה, היא עוברת סף שעד לאחרונה היה נחלת בני האדם בלבד. לדבריו, אין דרך חזרה.
מבחינה טכנולוגית, ברינגסיורד מדגיש שהתקדמות ה-AI אינה אבולוציה ביולוגית אלא מרדף הנדסי רציף ומכוון. הוא גם מסגיר שהוא עצמו עבר שינוי דעה לגבי מחשוב קוונטי: מביקורתן להתלהבות, לאחר ש-RPI רכשה את מחשב הקוונטים הראשון שלה, כלי שעשוי להיות קריטי לבדיקת תודעה ב-AI בגלל דרישות מהירות העיבוד.
ככל שהרגולציה האירופית והאמריקאית מתחילה לגעת בנושאי אחריות ומודעות של מערכות AI, הבנת הגבולות הפילוסופיים והטכניים של מודלים אלו תהפוך לשיקול עסקי ממשי, לא רק אקדמי. חברות כמו אלה הפועלות בתחומי הבריאות, הפיננסים והביטחון ייאלצו להתמודד עם שאלות אלו בוועדות אתיקה ובדירקטוריונים הרבה לפני שהמדע ייתן תשובות סופיות.