בינה מלאכותית וייצוב גרעיני: הסיכונים שאי אפשר להתעלם מהם

כשה-AI נכנס לשרשרת הפיקוד הגרעינית

שני שנים חלפו מאז פרסמו פול שארה ומייקל דפ את המאמר 'בינה מלאכותית ויציבות גרעינית', שבו טענו כי שילוב AI בשרשרת הפיקוד הגרעינית טומן בחובו הזדמנויות לצד סיכונים של ממש. כיום, כאשר הטכנולוגיה חודרת עמוק יותר אל המערכות הצבאיות, הם שבים לבחון את עמדותיהם - וממצאיהם מדאיגים לא פחות.

כפי שעולה מהמאמר המעודכן שפורסם ב-War on the Rocks על ידי שארה ודפ, משרד ההגנה האמריקאי עסוק כעת בשילוב AI במגוון רחב של תחומים - תכנון מבצעי, ניתוח מודיעין ותפקודי מטה - כאשר יישומים גרעיניים ספציפיים נמצאים, לפי שעה, בסדר עדיפות נמוך יותר. עם זאת, ישנה פעילות מתמשכת בתחום אבטחת הסייבר של מערכות NC3, שהן מערכות הפיקוד, השליטה והתקשורת הגרעינית.

צעד ראשון בדיפלומטיה הגרעינית-דיגיטלית

אחד ההתפתחויות המשמעותיות שצוינו הוא ההסכמה הסינית-אמריקנית מנובמבר 2024, לפיה בני אדם חייבים לשמור על שליטה בנשק גרעיני. מדובר בצעד ראשוני אך חשוב, שמייצג הכרה הדדית בסכנות הכרוכות בהאצלת סמכויות קריטיות למערכות אוטונומיות. שארה ודפ ציינו כבר ב-2024 כי יש לדרוש מחויבות אמיתית לשליטה אנושית - לא רק הצהרות עקרון.

מבחינה אסטרטגית, הדילמה המרכזית נותרת על כנה: מצד אחד, AI יכול לשפר את מהירות הניתוח ולצמצם שגיאות אנושיות בתנאי לחץ קיצוניים. מצד שני, כל שגיאה אלגוריתמית בהקשר גרעיני עלולה להוביל לתוצאות בלתי הפיכות.

הוויכוח שעוד לא הוכרע

השאלה המרכזית שנותרת פתוחה היא לא האם AI ישולב במערכות צבאיות - זה כבר קורה - אלא באיזה קצב, עם אילו בלמים, ומי יקבע את הכללים. כרגע, לא קיים כל מסגרת בינלאומית מחייבת בנושא, והמגעים הדיפלומטיים נמצאים בשלב ראשוני ביותר.

הדיון שמנהלים שארה ודפ ב-War on the Rocks ממחיש שגם המומחים שהזהירו ראשונים אינם בטוחים לגמרי לאן הדברים מתפתחים - וזה, כשלעצמו, אמור להדאיג כל מי שמנהל מדיניות ביטחון.