קרדיט תמונה: Zirat AI
הפנטגון מול מנכ"ל Anthropic- המלחמה על גישה בלתי מוגבלת למערכת AI
דריו אמודיי, מנכ"ל Anthropic, הודיע כי לא יאפשר לצבא האמריקאי גישה בלתי מוגבלת למודלי הבינה המלאכותית של החברה, בניגוד לדרישות שר ההגנה. החלטה זו מגיעה פחות מ-24 שעות לפני אולטימטום שקבע משרד ההגנה, והיא עשויה להוביל להפעלת חוקים המאפשרים לממשל לכפות על החברה שיתוף פעולה או לסווג אותה כסיכון ביטחוני.
העימות בין חברת AI מובילה לבין משרד ההגנה מגיע לשיא
דריו אמודיי, מייסד ומנכ"ל Anthropic, פרסם אתמול (חמישי) הצהרה נחרצת שבה מסרב לעמוד בדרישות הפנטגון להעניק לצבא גישה בלתי מוגבלת למערכות הבינה המלאכותית של החברה. ההחלטה מגיעה פחות מ-24 שעות לפני אולטימטום שקבע שר ההגנה פיט הגסת', המבקש מהחברה להיענות לדרישות עד יום שישי בשעה 17:01 (כפי שדווח על ידי רבקה בלן ב-TechCrunch).
אמודיי ציין כי לא יוכל להיענות לבקשה זו עם מצפון נקי בהצהרתו, "Anthropic מבינה שמשרד ההגנה, ולא חברות פרטיות, קובע החלטות צבאיות. עם זאת, במקרים מצומצמים, אנו מאמינים שבינה מלאכותית יכולה לערער, במקום להגן, על ערכים דמוקרטיים."
שתי קווים אדומים מול דרישות הממשל
אמודיי הגדיר שני מקרי שימוש ספציפיים שאליהם החברה מתנגדת: מעקב המוני אחר אזרחים אמריקאים, ונשק אוטונומי לחלוטין ללא התערבות אנושית. משרד ההגנה, לעומת זאת, טוען כי עליו להיות מסוגל להשתמש במודל של Anthropic לכל מטרה חוקית, וכי חברה פרטית אינה אמורה להכתיב את אופן השימוש.
הפנטגון שוקל שתי אפשרויות לחץ: סיווג Anthropic כסיכון בשרשרת האספקה (classification המיועד בדרך כלל למתחרים זרים), או הפעלת חוק ייצור הגנתי (Defense Production Act) - המאפשר לנשיא לכפות על חברות לתעדף ייצור למטרות ביטחון לאומי.
אמודיי הצביע על הסתירה בין שני האיומים: "האחד מסווג אותנו כסיכון ביטחוני, השני מסווג את Claude כחיוני לביטחון לאומי".
Anthropic היחידה עם מערכות מסווגות לצבא
נכון להיום, Anthropic היא מעבדת הבינה המלאכותית המתקדמת היחידה שיש לה מערכות מוכנות לסיווג ביטחוני עבור הצבא. לפי הדיווח, משרד ההגנה עובד על הכנת חלופה מבית xAI של אילון מאסק.
"העדפתנו החזקה היא להמשיך לשרת את משרד ההגנה ואת הלוחמים שלנו - עם שני אמצעי הזהירות שביקשנו במקום", אמר אמודיי. "אם משרד ההגנה יבחר להפסיק את שיתוף הפעולה עם Anthropic, נעבוד על מעבר חלק לספק אחר, תוך הימנעות מכל הפרעה לתכנון צבאי, מבצעים או משימות קריטיות אחרות."
במילים אחרות: אפשר להיפרד בדרכי שלום, ללא הסלמה.
משמעות למגזר הטכנולוגי המקומי
המתיחות בין חברות AI אמריקאיות לממשל האמריקאי מעוררת שאלות גם בישראל, שם פועלות חברות טכנולוגיה רבות הנתקלות במתח דומה בין שיתוף פעולה ביטחוני לבין אתיקה טכנולוגית. חברות ישראליות העובדות עם משרד ההגנה האמריקאי או עם צה"ל עשויות למצוא עצמן בדילמות דומות כשמדובר בשימוש במערכות אוטונומיות או במעקב. התקדים שייקבע בעימות Anthropic-פנטגון עשוי להשפיע על הנורמות העולמיות בתחום זה.
כמו כן, חברות ישראליות המפתחות טכנולוגיות AI מתקדמות עשויות לראות בכך הזדמנות לתפוס נתח שוק, במידה ו-Anthropic תפסיק לשרת את הצבא האמריקאי.