זירת AI

בריטניה מוסיפה 120 מיליון ליש״ט לבדיקת סיכוני בינה מלאכותית

מאת מערכת זירת AI · פורסם: · עודכן:

לונדון מבססת את מעמדה כמרכז עולמי לבטיחות בינה מלאכותית: עד 50 ארגונים בתחום, תוספת של 120 מיליון ליש"ט למכון AISI ומעבדה חדשה לביטחון ביולוגי בשיתוף OpenAI ו-Anthropic. עם זאת, גישה מוגבלת למודלים מתקדמים ומגבלות אנרגיה למרכזי נתונים מאיימות על השאיפות.

בזמן שעמק הסיליקון מוביל את המירוץ לפיתוח מודלים חזקים יותר, לונדון בונה לעצמה תפקיד אחר: מרכז עולמי לבטיחות ואבטחה של בינה מלאכותית. לפי הערכת London AI Hub, מרחב עבודה משותף וקהילה של יזמי AI, פועלים כיום בבירה הבריטית עד 50 ארגונים שמתמקדים בתחום הזה.

מערכת אקולוגית שלמה סביב בטיחות

לונדון מארחת את Google DeepMind, ו-Anthropic הקימה בה בסיס משמעותי. לצד ענקיות הטכנולוגיה פועלים גופים ייעודיים, ובראשם המכון הבריטי לאבטחת AI (AISI), שמוגדר כגוף הממשלתי הראשון שבוחן מודלים מובילים לפני השקתם ואחריה מפני סיכונים כמו שימוש לרעה בתחום הסייבר. לצדו פועלת Apollo Research, שחוקרת את הפוטנציאל של מודלים לפעול נגד האינטרס האנושי באמצעות שקר או רמאות. הארגון ללא מטרות רווח LISA, שמחבר בין העוסקים בבטיחות AI, צפוי לעבור למטה גדול באזור קינגס קרוס, חלק ממה שמכונה "מסדרון ה-AI" של העיר.

רופרט אלסטון מ-London AI Hub אמר בכתבה שפורסמה ב-BBC כי העיר הפכה "לא רק לשחקנית במשחק ה-AI העולמי, אלא גם למעין שופטת". לדבריו, הגבולות הברורים יוצרים סביבה שאנשים רוצים לבנות בה ומסייעים במשיכת כישרונות.

ביולוגיה: ההזדמנות והאיום

ממשלת בריטניה הכריזה על השקעה של מאות מיליוני ליש"ט בבטיחות ואבטחת AI, החל מאיומי סייבר ועד האפשרות שמערכות מתקדמות יפעלו מחוץ לשליטה אנושית. דובר ראש עיריית לונדון ציין כי תוספת של 120 מיליון ליש"ט ל-AISI תחזק את יכולתה של בריטניה לבחון מערכות מתקדמות ולהבין את הסיכונים שלהן.

120 מיליון ליש"ט – תוספת תקציב ל-AISI לבדיקת מערכות מתקדמות עד 50 – ארגוני בטיחות ואבטחת AI בלונדון

אחד התחומים המדאיגים במיוחד הוא הביולוגיה: אותה טכנולוגיה שעשויה להאיץ גילוי תרופות וחיסונים עלולה גם להקל על פיתוח פתוגנים מסוכנים. במסגרת המענה, הממשלה תקים מעבדה לביטחון ביולוגי מבוסס AI. אחת החברות המעורבות היא Basecamp Research, שפועלת במפעל שעונים לשעבר בפרינגדון, ותעבוד לצד OpenAI ו-Anthropic על פיתוח אנטיביוטיקה וחיסונים לקראת מגפות עתידיות. לדברי המייסד השותף אוליבר וינס, המהלך יציב את בריטניה בחזית המפגש בין בינה מלאכותית לביולוגיה.

גם באקדמיה הנושא בוער. נשיא Imperial College London, יו בריידי, מעריך שיותר מ-750 אנשים במוסד עובדים ישירות על מודלי LLM או על יישומיהם. הוא מזהיר כי "בידיים הלא נכונות" ניתן להשתמש ב-AI לתכנון משהו מזיק לבני אדם, לשרשרת המזון או למקורות המים, אך קובע: "הרכבת כבר יצאה מהתחנה".

מכשולים: גישה למודלים ואנרגיה

לא כולם בטוחים שהמאמצים יספיקו. פרופ' ג'ינה נף מאוניברסיטת קווין מרי מציינת שאחד האתגרים הגדולים הוא גישה למודלים מתקדמים לפני שהם מגיעים לציבור. "לא צריך להיות שקומץ אנשים בצפון קליפורניה יקבעו את תנאי העתיד לכולנו", היא אומרת. לדבריה, בניית מערכת אקולוגית מובילה מחייבת גם מרכזי נתונים, שמעוררים חששות משל עצמם. דוח שהוזמן מטעם רשות לונדון רבתי קובע כי "האנרגיה היא האילוץ הקריטי ביותר" לצמיחת מרכזי הנתונים בעיר.

המתמטיקאית ושדרנית המדע פרופ' האנה פריי, לעומת זאת, אופטימית. לטענתה לונדון צועדת בדרך שונה מ"הקפיטליזם המואץ" של סן פרנסיסקו ומתמקדת בטכנולוגיה אתית. מנגד, הפעיל ג'וזף מילר, שמוביל את Pause AI UK, דורש לעצור את פיתוח מודלי החזית עד שיהיה ברור כיצד להפוך אותם לבטוחים. לדבריו מאות אנשים מצטרפים לתנועה מדי חודש; ההפגנה האחרונה שלה בלונדון, בפברואר, משכה כ-300 משתתפים.

השאלה הפתוחה היא האם מעמדה של לונדון כ"שופטת" יתורגם להשפעה ממשית על החברות שמפתחות את המודלים, או שיישאר בעיקר אקדמי ורגולטורי.

שאלות נפוצות

למה בריטניה מוסיפה 120 מיליון ליש״ט לבדיקת סיכוני בינה מלאכותית?

בריטניה מוסיפה 120 מיליון ליש״ט למכון הבריטי לאבטחת AI כדי לחזק את יכולתה לבחון מערכות בינה מלאכותית מתקדמות ולהבין את סיכוניהן. התוספת משתלבת בהשקעה ממשלתית רחבה בבטיחות ואבטחת AI, המתמקדת בין היתר בשימוש לרעה בסייבר, באיומים ביולוגיים ובאפשרות שמערכות מתקדמות יפעלו מחוץ לשליטה אנושית.

מה זה AISI ומה תפקידו בבדיקת מודלי בינה מלאכותית?

AISI הוא המכון הבריטי לאבטחת בינה מלאכותית, גוף ממשלתי שבוחן מודלים מובילים לפני השקתם ואחריה. לפי הכתבה, הוא מוגדר כגוף הממשלתי הראשון שעוסק בבדיקות כאלה. תפקידו לבחון סיכונים ממערכות מתקדמות, ובהם שימוש לרעה בתחום הסייבר, ולחזק את ההבנה של בריטניה לגבי האיומים שהן עשויות להציב.

למה לונדון הופכת למרכז עולמי לבטיחות בינה מלאכותית?

לונדון מרכזת חברות טכנולוגיה, מכוני מחקר, גופים ממשלתיים וארגונים העוסקים בבטיחות בינה מלאכותית. לפי הערכת London AI Hub, פועלים בעיר עד 50 ארגונים בתחום. נוכחותם של Google DeepMind, Anthropic והמכון הבריטי לאבטחת AI, לצד קהילות מקצועיות ומוסדות אקדמיים, מחזקת את מעמדה כמוקד לבדיקת סיכונים ולפיתוח אחראי.

איך בינה מלאכותית יכולה לסייע בפיתוח תרופות וגם ליצור סיכון ביולוגי?

בינה מלאכותית עשויה להאיץ גילוי תרופות, אנטיביוטיקה וחיסונים, אך אותה טכנולוגיה עלולה גם להקל על פיתוח פתוגנים מסוכנים. כדי להתמודד עם האפשרות לשימוש מועיל ומזיק כאחד, בריטניה מתכננת להקים מעבדה לביטחון ביולוגי מבוסס AI. במסגרת המהלך, Basecamp Research תעבוד לצד OpenAI ו-Anthropic על פיתוח אנטיביוטיקה וחיסונים לקראת מגפות עתידיות.

מהם המכשולים המרכזיים בבדיקת בטיחות בינה מלאכותית בבריטניה?

אחד המכשולים המרכזיים הוא השגת גישה למודלים מתקדמים לפני חשיפתם לציבור, כדי לאפשר בדיקה מוקדמת של הסיכונים. מכשול נוסף הוא הצורך במרכזי נתונים ובאספקת אנרגיה מספקת להפעלתם. לפי דוח שהוזמן מטעם רשות לונדון רבתי, האנרגיה היא האילוץ הקריטי ביותר לצמיחת מרכזי הנתונים בעיר

כתבות קשורות