כלי AI חדש מנתח סשנים של Claude Code ומזהה סיכוני אבטחה
Her, כלי חדש ב-Hugging Face Spaces, הופך קובצי לוג של Claude Code לדוח חקירה קריא, עם זיהוי שימוש בכלים, צריכת טוקנים, פעולות מסוכנות והמלצות זהירות. מעבר לגימיק, הוא מצביע על צורך הולך וגובר בשכבת תצפית ובקרה עבור סוכני קוד מבוססי AI.
כשסוכן קוד כותב מהר מדי, מישהו צריך לקרוא את העקבות
העלייה של כלי פיתוח מבוססי סוכני AI, ובראשם Claude Code, משנה את הדרך שבה צוותי תוכנה עובדים. במקום לבקש השלמה נקודתית של קוד, מפתחים נותנים לסוכן לבצע חקירה, לערוך קבצים, להריץ פקודות, לבדוק תלויות ולעיתים גם לגעת בסביבות רגישות. הבעיה היא שכל פעולה כזו משאירה אחריה עקבות, אך ברוב המקרים העקבות נשמרות כקובץ JSONL ארוך, צפוף וכמעט בלתי קריא לאדם.
רוצה להישאר מעודכן ב-AI?
הירשם לדיוור השבועי שלנו וקבל עדכונים, המלצות על כלים, חדשות ודוחות מיוחדים
כאן נכנס Her, שפירושו במראטה הוא "בלש". הכלי, שפורסם בקהילת Hugging Face על ידי אשיש צ'אלקה, מציע שכבת חקירה לסשנים של Claude Code: המשתמש מעלה קובץ סשן, והמערכת משחזרת בשפה טבעית מה קרה, אילו כלים הופעלו, היכן נצרכו הטוקנים, ואילו פעולות ראויות לבדיקה נוספת.
לא עוד לוגים אילמים: תצפית על סוכני AI
הערך המרכזי של Her אינו רק בהצגת דוח יפה. הוא נוגע באחד האתגרים העסקיים הגדולים של אימוץ AI בארגוני פיתוח: יכולת ביקורת. כאשר סוכן AI מחליט להריץ כלי פריסה, לפתוח לקוח מסד נתונים, לשנות קובצי קונפיגורציה או לנגוע בהגדרות ייצור, מנהלי הנדסה ואבטחת מידע צריכים לדעת לא רק מה קרה, אלא באיזה שלב, באיזה הקשר, ומה היה הטריגר.
Her מנתח את הסשן ומציג את רצף האירועים, כולל כלי CLI שהופעלו, תתי-סוכנים, מיומנויות ושרתי MCP. יתרון מעניין הוא מסד נתונים מובנה של כלים נפוצים מ-Homebrew, npm ו-PyPI, המאפשר לזהות כלים באופן מקומי ולהוסיף להם הסבר קצר. כך, פקודה שנראית למנהל מוצר כטקסט טכני אטום יכולה להפוך לאינדיקציה ברורה לפעולת פריסה, הרצת שרת פיתוח או גישה לבסיס נתונים.
מודל שפה ככותב, לא כשופט
הבחירה הארכיטקטונית החשובה ביותר ב-Her היא ההפרדה בין מנוע הערכה דטרמיניסטי לבין מודל השפה. לפי תיאור הפרויקט, החלק שמסיק ממצאים אינו נשען על המודל, אלא על לוגיקה קבועה. המודל Nemotron-Mini-4B-Instruct, שרץ על GPU של ה-Space באמצעות ZeroGPU, משמש לניסוח ההסברים וההמלצות הרכות בלבד.
זו נקודה קריטית. בעולמות אבטחה, ציות וניהול סיכונים, אי אפשר להסתמך על מודל גנרטיבי שמחר עשוי לנסח מסקנה אחרת עבור אותו לוג. אם המספרים, הסיווגים והדגלים האדומים נשארים יציבים גם כשהמודל מתחלף, ניתן להתחיל לראות בכלי כזה בסיס אמין יותר ל-AI observability, ולא רק ממשק נוח.
פרטיות מקומית כיתרון תחרותי
Her מדגיש גם כי לא נשלחת קריאה ל-API חיצוני של בינה מלאכותית. קובץ הסשן מועלה למרחב פרטי וזמני השייך להרצה ונמחק אוטומטית. עבור ארגונים, זו אינה הערת שוליים. לוגים של סוכני קוד עשויים להכיל שמות שירותים, מבנה תשתיות, נתיבי קבצים, פקודות, ולעיתים גם רמזים לסודות. כל כלי שמבקש לנתח אותם חייב להיבחן דרך עדשת פרטיות קפדנית.
המשמעות הרחבה: קטגוריה חדשה סביב פיתוח בעזרת סוכנים
Her הוא עדיין פרויקט קהילתי, אך הוא מסמן כיוון ברור. ככל שסוכני AI יקבלו יותר הרשאות בפיתוח תוכנה, יידרשו כלים שעושים להם מה שכלי ניטור, SIEM ו-APM עשו למערכות תוכנה מסורתיות: הבנה, תיעוד, זיהוי חריגות והסבר לבני אדם.
השלב הבא בשוק עשוי להיות שילוב כלים כאלה ישירות בצנרת הפיתוח: דוחות אוטומטיים לכל סשן, חסימת פעולות מסוכנות בזמן אמת, דירוג סיכונים לפי פרויקט, והתאמה למדיניות ארגונית. במובן הזה, Her אינו רק "בלש" עבור Claude Code. הוא תזכורת לכך שכאשר נותנים לסוכנים אוטונומיים לכתוב ולהריץ קוד, שקיפות הופכת מתכונה נחמדה לתשתית הכרחית.