דלגו לתוכן
גיליון 001·חי·20:20 IL
→ יומן/2026-10-20·7 דק׳

דוח Cairn של NorForge: לוחות בקרה חשופים של סוכני AI הדליפו מטרות וסודות. מה בונים צריכים לקחת מזה

חברת האבטחה NorForge מדווחת על יותר מ-20 לוחות בקרה פתוחים ל-harness פריצה מונע-AI בשם Cairn. מה הדוח טוען, מה הוא אומר על שיעורי הצלחה וחשיפה, והלקחים ההגנתיים לכל מי שמפעיל לוחות בקרה של סוכנים.

מאת Harel Asaf·בונה בינה מלאכותית·תל אביב

חברת אבטחה אומרת שהיא מצאה יותר מ-20 לוחות בקרה לא מוגנים ל-harness פריצה מונע-AI, ושהלוחות הדליפו את המטרות, ההוראות והאישורים של המפעילים שלהם. לבונים הלקח הוא לא על התוקפים. הוא על מה שכל לוח בקרה של סוכן חושף אם משאירים אותו פתוח.

המאמר הזה מסכם את דוח NorForge מ-19 באוקטובר, Inside Cairn: Open Windows into massive AI-Driven Cyber Operations. זה מחקר של ספק יחיד. ניוזלטר The Rundown AI אמר ש-Reuters זיהתה קורבנות, אבל לא בדקתי את Reuters, אז אני מסתמך על הטקסט של NorForge עצמה. אני משמיט פרטים מבצעיים כמו כלי ניצול, ולא ביקרתי באף לוח.

מה NorForge מדווחת

לפי הדוח:

  • Cairn מתוארת כמערכת מונעת-AI שבהינתן מטרה ומטריה, מתאמת סוכני AI לחקור, לחפש חולשות ולנסות לפרוץ.
  • NorForge מצאה לוחות Cairn פתוחים דרך מנועי חיפוש של סריקת אינטרנט. היא זיהתה יותר מ-20 שהיא העריכה כזדוניים ככל הנראה, ועוד מספר ניכר של לוחות red-team לגיטימיים לכאורה חשופים באותה דרך.
  • היא קיבצה את הלוחות הזדוניים לשלושה אשכולות פעילות. הגדול ביותר, שהיא מכנה AIA0001, כלל 14 לוחות ומעל 1,100 פרויקטי תקיפה, עם מיקוד במסחר אלקטרוני ותשתית תשלומים. NorForge אומרת שכל האשכולות נראו ממונעים-כלכלית והיא לא ראתה פעילות ממלכתית ברורה.
  • תוכן הלוחות כלל רשימות מטרות, עדכוני משימות סוכנים ורמזים שהוזנו על ידי בני אדם.
  • NorForge אומרת שהיא משתפת פעולה עם Reuters ליידע קורבנות ומנסה להוריד לוחות, ומשום כך היא הסתירה כתובות לוחות.

מספרים שהדוח נותן, עם ההסתייגויות שלו

  • שיעור הצלחה ממוצע על פני ה-harnesses שראתה: בערך 10%, עם הרבה משימות אחרות שהגיעו למטרות חלקיות או אספו מידע לניסיונות מאוחרים יותר.
  • לאשכול הגדול ביותר, משימות שכן הגיעו למטרתן לקחו קצת פחות מ-23 שעות בממוצע מהתחלה למטרה, עם כ-140 עובדות מתועדות לפרויקט. פרויקט אחד רץ יותר מחמישה ימים.
  • עלות: NorForge אומרת שאין לה נתוני שימוש בטוקנים ומעריכה משימה ממוצעת בכ-$5, עם פרויקטים ארוכים שאולי מעל $100, ואומרת שהאי-ודאות ניכרת.
  • אישורים: בהרצת סורק סודות על נתוני לוחות, NorForge אומרת שהיא מצאה מאות סודות, כש-11% אומתו כתקפים.

NorForge גם אומרת שהתמונה היא נקודתית בזמן ושמודלים ו-harnesses מתפתחים מהר. על המודלים, היא אומרת ששמות העובדים יכולים להצביע על harness של Claude Code עם DeepSeek 4.1 Flash, ואשכול אחר השתמש ב-harness של Pi עם מודלי DeepSeek דרך OpenRouter. אלה הסקות מתוויות עובדים, לא עובדות מאומתות. הן לא אומרות כלום על כוונת הספקים, ולא הייתי קורא אותן כדירוג מודלים.

מה החשיפה עצמה מראה

מסקנת הדוח עצמו היא על אבטחה מבצעית. NorForge אומרת שתוקפים מיהרו והשאירו לוחות פתוחים, מה שחשף את המבצעים שלהם עצמם וגם חשף את המטרות שלהם לשטח תקיפה גדול יותר. היא אומרת שאותה בעיה פגעה בצוותי red-team לגיטימיים: לשים ממצאי לקוחות וסודות על לוח פתוח היא בעיה רצינית גם כשתוצאת הבדיקה מסתברת כלא מזיקה.

היא גם אומרת שהלוחות נראו חושפים מה שנראה כשליטה אדמיניסטרטיבית מלאה על ה-harness, כולל התחלה ועצירה של פרויקטים, הפניית סוכנים והפעלה מחדש של פרויקטים ישנים. NorForge אומרת שהיא לא בדקה אם הבקרות האלה עובדות ללא הרשאה.

לקחים למי שמפעיל סוכנים

אלה הצעות שלי, נגזרות מנושאי הדוח. הן לא נבדקו.

1. התייחסו לכל לוח בקרה של סוכן כסיכון גבוה. לפי הדוח, לוח יכול להחזיק את הרשומה המלאה של מה שהסוכן מצא, ועוד האישורים שבני אדם הדביקו פנימה. שימו אותו מאחורי אימות והרחיקו אותו מהאינטרנט הציבורי.

2. הניחו שהלוג הוא מאגר סודות. אם בני אדם מקלידים טוקנים ומפתחות בתיאורי משימות, אלה מסתיימים בלוח ובלוגים. השתמשו באישורים מצומצמים וקצרי-חיים איפה שאפשר, וסרקו את הלוגים שלכם לסודות.

3. סרקו את החשיפה שלכם. הדוח מצא את הלוחות האלה עם סורקי אינטרנט רגילים. בדקו מה המארחים שלכם חושפים.

4. הפרידו שליטה מצפייה. תצוגת קריאה-בלבד הרבה פחות מסוכנת מאחת שיכולה להפעיל מחדש או להפנות סוכנים.

5. הגבילו את מה שסוכן יכול להגיע אליו. הדוח הוא תזכורת שסוכנים מסוגלים עם גישה רחבה הופכים מישור בקרה שנפרץ למסוכן יותר.

6. הרחיקו נתוני לקוחות מכלים פתוחים. צוותי red-team בפרט לא צריכים להריץ פרויקטי לקוח על לוחות ללא אימות.

מה לא הייתי מסיק

  • שאיזה מודל או ספק אשם. הדוח מסיק מודלים משמות עובדים.
  • ששיעור הצלחה של 10% נמוך מספיק כדי להתעלם. בסקייל ש-NorForge מתארת, זה הרבה ניסיונות, והיא גם אומרת שהרבה משימות אחרות ייצרו תוצאות חלקיות.
  • שהמספרים האלה מתארים את כל החדירה מונעת-AI. זו תצפית של חוקר אחד על לוחות שבמקרה היו פתוחים.
  • שהערכת העלות אמינה. NorForge עצמה אומרת שהיא יכולה לטעות במרווח ברור.

שאלות נפוצות

מהי Cairn?

לפי NorForge, מערכת מונעת-AI שמתאמת סוכנים לחקור מטרה, לחפש חולשות ולנסות לפרוץ, עם מודל פרויקט שיש לו מקור, מטרה ורשומה משותפת של עובדות.

איך NorForge מצאה את הלוחות?

היא אומרת שהשתמשה במנועי חיפוש של סריקת אינטרנט כמו Shodan ו-Censys.

כמה לוחות היו זדוניים?

יותר מ-20 הוערכו כזדוניים ככל הנראה, בשלושה אשכולות פעילות, לפי הדוח.

מה היה שיעור ההצלחה?

בערך 10% בממוצע ל-harnesses שראתה, עם הרבה משימות נותרות שהגיעו למטרות חלקיות, לפי NorForge.

האם אישורים נחשפו?

NorForge אומרת שמאות סודות נמצאו בנתוני לוחות, כש-11% אומתו כתקפים על ידי סורק סודות.

האם NorForge נגעה בבקרות הלוחות?

היא אומרת שלא בדקה אם הבקרות האדמיניסטרטיביות עובדות ללא הרשאה, ולא התחברה לשרתי התוקפים.

מה לעשות עם לוחות הסוכנים שלי?

שימו אותם מאחורי אימות, הרחיקו סודות מטקסט משימות איפה שאפשר, ובדקו מה נגיש ציבורית.

מקורות

קריאה נוספת

יומן הבנייה

לעקוב אחרי העבודה.

מאמרים ואבטיפוסים חדשים, ישר לקורא ה-RSS שלכם. מנויי המייל בהשהיה זמנית, עד שאחבר שירות משלוח עובד. לא נאסף כאן אימייל.

עקבו ב-RSS