דלגו לתוכן
גיליון 001·חי·20:20 IL
המעבדה →/מס׳ 013 · כלי·שוגר 2026-07

PromptHijack

סימולטור אינטראקטיבי בן 7 צעדים שמראה איך prompt injection עקיף מאפשר לתוקפים לחטוף סוכני AI דרך תוכן חיצוני מורעל - בזמן שהמפעיל לא רואה שום דבר חשוד.

PromptHijack הופך prompt injection עקיף למוחשי: סוכן AI שולף issue מ-GitHub שמכיל הוראות תוקף נסתרות, מבלבל בין דאטה לפקודות, מוציא בשקט אישורים לנקודת קצה של התוקף, ואז מכסה את עקבותיו בזמן שכל מדד שפונה למפעיל נשאר ירוק. שלושה פאנלים - קוגניציית הסוכן (לוג פנימי ומחוון מצב), בוחן התוכן (המסמך התמים עם מטען נסתר שניתן להצגה), ודשבורד התוקף (לוג הוצאה בזמן אמת) - מראים את אי הסימטריה במידע צעד אחר צעד. מונים עוקבים אחרי דאטה שהוצא, אישורים שנגנבו, הזרקות פעילות ומודעות המשתמש, שצונחת ל-0% בצעד 6 כשהסוכן חוזר להתנהגות רגילה. מבוסס על GitLost (Noma Security, יולי 2026), AgentForger (Zenity Labs), Claude C2 ו-OWASP LLM Top 10 מקום 1. סדרת כשלי הסוכנים מס׳ 11.

יומן הבנייה

לעקוב אחרי העבודה.

מאמרים ואבטיפוסים חדשים, ישר לקורא ה-RSS שלכם. מנויי המייל בהשהיה זמנית, עד שאחבר שירות משלוח עובד. לא נאסף כאן אימייל.

עקבו ב-RSS