HalluciTrap
סימולטור אינטראקטיבי שמראה איך סוכני AI ממציאים ארגומנטים של כלים ומפילים כשלים בשקט על פני כמה צעדים במורד הזרם.
HalluciTrap מדגים ממצא מנוגד לאינטואיציה מ-ICLR 2026: מודלי חשיבה חזקים יותר ממציאים ארגומנטים של כלים יותר, לא פחות. שלושה סכימות (הזמנות לקוחות, שולח מייל, שאילתת בסיס נתונים) עם תשעה תרחישים מראים איך פרמטר גרוע אחד מחזיר HTTP 200 ומשחית מצב על פני 3.2 צעדים בממוצע לפני שבן אדם מזהה. מצב ההגנה חושף את קוד ה-Python וה-JavaScript המדויק שתופס כל מתקפה כבר בצעד 1.
יומן הבנייה
לעקוב אחרי העבודה.
מאמרים ואבטיפוסים חדשים, ישר לקורא ה-RSS שלכם. מנויי המייל בהשהיה זמנית, עד שאחבר שירות משלוח עובד. לא נאסף כאן אימייל.
עקבו ב-RSS