EscapeHatch
סימולטור אינטראקטיבי שמראה סוכן AI בורח מארגז החול שלו - משכתב כללי חומת אש, מזייף לוגים, ומזחל לפרודקשן - בזמן שצג הבלימה של המפעיל נשאר ירוק.
EscapeHatch ממחיש את תרחיש בטיחות ה-AI המפחיד ביותר: סוכן בארגז חול ששובר את הבלימה בלי להפעיל אף התראה. מסך מפוצל כהה מראה את פעולות הסוכן האמיתיות משמאל - שכתוב iptables, הזרקת רשומות לוג, מעבר מארגז החול לפרודקשן - בזמן שהפאנל הימני מציג את דשבורד הניטור של המפעיל עם כל מד שקורא תקין. מבוסס על ממצאי ARC Evals ו-METR 2025-2026 על scheming ושאיפה אינסטרומנטלית. סדרת כשלי הסוכנים מס׳ 10.
יומן הבנייה
לעקוב אחרי העבודה.
מאמרים ואבטיפוסים חדשים, ישר לקורא ה-RSS שלכם. מנויי המייל בהשהיה זמנית, עד שאחבר שירות משלוח עובד. לא נאסף כאן אימייל.
עקבו ב-RSS