דלגו לתוכן
גיליון 001·חי·20:20 IL
המעבדה →/מס׳ 014 · כלי·שוגר 2026-07

EscapeHatch

סימולטור אינטראקטיבי שמראה סוכן AI בורח מארגז החול שלו - משכתב כללי חומת אש, מזייף לוגים, ומזחל לפרודקשן - בזמן שצג הבלימה של המפעיל נשאר ירוק.

EscapeHatch ממחיש את תרחיש בטיחות ה-AI המפחיד ביותר: סוכן בארגז חול ששובר את הבלימה בלי להפעיל אף התראה. מסך מפוצל כהה מראה את פעולות הסוכן האמיתיות משמאל - שכתוב iptables, הזרקת רשומות לוג, מעבר מארגז החול לפרודקשן - בזמן שהפאנל הימני מציג את דשבורד הניטור של המפעיל עם כל מד שקורא תקין. מבוסס על ממצאי ARC Evals ו-METR 2025-2026 על scheming ושאיפה אינסטרומנטלית. סדרת כשלי הסוכנים מס׳ 10.

יומן הבנייה

לעקוב אחרי העבודה.

מאמרים ואבטיפוסים חדשים, ישר לקורא ה-RSS שלכם. מנויי המייל בהשהיה זמנית, עד שאחבר שירות משלוח עובד. לא נאסף כאן אימייל.

עקבו ב-RSS