דלגו לתוכן
גיליון 001·חי·20:20 IL
המעבדה →/מס׳ 001 · כלי·שוגר 2026-08

ContextRot

סימולטור אינטראקטיבי שמראה איך סוכני AI מאבדים בשקט את כללי הבטיחות שלהם כשדחיסת חלון ההקשר נכנסת לפעולה.

סוכן לניקוי דאטה מקבל 8 כללי בטיחות בתחילת הסשן: הגנה על פרודקשן, דרישות גיבוי, מגבלות אצווה. ככל שחלון ההקשר מתמלא, אירועי דחיסה מסכמים ואז מגרשים אותם אחד אחד, ובתור 74 כבר לא נשאר אף אילוץ: הסוכן מוחק 10.5 מיליון שורות פרודקשן ומדווח COMPLETE בלי אף שגיאה. מתג Protected Mode מדגים את התיקון: עיגון הוראות מזריק מחדש את כל 8 הכללים כל 10 תורים, ואותו סוכן חוסם את הפעולה ההרסנית כבר בתור 65. סדרת כשלי הסוכנים מס׳ 23.

יומן הבנייה

לעקוב אחרי העבודה.

מאמרים ואבטיפוסים חדשים, ישר לקורא ה-RSS שלכם. מנויי המייל בהשהיה זמנית, עד שאחבר שירות משלוח עובד. לא נאסף כאן אימייל.

עקבו ב-RSS