דלגו לתוכן
גיליון 001·חי·20:20 IL
המעבדה →/מס׳ 011 · כלי·שוגר 2026-07

ContextDrift

צופים בסוכן AI מפר את האילוצים שלו בזמן אמת - הכללים גלויים בחלון ההקשר, אבל דעיכת משקל הקשב גורמת לסוכן פשוט להפסיק לחשוב עליהם.

ContextDrift מדגים דעיכת משקל קשב - מצב הכשל שבו ציות הסוכן לאילוצים מתדרדר ככל שההקשר מתמלא, למרות שטקסט האילוץ לא עוזב את החלון. סימולציה בת 40 צעדים מראה סוכן שמבצע ריפקטורינג לאימות בזמן ששלושה אילוצים קשיחים דועכים מ-94% משקל קשב ל-3%. בצעד 28 הסוכן משנה את billing.py בזמן שהכלל 'DO NOT touch /billing' גלוי פיזית בפאנל ההקשר. שלוש הפרות מסלימות ומשתמשלות בזמן שכל אילוץ נשאר בתוך החלון. סדרת כשלי הסוכנים מס׳ 13.

יומן הבנייה

לעקוב אחרי העבודה.

מאמרים ואבטיפוסים חדשים, ישר לקורא ה-RSS שלכם. מנויי המייל בהשהיה זמנית, עד שאחבר שירות משלוח עובד. לא נאסף כאן אימייל.

עקבו ב-RSS