דלגו לתוכן
גיליון 001·חי·20:20 IL
התחילו כאן →

אמינות סוכנים

לראות כישלון, להחיל מגן, ולבדוק אם אותו תרחיש עדיין נכשל.

01 · קראו את המדריך

איך להפוך סוכני AI למוכנים לפרודקשן (מה שהמדריכים לא אומרים לכם) ←

רוב סוכני ה-AI שנראים מרשימים בדמו קורסים בפרודקשן. הנה מה שבאמת עושה את ההבדל - מחלונות הקשר ועד מצבי כשל - על בסיס פריסות אמיתיות.

02 · נסו את הכלי

הריצו תרחיש כישלון ←

סימולציה מקומית, עם התנהגות נכשלת ומוגנת בשתי הרצות נפרדות.

בדיקה קטנה אחת

בחרו מצב כישלון. הריצו את הבסיס ואת הגרסה המוגנת מול אותה פיקסציה. סימולציה עוברת היא לא ראיה שסוכן פרודקשן בטוח.

להמשיך לקרוא