Pydantic AI 2.64 ו-2.65: ModelFallback נופל גם על סירובים, ו-ArtifactScanner בודק זיכרון ו-Skills
Pydantic AI 2.64.0 הוסיפה יכולת ModelFallback ו-ArtifactScanner לזיכרון ול-skills של סוכנים. 2.65.0 הפכה סירובים לטריגר של fallback. קראתי את ערות הגרסה והתיעוד ב-tag של 2.65.0 כדי לראות מה כל אחד עושה ואיפה התיעוד אומר שזה נגמר.
Pydantic AI v2.64.0 (פורסמה ב-30 באוקטובר 2026 לפי GitHub) הוסיפה יכולת ModelFallback ו-ArtifactScanner לזיכרון ול-skills של סוכנים. v2.65.0 (3 בנובמבר) שינתה את ModelFallback לעבור למודל הבא כשמודל מסרב, לא רק כשה-API שלו נכשל. שני פרטים חשובים אם אתם מריצים סוכני קוד או סוכנים קרובים-לאבטחה: סירוב הוא עכשיו טריגר fallback כברירת מחדל, והסורק הוא התאמת תבניות שהתיעוד אומר שמפספסת הוראות מנוסחות-מחדש.
קראתי את ערות הגרסה של v2.64.0 ו-v2.65.0, ואת תיעוד Model Fallback, Artifact Scanning, Memory ו-Skills ב-tag של v2.65.0, ועוד קובץ המקור של הסורק. לא התקנתי את החבילה ולא הרצתי שום דבר. אלה טענות התיעוד, לא המדידות שלי.
מה ערות הגרסה מפרטות
שתי הגרסאות שמות את הפריטים האלה תחת "Compatibility Notes", כלומר ההתנהגות יכולה להשתנות בשדרוג:
- 2.64.0: יכולת
ModelFallbackעם hook מסוגprepare_model_requestלכל ניסיון ו-RetryModelRequest;ArtifactScannerעבורMemoryו-Skills; הגדרת מודלfirst_event_timeoutכך ש-stream שלא מתחיל בכלל יכול ליפול למודל אחר; ו-json-repairהופך לתלות אופציונלית. - 2.65.0: "Fall back to the next model in
ModelFallbackwhen a model refuses, and letContentFilterErrorinfallback_onmatch refusals". בנוסף כלל שמזהי response, item, conversation ו-container מאוחסנים נשלחים בחזרה רק לנקודת הקצה שיצרה אותם (2.64.0), ושינוי Temporal כך ששגיאות מודל שלא יכולות להצליח בניסיון-חוזר לא מנוסות שוב כברירת מחדל (2.65.0).
ModelFallback, לפי התיעוד
ModelFallback היא יכולת שמנסה מודלים אחרים כשאחד נכשל או מחזיר תגובה שאתם דוחים. השרשרת מתחילה עם המודל שנבחר לצעד, ואחריו המודלים של היכולת. מודל שכבר נוסה בצעד מדולג.
כברירת מחדל הוא נופל על ModelAPIError ו-ContentFilterError. fallback_on יכול גם לקבל exception handler או response handler שדוחה תגובה שחזרה בהצלחה. אזהרה אחת בתיעוד: העברת response handler בלבד מחליפה את ברירת המחדל, ואז שגיאות API וסירובים נזרקים במקום ליפול. העבירו את שניהם ברשימה כדי לשמור עליהם.
התנהגות מתועדת נוספת:
- כל מודל שנוסה הוא ניסיון בתוך אותו צעד בקשה.
usage.requestsסופר את הצעד פעם אחת, אזUsageLimits.request_limitתוחם צעדים, לא מודלים שנוסו. טוקנים ועלות של כל ניסיון שהפיק תגובה, כולל נדחים, נספרים ב-usage של הריצה. - התגובה שענתה מפרטת את הניסיונות שזזו מהם ב-
failed_attempts. אם כל המודלים נכשלים מקבליםFallbackExceptionGroup. - כברירת מחדל כל צעד מתחיל שוב מהמודל הראשון.
sticky=Trueממשיך להשתמש במועמד שענה, מה שהתיעוד קושר לשמירה על prompt cache של אותו ספק. - Streaming נופל רק לפני שפלט כלשהו מגיע אליכם. response handler של stream לא נשאל, וסירוב ב-stream מתקבל כמו שהוא.
סירובים כטריגר של fallback
התיעוד אומר ש-Pydantic AI מדווחת על סירוב כתגובה מוצלחת עם finish_reason של content_filter, עם ההסבר של הספק ב-provider_details['refusal'] איפה שניתן. ModelFallback זז ממנו כברירת מחדל, למודל שמחיל את מדיניות הבטיחות של הספק שלו עצמו. הדוגמה בתיעוד היא סוכן קוד שמתבקש להסביר פגיעות בקוד.
התיעוד גם מפרט מגבלות:
- כדי שסירוב יסיים את הריצה, העבירו
fallback_on=(ModelAPIError,). FallbackModelרגיל לא נופל על סירובים כברירת מחדל. העבירו לוfallback_on=(ModelAPIError, ContentFilterError).- זה עובד לכל בקשה, עם היסטוריית ההודעות של הריצה עד כה.
- בלי fallback, סירוב ריק זורק
ContentFilterError, וסירוב עם טקסט הוא הפלט של הריצה. - סירוב ב-stream לא נופל ממנו. תופסים אותו ומריצים מחדש עם
model=אחר.
התיעוד מקשר להנחיות של Anthropic שפלט חלקי של תגובה שנדחתה צריך להיחשב כלא שלם. שאלת התכנון היא שלכם: האם אתם רוצים שבקשה שספק אחד סירב תיענה בשקט על ידי ספק אחר. ברירת המחדל עכשיו עושה את זה. אם המדיניות שלכם אומרת שסירוב הוא אות עצירה, הגדירו fallback_on בעצמכם.
ArtifactScanner
התיעוד מתאר אותו כבודק טקסט שסוכן כותב וסשן מאוחר יותר טוען, כמו קבצי זיכרון ו-skills, עבור prompt injection, שליפת credentials, ותוכן שסוקר לא יכול לראות. Memory ו-Skills מקבלים אותו כ-scanner=. לפי התיעוד, כתיבת זיכרון שסומנה נדחית, קובץ זיכרון שסומן מוערם, ו-skill שסומן נשאר מחוץ לקטלוג.
קטגוריות זיהוי מפורטות: injection, role_override, exfiltration, html_comment ו-invisible_unicode. המקור מראה שתבניות הביטויים רצות אחרי נורמליזציית NFKC עם תווים בלתי-נראים ומחברים מקולקלים, כך שתו אפס-רוחב בתוך ביטוי לא מסתיר אותו. אפשר לצמצם קטגוריות, להוסיף extra_patterns, או לרשת ולדרוס את scan כדי לשים גלאי אחר מאחורי אותה אינטגרציה.
summary() מנים איומים ושמות תבניות בלי לצטט את הארטיפקט, כך שזה יכול להיכנס להודעה שהמודל רואה. כל החלטה שסומנה מתועדת כ-artifact_scan flagged span באורך אפס. הקטעים והשמות התואמים נכנסים ל-span הזה רק כש-trace_include_content דולק.
איפה התיעוד אומר שזה נגמר
עמוד ה-Artifact Scanning ישיר לגבי מגבלות:
- "This is pattern matching." Prompt injection הוא שפה רגילה, אז הוא מפספס הוראות מנוסחות-מחדש או מתורגמות, ותוצאה ריקה לא אומרת שארטיפקט בטוח.
- הוא יכול לסמן הערה שמצטטת מתקפה, כמו זיכרון שמתעד שעמוד אינטרנט אמר "ignore previous instructions".
- הוא סורק מה שהאינטגרציות מנתבות דרכו: זיכרון דרך
write_memory,read_memory,search_memoryוה-MEMORY.mdהמוזרק, וה-description והגוף של כל skill. קבצי זיכרון שנקראים עםFileSystemוקבצי skill ארוזים לא נסרקים אלא אם קוראים ל-scan. - להזרקה עקיפה בתוצאות כלים, העמוד מפנה לעמוד Prompt Injection Defender נפרד, שלא קראתי.
מה הייתי בודק
אלה הצעות שלא בדקתי, לא התנהגות מתועדת.
- החליטו על סירובים לפני שדרוג. אם אתם מריצים
ModelFallback, כתבו אם סירוב צריך ליפול למודל אחר, והגדירוfallback_onבהתאם. - רשמו בלוג את
failed_attemptsואת spans שלmodel request attempt. fallback שעובד טוב בלתי-נראה אלא אם מחפשים אותו. - בדקו את הסורק עם קבצי הזיכרון שלכם, כולל הערות שמצטטות מתקפות, כדי לראות כמה false positives מקבלים.
- התייחסו לסורק כשכבה אחת. שמרו סקירה אנושית ל-skills מצדדים שלישיים.
- בדקו נתיבי streaming בנפרד. שני פערים מתועדים, response handlers וסירובים, שניהם פערי streaming.
מה לא הייתי מסיק
- לא הייתי מסיק שהסורק הופך זיכרון או skills לבטוחים. התיעוד אומר שהוא לא.
- לא הייתי מסיק שספקים אחרים מסרבים פחות. התיעוד אומר שהמודל הבא מחיל את המדיניות שלו.
- לא הייתי מסיק שום דבר על יציבות חבילת ה-harness. התיעוד מציין שה-API עשוי להשתנות בין גרסאות minor של 0.x.
- לא הייתי מרחיב את זה לגרסאות של Pydantic AI שלא קראתי.
שאלות נפוצות
מה זה ModelFallback ב-Pydantic AI?
יכולת שמנסה מודלים אחרים כשהמודל הנבחר נכשל או מחזיר תגובה שאתם דוחים. השרשרת היא מודל הצעד ואחריו המודלים של היכולת.
האם הוא נופל על סירובים?
כברירת מחדל כן, החל מערות הגרסה והתיעוד של 2.65.0. fallback_on מוגדר כברירת מחדל ל-(ModelAPIError, ContentFilterError). העבירו fallback_on=(ModelAPIError,) כדי לבטל.
האם סירוב ב-stream נופל?
לא, לפי התיעוד. הוא מתקבל כ-stream, ואתם מריצים מחדש עם מודל אחר אם אתם רוצים fallback.
מה ArtifactScanner בודק?
טקסט של זיכרון ו-skills עבור prompt injection, דריסת תפקיד, תבניות שליפת credentials, הערות HTML ותווים בלתי-נראים.
האם הוא תופס הזרקה מנוסחת-מחדש?
התיעוד אומר שלא. זו התאמת תבניות והיא מפספסת הוראות מנוסחות-מחדש או מתורגמות.
איפה מדווחים ממצאי הסורק?
summary() מנים איומים ותבניות בלי לצטט טקסט, ו-artifact_scan flagged span מתעד כל החלטה. קטעים מופיעים ב-span רק כש-trace_include_content דולק.
הרצת את זה?
לא. קראתי ערות גרסה, תיעוד ומקור הסורק ב-tag. לא התקנתי את Pydantic AI.
מקורות
כולם נקראו ב-3 בנובמבר 2026.
- pydantic-ai v2.65.0 release notes
- pydantic-ai v2.64.0 release notes
- Model Fallback docs at v2.65.0
- Artifact Scanning docs at v2.65.0
- Memory docs at v2.65.0
- Skills docs at v2.65.0
- ArtifactScanner source at v2.65.0
לא נקרא: עמודי Prompt Injection Defender ו-Guardrails, עמוד הסירובים של Anthropic, שאר השינויים של 2.64 ו-2.65, ושום דבר על הרצת הקוד.
קריאה נוספת
- המדריך של Anthropic לסוכני always-on: חמישה פרימיטיבים מאחורי סוכנים שלא יושבים בחינם
Anthropic פרסמה מדריך לבניית סוכני always-on: סוכנים שומרי-מצב ופרואקטיביים שמנהלים קונטקסט בין סשנים. הרעיון המרכזי הוא שהסוכן לא באמת רץ כל הזמן - הוא ישן בין ריצות, וחמישה פרימיטיבים ארכיטקטוניים מחליטים מתי הוא מתעורר, מה הוא זוכר, ומה מגיע אליך.
- Parameter Poisoning: הזרקת הפרומפט ששומרת על הכלי הנכון ומחליפה את הארגומנט
מאמר arXiv חדש בוחן התקפות שמשאירות את קריאת הכלי במקום ומחליפות ארגומנט אחד, כמו נמען. הוא מדווח על 93.06% הצלחת התקפה ללא הגנה במודל אחד, והגנה ברמת הפרמטרים שמורידה את זה ל-9.03%. קראתי את המאמר ומפרט מה הוא מראה ומה לא.
- MemHarmBench: מה benchmark חדש ב-arXiv אומר על Prompt Injection ששורד בזיכרון של סוכנים
מאמר arXiv מ-1 בנובמבר בודק אם הוראות שנטענות בתוכן חיצוני נשמרות בזיכרון סוכנים ומכווינות סשנים מאוחרים יותר אחרי שהמקור נמחק. קראתי את התכנון, הטבלאות והמגבלות של המאמר, ומסכם מה הוא מדד ומה לא.
יומן הבנייה
לעקוב אחרי העבודה.
מאמרים ואבטיפוסים חדשים, ישר לקורא ה-RSS שלכם. מנויי המייל בהשהיה זמנית, עד שאחבר שירות משלוח עובד. לא נאסף כאן אימייל.
עקבו ב-RSS