דלגו לתוכן
גיליון 001·חי·20:20 IL
→ יומן/2026-11-03·9 דק׳

Pydantic AI 2.64 ו-2.65: ModelFallback נופל גם על סירובים, ו-ArtifactScanner בודק זיכרון ו-Skills

Pydantic AI 2.64.0 הוסיפה יכולת ModelFallback ו-ArtifactScanner לזיכרון ול-skills של סוכנים. 2.65.0 הפכה סירובים לטריגר של fallback. קראתי את ערות הגרסה והתיעוד ב-tag של 2.65.0 כדי לראות מה כל אחד עושה ואיפה התיעוד אומר שזה נגמר.

מאת Harel Asaf·בונה בינה מלאכותית·תל אביב

Pydantic AI v2.64.0 (פורסמה ב-30 באוקטובר 2026 לפי GitHub) הוסיפה יכולת ModelFallback ו-ArtifactScanner לזיכרון ול-skills של סוכנים. v2.65.0 (3 בנובמבר) שינתה את ModelFallback לעבור למודל הבא כשמודל מסרב, לא רק כשה-API שלו נכשל. שני פרטים חשובים אם אתם מריצים סוכני קוד או סוכנים קרובים-לאבטחה: סירוב הוא עכשיו טריגר fallback כברירת מחדל, והסורק הוא התאמת תבניות שהתיעוד אומר שמפספסת הוראות מנוסחות-מחדש.

קראתי את ערות הגרסה של v2.64.0 ו-v2.65.0, ואת תיעוד Model Fallback, Artifact Scanning, Memory ו-Skills ב-tag של v2.65.0, ועוד קובץ המקור של הסורק. לא התקנתי את החבילה ולא הרצתי שום דבר. אלה טענות התיעוד, לא המדידות שלי.

מה ערות הגרסה מפרטות

שתי הגרסאות שמות את הפריטים האלה תחת "Compatibility Notes", כלומר ההתנהגות יכולה להשתנות בשדרוג:

  • 2.64.0: יכולת ModelFallback עם hook מסוג prepare_model_request לכל ניסיון ו-RetryModelRequest; ArtifactScanner עבור Memory ו-Skills; הגדרת מודל first_event_timeout כך ש-stream שלא מתחיל בכלל יכול ליפול למודל אחר; ו-json-repair הופך לתלות אופציונלית.
  • 2.65.0: "Fall back to the next model in ModelFallback when a model refuses, and let ContentFilterError in fallback_on match refusals". בנוסף כלל שמזהי response, item, conversation ו-container מאוחסנים נשלחים בחזרה רק לנקודת הקצה שיצרה אותם (2.64.0), ושינוי Temporal כך ששגיאות מודל שלא יכולות להצליח בניסיון-חוזר לא מנוסות שוב כברירת מחדל (2.65.0).

ModelFallback, לפי התיעוד

ModelFallback היא יכולת שמנסה מודלים אחרים כשאחד נכשל או מחזיר תגובה שאתם דוחים. השרשרת מתחילה עם המודל שנבחר לצעד, ואחריו המודלים של היכולת. מודל שכבר נוסה בצעד מדולג.

כברירת מחדל הוא נופל על ModelAPIError ו-ContentFilterError. fallback_on יכול גם לקבל exception handler או response handler שדוחה תגובה שחזרה בהצלחה. אזהרה אחת בתיעוד: העברת response handler בלבד מחליפה את ברירת המחדל, ואז שגיאות API וסירובים נזרקים במקום ליפול. העבירו את שניהם ברשימה כדי לשמור עליהם.

התנהגות מתועדת נוספת:

  • כל מודל שנוסה הוא ניסיון בתוך אותו צעד בקשה. usage.requests סופר את הצעד פעם אחת, אז UsageLimits.request_limit תוחם צעדים, לא מודלים שנוסו. טוקנים ועלות של כל ניסיון שהפיק תגובה, כולל נדחים, נספרים ב-usage של הריצה.
  • התגובה שענתה מפרטת את הניסיונות שזזו מהם ב-failed_attempts. אם כל המודלים נכשלים מקבלים FallbackExceptionGroup.
  • כברירת מחדל כל צעד מתחיל שוב מהמודל הראשון. sticky=True ממשיך להשתמש במועמד שענה, מה שהתיעוד קושר לשמירה על prompt cache של אותו ספק.
  • Streaming נופל רק לפני שפלט כלשהו מגיע אליכם. response handler של stream לא נשאל, וסירוב ב-stream מתקבל כמו שהוא.

סירובים כטריגר של fallback

התיעוד אומר ש-Pydantic AI מדווחת על סירוב כתגובה מוצלחת עם finish_reason של content_filter, עם ההסבר של הספק ב-provider_details['refusal'] איפה שניתן. ModelFallback זז ממנו כברירת מחדל, למודל שמחיל את מדיניות הבטיחות של הספק שלו עצמו. הדוגמה בתיעוד היא סוכן קוד שמתבקש להסביר פגיעות בקוד.

התיעוד גם מפרט מגבלות:

  • כדי שסירוב יסיים את הריצה, העבירו fallback_on=(ModelAPIError,).
  • FallbackModel רגיל לא נופל על סירובים כברירת מחדל. העבירו לו fallback_on=(ModelAPIError, ContentFilterError).
  • זה עובד לכל בקשה, עם היסטוריית ההודעות של הריצה עד כה.
  • בלי fallback, סירוב ריק זורק ContentFilterError, וסירוב עם טקסט הוא הפלט של הריצה.
  • סירוב ב-stream לא נופל ממנו. תופסים אותו ומריצים מחדש עם model= אחר.

התיעוד מקשר להנחיות של Anthropic שפלט חלקי של תגובה שנדחתה צריך להיחשב כלא שלם. שאלת התכנון היא שלכם: האם אתם רוצים שבקשה שספק אחד סירב תיענה בשקט על ידי ספק אחר. ברירת המחדל עכשיו עושה את זה. אם המדיניות שלכם אומרת שסירוב הוא אות עצירה, הגדירו fallback_on בעצמכם.

ArtifactScanner

התיעוד מתאר אותו כבודק טקסט שסוכן כותב וסשן מאוחר יותר טוען, כמו קבצי זיכרון ו-skills, עבור prompt injection, שליפת credentials, ותוכן שסוקר לא יכול לראות. Memory ו-Skills מקבלים אותו כ-scanner=. לפי התיעוד, כתיבת זיכרון שסומנה נדחית, קובץ זיכרון שסומן מוערם, ו-skill שסומן נשאר מחוץ לקטלוג.

קטגוריות זיהוי מפורטות: injection, role_override, exfiltration, html_comment ו-invisible_unicode. המקור מראה שתבניות הביטויים רצות אחרי נורמליזציית NFKC עם תווים בלתי-נראים ומחברים מקולקלים, כך שתו אפס-רוחב בתוך ביטוי לא מסתיר אותו. אפשר לצמצם קטגוריות, להוסיף extra_patterns, או לרשת ולדרוס את scan כדי לשים גלאי אחר מאחורי אותה אינטגרציה.

summary() מנים איומים ושמות תבניות בלי לצטט את הארטיפקט, כך שזה יכול להיכנס להודעה שהמודל רואה. כל החלטה שסומנה מתועדת כ-artifact_scan flagged span באורך אפס. הקטעים והשמות התואמים נכנסים ל-span הזה רק כש-trace_include_content דולק.

איפה התיעוד אומר שזה נגמר

עמוד ה-Artifact Scanning ישיר לגבי מגבלות:

  • "This is pattern matching." Prompt injection הוא שפה רגילה, אז הוא מפספס הוראות מנוסחות-מחדש או מתורגמות, ותוצאה ריקה לא אומרת שארטיפקט בטוח.
  • הוא יכול לסמן הערה שמצטטת מתקפה, כמו זיכרון שמתעד שעמוד אינטרנט אמר "ignore previous instructions".
  • הוא סורק מה שהאינטגרציות מנתבות דרכו: זיכרון דרך write_memory, read_memory, search_memory וה-MEMORY.md המוזרק, וה-description והגוף של כל skill. קבצי זיכרון שנקראים עם FileSystem וקבצי skill ארוזים לא נסרקים אלא אם קוראים ל-scan.
  • להזרקה עקיפה בתוצאות כלים, העמוד מפנה לעמוד Prompt Injection Defender נפרד, שלא קראתי.

מה הייתי בודק

אלה הצעות שלא בדקתי, לא התנהגות מתועדת.

  • החליטו על סירובים לפני שדרוג. אם אתם מריצים ModelFallback, כתבו אם סירוב צריך ליפול למודל אחר, והגדירו fallback_on בהתאם.
  • רשמו בלוג את failed_attempts ואת spans של model request attempt. fallback שעובד טוב בלתי-נראה אלא אם מחפשים אותו.
  • בדקו את הסורק עם קבצי הזיכרון שלכם, כולל הערות שמצטטות מתקפות, כדי לראות כמה false positives מקבלים.
  • התייחסו לסורק כשכבה אחת. שמרו סקירה אנושית ל-skills מצדדים שלישיים.
  • בדקו נתיבי streaming בנפרד. שני פערים מתועדים, response handlers וסירובים, שניהם פערי streaming.

מה לא הייתי מסיק

  • לא הייתי מסיק שהסורק הופך זיכרון או skills לבטוחים. התיעוד אומר שהוא לא.
  • לא הייתי מסיק שספקים אחרים מסרבים פחות. התיעוד אומר שהמודל הבא מחיל את המדיניות שלו.
  • לא הייתי מסיק שום דבר על יציבות חבילת ה-harness. התיעוד מציין שה-API עשוי להשתנות בין גרסאות minor של 0.x.
  • לא הייתי מרחיב את זה לגרסאות של Pydantic AI שלא קראתי.

שאלות נפוצות

מה זה ModelFallback ב-Pydantic AI?

יכולת שמנסה מודלים אחרים כשהמודל הנבחר נכשל או מחזיר תגובה שאתם דוחים. השרשרת היא מודל הצעד ואחריו המודלים של היכולת.

האם הוא נופל על סירובים?

כברירת מחדל כן, החל מערות הגרסה והתיעוד של 2.65.0. fallback_on מוגדר כברירת מחדל ל-(ModelAPIError, ContentFilterError). העבירו fallback_on=(ModelAPIError,) כדי לבטל.

האם סירוב ב-stream נופל?

לא, לפי התיעוד. הוא מתקבל כ-stream, ואתם מריצים מחדש עם מודל אחר אם אתם רוצים fallback.

מה ArtifactScanner בודק?

טקסט של זיכרון ו-skills עבור prompt injection, דריסת תפקיד, תבניות שליפת credentials, הערות HTML ותווים בלתי-נראים.

האם הוא תופס הזרקה מנוסחת-מחדש?

התיעוד אומר שלא. זו התאמת תבניות והיא מפספסת הוראות מנוסחות-מחדש או מתורגמות.

איפה מדווחים ממצאי הסורק?

summary() מנים איומים ותבניות בלי לצטט טקסט, ו-artifact_scan flagged span מתעד כל החלטה. קטעים מופיעים ב-span רק כש-trace_include_content דולק.

הרצת את זה?

לא. קראתי ערות גרסה, תיעוד ומקור הסורק ב-tag. לא התקנתי את Pydantic AI.

מקורות

כולם נקראו ב-3 בנובמבר 2026.

לא נקרא: עמודי Prompt Injection Defender ו-Guardrails, עמוד הסירובים של Anthropic, שאר השינויים של 2.64 ו-2.65, ושום דבר על הרצת הקוד.

קריאה נוספת

יומן הבנייה

לעקוב אחרי העבודה.

מאמרים ואבטיפוסים חדשים, ישר לקורא ה-RSS שלכם. מנויי המייל בהשהיה זמנית, עד שאחבר שירות משלוח עובד. לא נאסף כאן אימייל.

עקבו ב-RSS