שינויי האבטחה של vLLM 0.32.0: CORS נסגר כברירת מחדל, תבניות מקבלות timeout, וסכמות מקבלות תקרת עומק
vLLM v0.32.0 שולח כמה תיקוני אבטחה וברירת מחדל שוברת של CORS. קראתי את הערות הגרסה, ה-pull requests והייעוצים ב-GitHub כדי לראות מה כל אחד משנה לשרת הסקה באירוח עצמי, ואיפה המקורות לא מסכימים.
אם אתם מריצים vLLM ודפדפן מדבר איתו ישירות, v0.32.0 עלול לשבור את ההקמה הזו בכוונה. הגרסה משנה את ברירת מחדל ה-CORS origins מ-* לכלום, אז לקוחות דפדפן צריכים --allowed-origins מפורש. אותה גרסה מוסיפה מגבלות על רינדור תבניות צ'אט, מושבי peer, פורמטי תמונה ועומק סכמת JSON. כמה מהן סוגרות נתיבי מניעת שירות שלקוח API יכול להגיע אליהם.
קראתי את הערות הגרסה של v0.32.0, שישה מה-pull requests שהן מצטטות, ושלושה ייעוצי GitHub. לא הרצתי vLLM ולא בדקתי אף ניצול. מזהה ייעוץ אחד בהערות הגרסה לא תואם למה ש-GitHub מציג לאותו מזהה, ואני מכסה את זה למטה.
ברירת המחדל השוברת של CORS
הערות הגרסה מפרטות את זה פעמיים, תחת Security ותחת Breaking Changes: ברירת מחדל ה-CORS origins השתנתה מ-* לכלום, ואתם מגדירים --allowed-origins ללקוחות דפדפן. ה-pull request (#61009, מוזג ב-11 באוקטובר 2026) מתאר את הבעיה כך: הגדרות CORS כברירת מחדל אפשרו לכל אתר לקרוא תגובות משרת vLLM נגיש-דפדפן. הוא מחייב מפעילים להצטרף במודע ל-origins של דפדפן גם ב-frontend של Python וגם של Rust.
ה-pull request קובע שתי טענות. בקשות מ-origins זרים לא מקבלות כותרת Access-Control-Allow-Origin ובקשות preflight של JSON לא מאושרות. הגדרות --allowed-origins מפורשות עדיין מתירות את ה-origins שבחרתם. סעיף האימות שלו מפרט בדיקות CORS שעברו.
אם אתם שמים אפליקציית web מול vLLM וקוראים לה מ-JavaScript, בדקו את זה לפני השדרוג. אם הקריאות שלכם מגיעות משרת, CORS לא חל עליהן.
מגבלות על דברים שלקוח יכול לשלוח
כל פריט למטה מגיע מסעיף ה-Security של ההערות, עם טקסט ה-pull request איפה שקראתי אותו.
- תבניות צ'אט. ההערות אומרות שתבניות מאומתות סטטית ומעובדות תחת timeout שנקבע על ידי
VLLM_CHAT_TEMPLATE_RENDER_TIMEOUT,chat_templateשמסופק על ידי משתמש ב-chat_template_kwargsשל Responses נדחה, וה-frontend של Rust מכתיר ביצוע תבניות. Pull request #50300 אומר שרינדור Jinja2 לא חסום אפשר ללקוח API מאומת לתקוע נקודות קצה בסגנון צ'אט דרך שימוש ב-CPU או זיכרון. הוא מוסיף בדיקות ל-range()מופרז, כפל מחרוזות ולולאות מקוננות עמוק, ותקציב fuel של 500K הוראות לכל רינדור ב-frontend של Rust. - מושבי peer. Pull request #51504 אומר שלקוח יכול היה להגיש הרבה כתובות peer ייחודיות לא-מאזינות דרך
kv_transfer_params, שכל אחת יצרה שלושה sockets של ZQM שלעולם לא נאספו, ובערך 340 peers כאלה מיצו מגבלה של 1023 sockets והפילו את ליבת המנוע. התיקון מוסיףVLLM_P2P_MAX_PEERS(ברירת מחדל 128),VLLM_P2P_HANDSHAKE_TIMEOUT_S(ברירת מחדל 30) ו-VLLM_P2P_IDLE_TIMEOUT_S(ברירת מחדל 300). טקסט הייעוץ מגביל את הנתיב להקמה שמשתמשת ב-OffloadingConnectorעם שכבת P2P משנית. - תמונות. Pull request #60022 אומר שבייטים של תמונה לא מהימנים הועברו ל-Pillow בלי רשימת פורמטים מורשית, אז מטעני PostScript או EPS יכולים היו להגיע לרנדרר חיצוני. הוא מוסיף
ALLOWED_IMAGE_FORMATSודוחה EPS ו-WMF, בין השאר. - מטמון מולטימודל בזיכרון משותף. Pull request #59357 אומר שעם
--mm-processor-cache-type shm, עובד סמך על כל כתובת ו-ID שלקוח שלח. Handles חתומים עכשיו עם HMAC באמצעות סוד צד-שרת. ה-pull request אומר שמטמון LRU כברירת מחדל לא מושפע. - עומק סכמה. Pull request #60036 אומר שסכמות JSON מקוננות עמוק או קרסו עם 500 מעל בערך 980 רמות או הקפיאו את לולאת האירועים מתחת לזה. סכמות מקוננות יותר מ-64 רמות מחזירות עכשיו 400. ה-pull request מציין שהמגבלה המתועדת של OpenAI היא 10 רמות.
- Token ids. ההערות מפרטות off-by-one של
max_token_idב-tokenizer. הייעוץ אומר שפרומפט מקודד-מראש עם id ששווה לגודל אוצר המילים יכול היה לעבור אימות ולהפיל את המנוע ב-tensor parallel size 1, למודלים כמו משפחת Llama-2.
ההערות גם מפרטות שדרוגי תלויות אבטחה, כולל aiohttp>=3.14.3 ו-pillow>=12.3.0.
איפה המקורות לא מסכימים
הערות הגרסה מכנות שלושה מזהי ייעוץ. בדקתי כל אחד דרך ה-API של ייעוצי GitHub.
- GHSA-frvg-qw88-hww9 מכותר כבעיית מיצוי P2P ZMQ, מדורג בינוני, עם 0.32.0 כגרסה הראשונה המתוקנת. זה תואם להערות.
- GHSA-q97c-p368-75c4 הוא בעיית ה-token id מחוץ-לאוצר-המילים, מדורג בינוני, תוקן ראשון ב-0.32.0. זה גם תואם.
- GHSA-4hhp-h66f-j5j7 מתואר בהערות הגרסה וב-pull request #50300 כבעיית מיצוי תבנית הצ'אט. ה-API של GitHub החזיר ייעוץ שונה לאותו מזהה: SSRF וקריאת קובץ מקומי במעבד המולטימודל של MiMoV2 Omni, שתוקן ב-0.26.0.
אני לא יודע למה. כותרת ה-pull request ורשומת הייעוץ לא מסכימים, ולא מצאתי מקור שמיישב את זה. אם אתם עוקבים אחרי vLLM לפי מזהה ייעוץ, חפשו גם לפי ה-pull request של התיקון, ואל תניחו שהמזהה ממופה לתיקון התבנית.
שינויים שוברים נוספים ששווה להסתכל עליהם
סעיף ה-Breaking Changes מפרט גם את אלה, שחשובים אם אתם נועצים גרסאות או כותבים סקריפטים סביב השרת:
- Python 3.10 הוסר. המינימום הוא 3.11.
- נדרשים
transformers>=5.16.1,<5.20.0ו-tokenizers>=0.23.2. max_tokensהוא חסם עליון על פלט במקום להיות שמור מחלון ההקשר, אז פרומפטים ארוכים לא נדחים יותר מהסיבה הזו.- אירועי זרם reasoning של Responses API שונו ל-
response.content_part.addedו-response.content_part.doneעםpart.type="reasoning_text". - Cascade attention הוסר.
--disable-cascade-attnעדיין מתנתח אבל רק מזהיר, וההערות אומרות שהוא יוסר ב-v0.33.0.
מה אני הייתי בודק
אלה ההצעות שלא נבדקו שלי.
- לחפש בתצורות ובקוד ה-front-end שלכם קריאות דפדפן ישירות ל-vLLM לפני שדרוג. אם יש לכם, להגדיר
--allowed-originsלרשימה מפורשת, לא wildcard. - לברר אם אתם משתמשים בהעברת KV מסוג P2P או במטמון המולטימודל של הזיכרון המשותף. אם לא, שניים מהתיקונים לא נוגעים בהקמה שלכם.
- להשמיד בדיקה חוזרת של בקשת פרומפט ארוך ובקשה עם תבנית צ'אט מותאמת על עותק staging. שינוי ה-
max_tokensובדיקות התבנית יכולים לשנות מה מתקבל. - לא לחשוף את השרת ללקוחות לא מהימנים רק כי המגבלות קיימות. ה-pull requests מתארים לקוחות מאומתים או נגישי-API, ולא קראתי את הנחיות הפריסה של הפרויקט.
מה לא הייתי מסיק
- ש-v0.32.0 הופך שרת vLLM חשוף לבטוח. אלה תיקונים ספציפיים, ולא ביקרתי את השאר.
- שכל פריט משפיע עליכם. כמה תלויים באפשרויות כמו מטמון ה-shm או שכבת P2P.
- שאי-ההתאמה של מזהה הייעוץ משנה את התיקון. תוכן ה-pull request והערות הגרסה מסכימים זה עם זה, ורק חיפוש המזהה שונה.
שאלות נפוצות
מה השתנה ב-CORS ב-vLLM 0.32.0?
ברירת מחדל ה-origins המורשים השתנתה מ-* לכלום, גם ב-frontend של Python וגם של Rust. להגדיר --allowed-origins ללקוחות דפדפן.
האם לקוח צד-שרת שלי יישבר?
CORS נאכף על ידי דפדפנים, אז קריאות שרת-לשרת לא מנוהלות על ידו. לא בדקתי את זה.
איך מגבילים את זמן רינדור תבנית הצ'אט?
ההערות מכנות את VLLM_CHAT_TEMPLATE_RENDER_TIMEOUT. לא מצאתי את ערך ברירת המחדל שלו במקורות שקראתי.
מהי מגבלת עומק סכמת ה-JSON?
סכמות מקוננות יותר מ-64 רמות של אובייקטים ומערכים מחזירות HTTP 400.
האם תיקון ה-P2P משפיע על כולם?
לפי טקסט הייעוץ, הוא חל על הקמה שמשתמשת ב-OffloadingConnector עם שכבת P2P משנית. לא אימתי נתיבים אחרים.
איזו גרסת Python צריך vLLM 0.32.0?
Python 3.11 או חדש יותר. הערות הבנייה אומרות ש-3.11 עד 3.14 נתמכות.
הרצתם אותו?
לא. קראתי את הערות הגרסה, ה-pull requests והייעוצים. לא התקנתי vLLM ולא בדקתי אף אחד מהתיקונים.
מקורות
כולם נקראו ב-4 בנובמבר 2026.
- vLLM v0.32.0 הערות גרסה
- Pull request 61009, הגבלת CORS origins כברירת מחדל
- Pull request 50300, מיצוי משאבי תבנית צ'אט
- Pull request 51504, מיצוי sockets של P2P ZMQ
- Pull request 60022, הגבלת פורמטי תמונה של Pillow
- Pull request 59357, אימות handles של מטמון זיכרון משותף
- Pull request 60036, תקרת קינון סכמת JSON
- Pull request 59491, off-by-one של max_token_id
- ייעוץ GitHub GHSA-frvg-qw88-hww9
- ייעוץ GitHub GHSA-q97c-p368-75c4
- ייעוץ GitHub GHSA-4hhp-h66f-j5j7
לא נקרא: תיעוד הפריסה והאבטחה של vLLM, קוד המקור, וסעיפי התמיכה במודלים, ביצועים וחומרה של ההערות.
קריאה נוספת
- Self-hosted Claude Managed Agents: שירות הסוכנים של Anthropic רץ עכשיו על התשתית שלך
Anthropic פתחה את self-hosted Claude Managed Agents בבטא פרטית: אתה מארח את שירות הסוכנים, את מסד הנתונים ואת ארגזי החול, וקריאות המודל הולכות ל-Claude API או לספק שאתה בוחר. מה רץ איפה, אילו הרשאות קיימות, מה עדיין יוצא מהרשת שלך, ומה כדאי לבדוק לפני שמתחייבים.
יומן הבנייה
לעקוב אחרי העבודה.
מאמרים ואבטיפוסים חדשים, ישר לקורא ה-RSS שלכם. מנויי המייל בהשהיה זמנית, עד שאחבר שירות משלוח עובד. לא נאסף כאן אימייל.
עקבו ב-RSS