דלגו לתוכן
גיליון 001·חי·20:20 IL
→ יומן/2026-11-04·8 דק׳

שינויי האבטחה של vLLM 0.32.0: CORS נסגר כברירת מחדל, תבניות מקבלות timeout, וסכמות מקבלות תקרת עומק

vLLM v0.32.0 שולח כמה תיקוני אבטחה וברירת מחדל שוברת של CORS. קראתי את הערות הגרסה, ה-pull requests והייעוצים ב-GitHub כדי לראות מה כל אחד משנה לשרת הסקה באירוח עצמי, ואיפה המקורות לא מסכימים.

מאת Harel Asaf·בונה בינה מלאכותית·תל אביב

אם אתם מריצים vLLM ודפדפן מדבר איתו ישירות, v0.32.0 עלול לשבור את ההקמה הזו בכוונה. הגרסה משנה את ברירת מחדל ה-CORS origins מ-* לכלום, אז לקוחות דפדפן צריכים --allowed-origins מפורש. אותה גרסה מוסיפה מגבלות על רינדור תבניות צ'אט, מושבי peer, פורמטי תמונה ועומק סכמת JSON. כמה מהן סוגרות נתיבי מניעת שירות שלקוח API יכול להגיע אליהם.

קראתי את הערות הגרסה של v0.32.0, שישה מה-pull requests שהן מצטטות, ושלושה ייעוצי GitHub. לא הרצתי vLLM ולא בדקתי אף ניצול. מזהה ייעוץ אחד בהערות הגרסה לא תואם למה ש-GitHub מציג לאותו מזהה, ואני מכסה את זה למטה.

ברירת המחדל השוברת של CORS

הערות הגרסה מפרטות את זה פעמיים, תחת Security ותחת Breaking Changes: ברירת מחדל ה-CORS origins השתנתה מ-* לכלום, ואתם מגדירים --allowed-origins ללקוחות דפדפן. ה-pull request (#61009, מוזג ב-11 באוקטובר 2026) מתאר את הבעיה כך: הגדרות CORS כברירת מחדל אפשרו לכל אתר לקרוא תגובות משרת vLLM נגיש-דפדפן. הוא מחייב מפעילים להצטרף במודע ל-origins של דפדפן גם ב-frontend של Python וגם של Rust.

ה-pull request קובע שתי טענות. בקשות מ-origins זרים לא מקבלות כותרת Access-Control-Allow-Origin ובקשות preflight של JSON לא מאושרות. הגדרות --allowed-origins מפורשות עדיין מתירות את ה-origins שבחרתם. סעיף האימות שלו מפרט בדיקות CORS שעברו.

אם אתם שמים אפליקציית web מול vLLM וקוראים לה מ-JavaScript, בדקו את זה לפני השדרוג. אם הקריאות שלכם מגיעות משרת, CORS לא חל עליהן.

מגבלות על דברים שלקוח יכול לשלוח

כל פריט למטה מגיע מסעיף ה-Security של ההערות, עם טקסט ה-pull request איפה שקראתי אותו.

  • תבניות צ'אט. ההערות אומרות שתבניות מאומתות סטטית ומעובדות תחת timeout שנקבע על ידי VLLM_CHAT_TEMPLATE_RENDER_TIMEOUT, chat_template שמסופק על ידי משתמש ב-chat_template_kwargs של Responses נדחה, וה-frontend של Rust מכתיר ביצוע תבניות. Pull request #50300 אומר שרינדור Jinja2 לא חסום אפשר ללקוח API מאומת לתקוע נקודות קצה בסגנון צ'אט דרך שימוש ב-CPU או זיכרון. הוא מוסיף בדיקות ל-range() מופרז, כפל מחרוזות ולולאות מקוננות עמוק, ותקציב fuel של 500K הוראות לכל רינדור ב-frontend של Rust.
  • מושבי peer. Pull request #51504 אומר שלקוח יכול היה להגיש הרבה כתובות peer ייחודיות לא-מאזינות דרך kv_transfer_params, שכל אחת יצרה שלושה sockets של ZQM שלעולם לא נאספו, ובערך 340 peers כאלה מיצו מגבלה של 1023 sockets והפילו את ליבת המנוע. התיקון מוסיף VLLM_P2P_MAX_PEERS (ברירת מחדל 128), VLLM_P2P_HANDSHAKE_TIMEOUT_S (ברירת מחדל 30) ו-VLLM_P2P_IDLE_TIMEOUT_S (ברירת מחדל 300). טקסט הייעוץ מגביל את הנתיב להקמה שמשתמשת ב-OffloadingConnector עם שכבת P2P משנית.
  • תמונות. Pull request #60022 אומר שבייטים של תמונה לא מהימנים הועברו ל-Pillow בלי רשימת פורמטים מורשית, אז מטעני PostScript או EPS יכולים היו להגיע לרנדרר חיצוני. הוא מוסיף ALLOWED_IMAGE_FORMATS ודוחה EPS ו-WMF, בין השאר.
  • מטמון מולטימודל בזיכרון משותף. Pull request #59357 אומר שעם --mm-processor-cache-type shm, עובד סמך על כל כתובת ו-ID שלקוח שלח. Handles חתומים עכשיו עם HMAC באמצעות סוד צד-שרת. ה-pull request אומר שמטמון LRU כברירת מחדל לא מושפע.
  • עומק סכמה. Pull request #60036 אומר שסכמות JSON מקוננות עמוק או קרסו עם 500 מעל בערך 980 רמות או הקפיאו את לולאת האירועים מתחת לזה. סכמות מקוננות יותר מ-64 רמות מחזירות עכשיו 400. ה-pull request מציין שהמגבלה המתועדת של OpenAI היא 10 רמות.
  • Token ids. ההערות מפרטות off-by-one של max_token_id ב-tokenizer. הייעוץ אומר שפרומפט מקודד-מראש עם id ששווה לגודל אוצר המילים יכול היה לעבור אימות ולהפיל את המנוע ב-tensor parallel size 1, למודלים כמו משפחת Llama-2.

ההערות גם מפרטות שדרוגי תלויות אבטחה, כולל aiohttp>=3.14.3 ו-pillow>=12.3.0.

איפה המקורות לא מסכימים

הערות הגרסה מכנות שלושה מזהי ייעוץ. בדקתי כל אחד דרך ה-API של ייעוצי GitHub.

  • GHSA-frvg-qw88-hww9 מכותר כבעיית מיצוי P2P ZMQ, מדורג בינוני, עם 0.32.0 כגרסה הראשונה המתוקנת. זה תואם להערות.
  • GHSA-q97c-p368-75c4 הוא בעיית ה-token id מחוץ-לאוצר-המילים, מדורג בינוני, תוקן ראשון ב-0.32.0. זה גם תואם.
  • GHSA-4hhp-h66f-j5j7 מתואר בהערות הגרסה וב-pull request #50300 כבעיית מיצוי תבנית הצ'אט. ה-API של GitHub החזיר ייעוץ שונה לאותו מזהה: SSRF וקריאת קובץ מקומי במעבד המולטימודל של MiMoV2 Omni, שתוקן ב-0.26.0.

אני לא יודע למה. כותרת ה-pull request ורשומת הייעוץ לא מסכימים, ולא מצאתי מקור שמיישב את זה. אם אתם עוקבים אחרי vLLM לפי מזהה ייעוץ, חפשו גם לפי ה-pull request של התיקון, ואל תניחו שהמזהה ממופה לתיקון התבנית.

שינויים שוברים נוספים ששווה להסתכל עליהם

סעיף ה-Breaking Changes מפרט גם את אלה, שחשובים אם אתם נועצים גרסאות או כותבים סקריפטים סביב השרת:

  • Python 3.10 הוסר. המינימום הוא 3.11.
  • נדרשים transformers>=5.16.1,<5.20.0 ו-tokenizers>=0.23.2.
  • max_tokens הוא חסם עליון על פלט במקום להיות שמור מחלון ההקשר, אז פרומפטים ארוכים לא נדחים יותר מהסיבה הזו.
  • אירועי זרם reasoning של Responses API שונו ל-response.content_part.added ו-response.content_part.done עם part.type="reasoning_text".
  • Cascade attention הוסר. --disable-cascade-attn עדיין מתנתח אבל רק מזהיר, וההערות אומרות שהוא יוסר ב-v0.33.0.

מה אני הייתי בודק

אלה ההצעות שלא נבדקו שלי.

  • לחפש בתצורות ובקוד ה-front-end שלכם קריאות דפדפן ישירות ל-vLLM לפני שדרוג. אם יש לכם, להגדיר --allowed-origins לרשימה מפורשת, לא wildcard.
  • לברר אם אתם משתמשים בהעברת KV מסוג P2P או במטמון המולטימודל של הזיכרון המשותף. אם לא, שניים מהתיקונים לא נוגעים בהקמה שלכם.
  • להשמיד בדיקה חוזרת של בקשת פרומפט ארוך ובקשה עם תבנית צ'אט מותאמת על עותק staging. שינוי ה-max_tokens ובדיקות התבנית יכולים לשנות מה מתקבל.
  • לא לחשוף את השרת ללקוחות לא מהימנים רק כי המגבלות קיימות. ה-pull requests מתארים לקוחות מאומתים או נגישי-API, ולא קראתי את הנחיות הפריסה של הפרויקט.

מה לא הייתי מסיק

  • ש-v0.32.0 הופך שרת vLLM חשוף לבטוח. אלה תיקונים ספציפיים, ולא ביקרתי את השאר.
  • שכל פריט משפיע עליכם. כמה תלויים באפשרויות כמו מטמון ה-shm או שכבת P2P.
  • שאי-ההתאמה של מזהה הייעוץ משנה את התיקון. תוכן ה-pull request והערות הגרסה מסכימים זה עם זה, ורק חיפוש המזהה שונה.

שאלות נפוצות

מה השתנה ב-CORS ב-vLLM 0.32.0?

ברירת מחדל ה-origins המורשים השתנתה מ-* לכלום, גם ב-frontend של Python וגם של Rust. להגדיר --allowed-origins ללקוחות דפדפן.

האם לקוח צד-שרת שלי יישבר?

CORS נאכף על ידי דפדפנים, אז קריאות שרת-לשרת לא מנוהלות על ידו. לא בדקתי את זה.

איך מגבילים את זמן רינדור תבנית הצ'אט?

ההערות מכנות את VLLM_CHAT_TEMPLATE_RENDER_TIMEOUT. לא מצאתי את ערך ברירת המחדל שלו במקורות שקראתי.

מהי מגבלת עומק סכמת ה-JSON?

סכמות מקוננות יותר מ-64 רמות של אובייקטים ומערכים מחזירות HTTP 400.

האם תיקון ה-P2P משפיע על כולם?

לפי טקסט הייעוץ, הוא חל על הקמה שמשתמשת ב-OffloadingConnector עם שכבת P2P משנית. לא אימתי נתיבים אחרים.

איזו גרסת Python צריך vLLM 0.32.0?

Python 3.11 או חדש יותר. הערות הבנייה אומרות ש-3.11 עד 3.14 נתמכות.

הרצתם אותו?

לא. קראתי את הערות הגרסה, ה-pull requests והייעוצים. לא התקנתי vLLM ולא בדקתי אף אחד מהתיקונים.

מקורות

כולם נקראו ב-4 בנובמבר 2026.

לא נקרא: תיעוד הפריסה והאבטחה של vLLM, קוד המקור, וסעיפי התמיכה במודלים, ביצועים וחומרה של ההערות.

קריאה נוספת

יומן הבנייה

לעקוב אחרי העבודה.

מאמרים ואבטיפוסים חדשים, ישר לקורא ה-RSS שלכם. מנויי המייל בהשהיה זמנית, עד שאחבר שירות משלוח עובד. לא נאסף כאן אימייל.

עקבו ב-RSS