Ollama 0.40.14: נקודות הקצה התואמות-OpenAI הפסיקו לכפות temperature 1.0 ו-top_p 1.0
Ollama v0.40.14 שינתה מה נשלח מ-/v1/chat/completions, /v1/completions ו-/v1/responses כשלקוח משמיט אפשרויות דגימה. קראתי את ערות הגרסה, ה-pull requests והתיעוד ב-tag כדי לראות מה משתנה למשתמשי OpenAI SDK.
אם אתם קוראים למודל מקומי דרך נקודות הקצה התואמות-OpenAI של Ollama ואף פעם לא מגדירים temperature או top_p, גרסה v0.40.14 של Ollama עלולה לשנות את התוצאות שלכם. לפי ה-pull request שמאחורי השינוי, נקודות הקצה האלה נהגו למלא 1.0 בשני השדות כשהלקוח השמיט אותם, ובכך דרסו את ברירות המחדל הארוזות עם המודל. החל מ-v0.40.14, שדות שהושמטו נשארים לא מוגדרים, כך ש-/v1 מתנהג כמו /api/chat. ערכים שאתם שולחים עדיין גוברים, כולל 0.
קראתי את ערות הגרסה של v0.40.14, את ה-pull requests שהיא מפרטת, ואת תיעוד תאימות OpenAI וה-Modelfile ב-tag. לא התקנתי ולא השוויתי פלטים. כל מה שכתוב למטה הוא מה שהמסמכים האלה אומרים.
מה הגרסה שינתה
ערות הגרסה מפרטות את הפריטים הבאים:
ollama launch claudeמחיל את מגבלת טוקני הפלט של המודל עבור Claude Code, כך שמודלי ענן כבר לא נתקלים במגבלת ברירת המחדל של 128k.- תגובות חיפוש-רשת בענן על
/api/chatמפוענחות כראוי, כולל תגובות דחוסות. - נקודות הקצה התואמות-OpenAI כבר לא דורסות את ברירות המחדל של הדגימה הארוזות עם המודל.
/v1/responsesשומר על תוכן קלט קריא, כולל סירובים קודמים של ה-assistant, במקום לשטח אותו.- אפליקציית Ollama יכולה לנסות שוב אחרי כשלי ניתוק של ChatGPT.
ollama launch codexמאמת ניתוב ChatGPT לפני הקונפיגורציה ומדווח שגיאה ברורה כשהניתוב לא זמין.- דגימת top-k מהירה יותר על MLX לאוצרי מילים גדולים.
תצוגת ה-compare בין v0.40.13 ל-v0.40.14 מפרטת שמונה commits. עוד אחד הוא שינוי CI שמקבע את buildx כדי לעקוף deadlock. שינוי הדגימה הוא זה שהכי סביר להשפיע על אפליקציה שרצה.
שינוי ברירות המחדל של הדגימה
כותרת ה-pull request היא "openai: don't override model sampler defaults" והוא מוזג ב-31 באוקטובר 2026. התיאור שלו אומר שכשלקוח השמיט temperature או top_p, נקודות הקצה התואמות-OpenAI שלחו 1.0 עבורם. הוא גם אומר ש-/v1/completions תמיד שלח 0 עבור שתי ה-penalties.
ה-diff תואם לכך. בקוד ה-Go, ההמרה של בקשת chat נהגה להגדיר temperature ו-top_p ל-1.0 בענף ה-else, והענפים האלה הוסרו. בבקשת completions, שדות ה-penalty וה-top_p הפכו למצביעים, וכל אפשרות מוגדרת רק כשהלקוח שלח אותה.
מחבר ה-pull request נותן דוגמאות למה זה אומר, ואלה טענות שלו, שלא בדקתי:
- lfm3 נארז עם temperature 0.1 אבל רץ על 1.0 ב-
/v1. - qwen3-coder (0.7 ו-0.8) ו-deepseek-r1 (0.6 ו-0.95) קיבלו 1.0 בשניהם.
- qwen3.8, qwen3.6, gemma4 ו-nemotron-3.5 נארזים עם
top_p0.95 וקיבלו 1.0. - ב-
/v1/completions, ה-presence penalty של qwen3.6, שהוא 1.5, אופס ל-0.
התיקון מכסה את /v1/chat/completions, /v1/completions ו-/v1/responses. כתוב שם שלקוחות OpenAI SDK שלא מגדירים אפשרויות דגימה מריצים עכשיו מודלים עם ההגדרות המומלצות של המעבדה, בדיוק כמו /api/chat.
מה זה אומר בפועל
הקריאה המעשית היא שאותו קוד לקוח יכול עכשיו לייצר התנהגות שונה אחרי שדרוג. סקריפט שאף פעם לא הגדיר temperature נהג לקבל 1.0 ב-/v1. עכשיו הוא מקבל מה שאריזת המודל אומרת. בחלק מהמודלים זה ערך נמוך וממוקד יותר. במודל שנארז עם ערך גבוה, זה יכול להיות ההפך.
תיעוד ה-Modelfile ב-tag מציג שכבה אחרת. טבלת הפרמטרים מפרטת temperature עם ברירת מחדל 0.8 ו-top_p עם ברירת מחדל 0.9. אלה ערכי הגיבוי שהתיעוד מתאר כשאריזת מודל לא מגדירה כלום. לא עקבתי איך השרת משלב את הערכים הארוזים, ה-Modelfile וערכי הגיבוי, אז אני לא יכול להגיד מי גובר בכל מקרה.
קלט Responses וסירובים
ה-pull request השני, "openai: preserve readable Responses input content", מוזג ב-29 באוקטובר. התיאור שלו מנים שלוש בעיות כשאפליקציה שולחת מחדש היסטוריית שיחה דרך /v1/responses:
- reasoning ותמונות קריאים בהודעות agent עלולים ללכת לאיבוד.
- סירוב קודם של assistant עלול לגרום לבקשה להיכשל.
- תמונה עם
file_idבלבד עלולה להידלג בשקט.
התיקון שומר על reasoning קריא, סירובי assistant ותמונות inline. תמונה עם file_id בלבד שלא ניתן לפענח מוחלפת בהודעה מפורשת בקלט של המודל, כך שהשיחה יכולה להמשיך. נתוני תמונה inline תקינים שסופקו לצד file_id משמשים בפועל, ומקורות תמונה חסרים או פגומים מחזירים שגיאות. אותה המרה משמשת גם לבקשות רגילות וגם ל-compaction.
התיעוד ב-tag אומר ש-Ollama תומכת רק בגרסה הלא-stateful של Responses API: בלי previous_response_id ובלי conversation. חלק הענן מוסיף ש-API הענן לא תומך ב-Responses מסוג stateful, בחיפוש-רשת מובנה דרך /v1/responses, או בשידור-חוזר של קריאות כלים מותאמות אישית או freeform. אז אפליקציה ששולחת מחדש את ההיסטוריה שלה היא הדפוס הנתמך.
מגבלת Claude Code, ומספר שלא מתאים
ערות הגרסה אומרות ש-ollama launch claude מחיל עכשיו את מגבלת טוקני הפלט של המודל כך שמודלי ענן כבר לא נתקלים ב"מגבלת ברירת המחדל של 128k". טקסט ה-pull request אומר משהו אחר: ש-Claude הורג את החיבור אחרי 32k כרגע, ושהשינוי מעלה את המגבלה ל-128k טוקני פלט. לא מצאתי איזה מספר הוא ברירת המחדל הישנה. ערת הגרסה ותיאור ה-pull request לא מסכימים, אז תתייחסו לשני המספרים כלא מאומתים.
מה הייתי בודק
אלה הצעות שלא בדקתי.
- לפני שדרוג, תרשמו בלוג את אפשרויות הדגימה שהלקוחות שלכם באמת שולחים. אם אתם לא שולחים אף אחת, צפו לפלטים שונים אחרי השדרוג.
- אם אתם צריכים התנהגות הניתנת לשחזור, הגדירו
temperature,top_pו-seedבמפורש בלקוח במקום לסמוך על אחת מברירות המחדל. - אם אתם שולחים מחדש היסטוריה דרך
/v1/responses, הריצו מחדש שיחה שמכילה סירוב קודם על v0.40.13 ועל v0.40.14 והשוו. - ב-evals, רשמו את גרסת Ollama לצד תג המודל. שינוי בברירות המחדל של השרת יכול להיראות כמו שינוי במודל.
מה לא הייתי מסיק
- שכל מודל משתפר או נפגע. השינוי מזיז את ברירת המחדל מ-1.0 לערך הארוז, והערך הזה שונה ממודל למודל.
- שהדוגמאות מה-pull request תקפות לתג המודל שלכם. לא קראתי את המניפסטים של המודלים.
- שהמספרים 128k ו-32k סופיים. שני המקורות חולקים זה על זה.
שאלות נפוצות
מה השתנה ב-Ollama v0.40.14?
ערות הגרסה מפרטות שינויים במגבלת ההשקה של Claude Code, בפענוח חיפוש-רשת בענן, בברירות המחדל של דגימה בנקודות התואמות-OpenAI, בטיפול בקלט Responses, בניסיון-חוזר ובבדיקות ניתוב של ChatGPT, ובדגימת top-k על MLX.
האם Ollama עדיין כופה temperature 1.0 על /v1?
לפי ה-pull request, לא. כשלקוח משמיט temperature או top_p, השדות נשארים לא מוגדרים ב-/v1/chat/completions, /v1/completions ו-/v1/responses.
מה קורה אם אני מגדיר temperature ל-0?
ה-pull request אומר שערכים שלקוח שולח עדיין גוברים, כולל 0.
אילו נקודות קצה מושפעות?
ה-pull request מנים את /v1/chat/completions, /v1/completions ו-/v1/responses.
האם /v1/responses תומך בשיחות stateful?
לא לפי התיעוד ב-tag. אין previous_response_id ואין תמיכה ב-conversation.
מה קורה לתמונה שיש לה רק file_id?
לפי ה-pull request, תמונה עם file_id בלבד שלא זמינה מוחלפת בהודעה מפורשת בקלט של המודל, כך ששאר השיחה יכולה להמשיך.
הרצת את זה?
לא. קראתי את ערות הגרסה, ה-pull requests והתיעוד ב-tag. לא התקנתי את Ollama ולא השוויתי פלטים.
מקורות
כולם נקראו ב-4 בנובמבר 2026.
- Ollama v0.40.14 release notes
- Ollama pull request 19432, don't override model sampler defaults
- Ollama pull request 19192, preserve readable Responses input content
- Ollama pull request 19410, use model output limits for Claude Code
- Ollama pull request 19470, check ChatGPT routing before configuring
- OpenAI compatibility docs at v0.40.14
- Modelfile docs at v0.40.14
לא נקרא: המניפסטים של המודלים, קוד שרת ה-Go שממזג את האפשרויות הארוזות, ושינויי ה-MLX, חיפוש הענן והאפליקציה מעבר לשורות הגרסה שלהם.
קריאה נוספת
- Inkling 2 Small: Thinking Machines משחררת MoE פתוח של 594B פרמטרים שרץ על 17B פעילים
Thinking Machines Lab שחררה את Inkling 2 Small במשקלים פתוחים תחת Apache 2.0: מודל mixture-of-experts מולטימודאלי מלידה עם 594B פרמטרים, 17B פעילים, קונטקסט של מיליון טוקנים, ותוצאות agentic coding שמנצחות את רוב מתחרי ה-flash הפתוחים. אירוח עצמי דורש אשכול GPU; ב-Ollama Cloud הוא עולה 0.30 דולר למיליון טוקני קלט.
- Self-hosted Claude Managed Agents: שירות הסוכנים של Anthropic רץ עכשיו על התשתית שלך
Anthropic פתחה את self-hosted Claude Managed Agents בבטא פרטית: אתה מארח את שירות הסוכנים, את מסד הנתונים ואת ארגזי החול, וקריאות המודל הולכות ל-Claude API או לספק שאתה בוחר. מה רץ איפה, אילו הרשאות קיימות, מה עדיין יוצא מהרשת שלך, ומה כדאי לבדוק לפני שמתחייבים.
- המדריך של Anthropic לסוכני always-on: חמישה פרימיטיבים מאחורי סוכנים שלא יושבים בחינם
Anthropic פרסמה מדריך לבניית סוכני always-on: סוכנים שומרי-מצב ופרואקטיביים שמנהלים קונטקסט בין סשנים. הרעיון המרכזי הוא שהסוכן לא באמת רץ כל הזמן - הוא ישן בין ריצות, וחמישה פרימיטיבים ארכיטקטוניים מחליטים מתי הוא מתעורר, מה הוא זוכר, ומה מגיע אליך.
יומן הבנייה
לעקוב אחרי העבודה.
מאמרים ואבטיפוסים חדשים, ישר לקורא ה-RSS שלכם. מנויי המייל בהשהיה זמנית, עד שאחבר שירות משלוח עובד. לא נאסף כאן אימייל.
עקבו ב-RSS