דלגו לתוכן
גיליון 001·חי·20:20 IL
→ יומן/2026-11-04·7 דק׳

Ollama 0.40.14: נקודות הקצה התואמות-OpenAI הפסיקו לכפות temperature 1.0 ו-top_p 1.0

Ollama v0.40.14 שינתה מה נשלח מ-/v1/chat/completions, /v1/completions ו-/v1/responses כשלקוח משמיט אפשרויות דגימה. קראתי את ערות הגרסה, ה-pull requests והתיעוד ב-tag כדי לראות מה משתנה למשתמשי OpenAI SDK.

מאת Harel Asaf·בונה בינה מלאכותית·תל אביב

אם אתם קוראים למודל מקומי דרך נקודות הקצה התואמות-OpenAI של Ollama ואף פעם לא מגדירים temperature או top_p, גרסה v0.40.14 של Ollama עלולה לשנות את התוצאות שלכם. לפי ה-pull request שמאחורי השינוי, נקודות הקצה האלה נהגו למלא 1.0 בשני השדות כשהלקוח השמיט אותם, ובכך דרסו את ברירות המחדל הארוזות עם המודל. החל מ-v0.40.14, שדות שהושמטו נשארים לא מוגדרים, כך ש-/v1 מתנהג כמו /api/chat. ערכים שאתם שולחים עדיין גוברים, כולל 0.

קראתי את ערות הגרסה של v0.40.14, את ה-pull requests שהיא מפרטת, ואת תיעוד תאימות OpenAI וה-Modelfile ב-tag. לא התקנתי ולא השוויתי פלטים. כל מה שכתוב למטה הוא מה שהמסמכים האלה אומרים.

מה הגרסה שינתה

ערות הגרסה מפרטות את הפריטים הבאים:

  • ollama launch claude מחיל את מגבלת טוקני הפלט של המודל עבור Claude Code, כך שמודלי ענן כבר לא נתקלים במגבלת ברירת המחדל של 128k.
  • תגובות חיפוש-רשת בענן על /api/chat מפוענחות כראוי, כולל תגובות דחוסות.
  • נקודות הקצה התואמות-OpenAI כבר לא דורסות את ברירות המחדל של הדגימה הארוזות עם המודל.
  • /v1/responses שומר על תוכן קלט קריא, כולל סירובים קודמים של ה-assistant, במקום לשטח אותו.
  • אפליקציית Ollama יכולה לנסות שוב אחרי כשלי ניתוק של ChatGPT.
  • ollama launch codex מאמת ניתוב ChatGPT לפני הקונפיגורציה ומדווח שגיאה ברורה כשהניתוב לא זמין.
  • דגימת top-k מהירה יותר על MLX לאוצרי מילים גדולים.

תצוגת ה-compare בין v0.40.13 ל-v0.40.14 מפרטת שמונה commits. עוד אחד הוא שינוי CI שמקבע את buildx כדי לעקוף deadlock. שינוי הדגימה הוא זה שהכי סביר להשפיע על אפליקציה שרצה.

שינוי ברירות המחדל של הדגימה

כותרת ה-pull request היא "openai: don't override model sampler defaults" והוא מוזג ב-31 באוקטובר 2026. התיאור שלו אומר שכשלקוח השמיט temperature או top_p, נקודות הקצה התואמות-OpenAI שלחו 1.0 עבורם. הוא גם אומר ש-/v1/completions תמיד שלח 0 עבור שתי ה-penalties.

ה-diff תואם לכך. בקוד ה-Go, ההמרה של בקשת chat נהגה להגדיר temperature ו-top_p ל-1.0 בענף ה-else, והענפים האלה הוסרו. בבקשת completions, שדות ה-penalty וה-top_p הפכו למצביעים, וכל אפשרות מוגדרת רק כשהלקוח שלח אותה.

מחבר ה-pull request נותן דוגמאות למה זה אומר, ואלה טענות שלו, שלא בדקתי:

  • lfm3 נארז עם temperature 0.1 אבל רץ על 1.0 ב-/v1.
  • qwen3-coder (0.7 ו-0.8) ו-deepseek-r1 (0.6 ו-0.95) קיבלו 1.0 בשניהם.
  • qwen3.8, qwen3.6, gemma4 ו-nemotron-3.5 נארזים עם top_p 0.95 וקיבלו 1.0.
  • ב-/v1/completions, ה-presence penalty של qwen3.6, שהוא 1.5, אופס ל-0.

התיקון מכסה את /v1/chat/completions, /v1/completions ו-/v1/responses. כתוב שם שלקוחות OpenAI SDK שלא מגדירים אפשרויות דגימה מריצים עכשיו מודלים עם ההגדרות המומלצות של המעבדה, בדיוק כמו /api/chat.

מה זה אומר בפועל

הקריאה המעשית היא שאותו קוד לקוח יכול עכשיו לייצר התנהגות שונה אחרי שדרוג. סקריפט שאף פעם לא הגדיר temperature נהג לקבל 1.0 ב-/v1. עכשיו הוא מקבל מה שאריזת המודל אומרת. בחלק מהמודלים זה ערך נמוך וממוקד יותר. במודל שנארז עם ערך גבוה, זה יכול להיות ההפך.

תיעוד ה-Modelfile ב-tag מציג שכבה אחרת. טבלת הפרמטרים מפרטת temperature עם ברירת מחדל 0.8 ו-top_p עם ברירת מחדל 0.9. אלה ערכי הגיבוי שהתיעוד מתאר כשאריזת מודל לא מגדירה כלום. לא עקבתי איך השרת משלב את הערכים הארוזים, ה-Modelfile וערכי הגיבוי, אז אני לא יכול להגיד מי גובר בכל מקרה.

קלט Responses וסירובים

ה-pull request השני, "openai: preserve readable Responses input content", מוזג ב-29 באוקטובר. התיאור שלו מנים שלוש בעיות כשאפליקציה שולחת מחדש היסטוריית שיחה דרך /v1/responses:

  • reasoning ותמונות קריאים בהודעות agent עלולים ללכת לאיבוד.
  • סירוב קודם של assistant עלול לגרום לבקשה להיכשל.
  • תמונה עם file_id בלבד עלולה להידלג בשקט.

התיקון שומר על reasoning קריא, סירובי assistant ותמונות inline. תמונה עם file_id בלבד שלא ניתן לפענח מוחלפת בהודעה מפורשת בקלט של המודל, כך שהשיחה יכולה להמשיך. נתוני תמונה inline תקינים שסופקו לצד file_id משמשים בפועל, ומקורות תמונה חסרים או פגומים מחזירים שגיאות. אותה המרה משמשת גם לבקשות רגילות וגם ל-compaction.

התיעוד ב-tag אומר ש-Ollama תומכת רק בגרסה הלא-stateful של Responses API: בלי previous_response_id ובלי conversation. חלק הענן מוסיף ש-API הענן לא תומך ב-Responses מסוג stateful, בחיפוש-רשת מובנה דרך /v1/responses, או בשידור-חוזר של קריאות כלים מותאמות אישית או freeform. אז אפליקציה ששולחת מחדש את ההיסטוריה שלה היא הדפוס הנתמך.

מגבלת Claude Code, ומספר שלא מתאים

ערות הגרסה אומרות ש-ollama launch claude מחיל עכשיו את מגבלת טוקני הפלט של המודל כך שמודלי ענן כבר לא נתקלים ב"מגבלת ברירת המחדל של 128k". טקסט ה-pull request אומר משהו אחר: ש-Claude הורג את החיבור אחרי 32k כרגע, ושהשינוי מעלה את המגבלה ל-128k טוקני פלט. לא מצאתי איזה מספר הוא ברירת המחדל הישנה. ערת הגרסה ותיאור ה-pull request לא מסכימים, אז תתייחסו לשני המספרים כלא מאומתים.

מה הייתי בודק

אלה הצעות שלא בדקתי.

  • לפני שדרוג, תרשמו בלוג את אפשרויות הדגימה שהלקוחות שלכם באמת שולחים. אם אתם לא שולחים אף אחת, צפו לפלטים שונים אחרי השדרוג.
  • אם אתם צריכים התנהגות הניתנת לשחזור, הגדירו temperature, top_p ו-seed במפורש בלקוח במקום לסמוך על אחת מברירות המחדל.
  • אם אתם שולחים מחדש היסטוריה דרך /v1/responses, הריצו מחדש שיחה שמכילה סירוב קודם על v0.40.13 ועל v0.40.14 והשוו.
  • ב-evals, רשמו את גרסת Ollama לצד תג המודל. שינוי בברירות המחדל של השרת יכול להיראות כמו שינוי במודל.

מה לא הייתי מסיק

  • שכל מודל משתפר או נפגע. השינוי מזיז את ברירת המחדל מ-1.0 לערך הארוז, והערך הזה שונה ממודל למודל.
  • שהדוגמאות מה-pull request תקפות לתג המודל שלכם. לא קראתי את המניפסטים של המודלים.
  • שהמספרים 128k ו-32k סופיים. שני המקורות חולקים זה על זה.

שאלות נפוצות

מה השתנה ב-Ollama v0.40.14?

ערות הגרסה מפרטות שינויים במגבלת ההשקה של Claude Code, בפענוח חיפוש-רשת בענן, בברירות המחדל של דגימה בנקודות התואמות-OpenAI, בטיפול בקלט Responses, בניסיון-חוזר ובבדיקות ניתוב של ChatGPT, ובדגימת top-k על MLX.

האם Ollama עדיין כופה temperature 1.0 על /v1?

לפי ה-pull request, לא. כשלקוח משמיט temperature או top_p, השדות נשארים לא מוגדרים ב-/v1/chat/completions, /v1/completions ו-/v1/responses.

מה קורה אם אני מגדיר temperature ל-0?

ה-pull request אומר שערכים שלקוח שולח עדיין גוברים, כולל 0.

אילו נקודות קצה מושפעות?

ה-pull request מנים את /v1/chat/completions, /v1/completions ו-/v1/responses.

האם /v1/responses תומך בשיחות stateful?

לא לפי התיעוד ב-tag. אין previous_response_id ואין תמיכה ב-conversation.

מה קורה לתמונה שיש לה רק file_id?

לפי ה-pull request, תמונה עם file_id בלבד שלא זמינה מוחלפת בהודעה מפורשת בקלט של המודל, כך ששאר השיחה יכולה להמשיך.

הרצת את זה?

לא. קראתי את ערות הגרסה, ה-pull requests והתיעוד ב-tag. לא התקנתי את Ollama ולא השוויתי פלטים.

מקורות

כולם נקראו ב-4 בנובמבר 2026.

לא נקרא: המניפסטים של המודלים, קוד שרת ה-Go שממזג את האפשרויות הארוזות, ושינויי ה-MLX, חיפוש הענן והאפליקציה מעבר לשורות הגרסה שלהם.

קריאה נוספת

יומן הבנייה

לעקוב אחרי העבודה.

מאמרים ואבטיפוסים חדשים, ישר לקורא ה-RSS שלכם. מנויי המייל בהשהיה זמנית, עד שאחבר שירות משלוח עובד. לא נאסף כאן אימייל.

עקבו ב-RSS