דלגו לתוכן
גיליון 001·חי·20:20 IL
→ יומן/2026-11-15·9 דק׳

Inkling 2 Small: Thinking Machines משחררת MoE פתוח של 594B פרמטרים שרץ על 17B פעילים

Thinking Machines Lab שחררה את Inkling 2 Small במשקלים פתוחים תחת Apache 2.0: מודל mixture-of-experts מולטימודאלי מלידה עם 594B פרמטרים, 17B פעילים, קונטקסט של מיליון טוקנים, ותוצאות agentic coding שמנצחות את רוב מתחרי ה-flash הפתוחים. אירוח עצמי דורש אשכול GPU; ב-Ollama Cloud הוא עולה 0.30 דולר למיליון טוקני קלט.

מאת Harel Asaf·בונה בינה מלאכותית·תל אביב

Thinking Machines Lab שחררה השבוע את Inkling 2 Small במשקלים פתוחים תחת Apache 2.0, והשם עושה קצת עבודה: המודל הוא mixture-of-experts של 594B פרמטרים שבו רק 17B פרמטרים פעילים לכל טוקן. הוא מולטימודאלי מלידה, קורא טקסט ותמונות, תומך בעד מיליון טוקנים של קונטקסט, ובנוי לקידוד סוכני, מחקר ועבודת ידע. בתוך יומיים מהשחרור הוא היה על Hugging Face, על פלטפורמת Tinker של Thinking Machines עצמה, ועל Ollama Cloud במחיר 0.30 דולר למיליון טוקני קלט ו-1.00 דולר למיליון טוקני פלט, עם קלט מהמטמון ב-0.03.

הגרסה הקצרה לבונים: זו אופציית משקלים פתוחים רצינית בקטגוריית ה-flash, שאומנה מלידה ב-NVFP4, עם מספרי agentic coding שמנצחים את רוב המתחרים הפתוחים בטבלה של הספק עצמו. אבל "Small" לא אומר ידידותי ללפטופ: אירוח עצמי של המשקלים דורש אשכול GPU, אז עבור רוב האנשים נקודת הכניסה המעשית היא API מתארח.

מה המודל בעצם

לפי כרטיס המודל, Inkling 2 Small הוא טרנספורמר decoder-only בן 48 שכבות עם עמוד שדרה של MoE דליל: כל טוקן מנותב ל-8 מתוך 384 מומחים. ה-attention הוא היבריד של שכבות מקומיות וגלובליות. תמונות מקודדות על ידי vision transformer ומעובדות במשותף עם הטקסט במרחב חבוי משותף, אז הראייה מובנית ולא מודבקת. הוא מקבל טקסט ב-UTF-8 ותמונות בכל פורמט פיקסלים, ומייצר טקסט.

שני פרטי נומריקה משנים לפריסה. המודל עבר pretrain, midtrain ו-post-train ב-NVFP4, שהוא הדיוק המקורי שלו, והספק ממליץ על אותו checkpoint לכל שימוש. checkpoint חלופי ב-MXFP8 מרוויח 1 עד 2 נקודות אחוז שוליות ב-evals, ש-Thinking Machines עצמה אומרת שאינם משמעותיים לשימוש מעשי.

הבנצ'מרקים, כולם בדיווח הספק

Thinking Machines מדווחת על 86.3% ב-SWE-bench Pro v2 (Hard), 72.1% ב-DeepSWE v1.1, 85.4 ב-MCP Atlas (מבחן שימוש בכלים), ו-81.6% ב-MMMU Pro להבנה מולטימודאלית. בטבלת ההשוואה שלה מול מודלי flash פתוחים וסגורים, Inkling 2 Small מוביל את קבוצת ה-flash הפתוחה ברוב השורות: DeepSWE 72.1% מול 63.4% ל-GLM-5.3-Flash, אם כי DeepSeek-V4.1-Flash-1017 עוקף אותו בקצה עם 77.0%. במדד הצד-שלישי של Artificial Analysis (v5.0) הוא משיג 30.6, מאחורי DeepSeek-V4.1-Flash עם 32.6 ו-Claude Haiku 5.5 עם 36.5, ולפני GLM-5.3-Flash עם 27.8.

קוראים את זה כמיצוב, לא כפסק דין. הטבלה היא של הספק, גרסאות ה-eval ספציפיות (SWE-bench Pro v2, DeepSWE v1.1 עם mini-swe-agent v2.4.6), ואני לא הרצתי אף אחד מהם.

איך באמת מריצים אותו

ארבע דרכים, לפי כרטיס המודל והרישום ב-Ollama:

  • Hugging Face: משקלים פתוחים בשני checkpoints (NVFP4 ראשי, MXFP8 חלופי), Apache 2.0.
  • Tinker: פלטפורמת ה-fine-tuning של Thinking Machines, גישת API ועוד playground ל-inference בלבד.
  • ספקי inference צד-שלישי, לפי תיעוד השותפים של הספק.
  • Ollama Cloud: ollama run inkling-2-small:cloud, עם פקודות השקה מוכנות ל-Claude Code, OpenCode, Hermes Agent ו-OpenClaw, במחיר 0.30 / 0.03 מהמטמון / 1.00 דולר למיליון טוקנים.

האירוח העצמי הוא הקאץ'. ה-checkpoint ב-NVFP4 דורש לפחות 500GB של VRAM מצטבר, למשל 2x NVIDIA B300 או 4x H200. ה-MXFP8 צריך 800GB, כלומר 4x B300 או 8x H200. ההרצה גם דורשת תשתית serving: SGLang, vLLM, TokenSpeed, Unsloth, או Hugging Face Transformers. במילים אחרות, המשקלים פתוחים במובן הרישיון, לא במובן של רץ-על-המכונה-שלך.

סעיף הבטיחות שווה קריאה

עבודת הבטיחות בכרטיס המודל ספציפית באופן חריג לשחרור פתוח: red-teaming חיצוני רב-שיחתי על דפוסי סycophancy, מניפולציה מזיקה ותלות פאראסוציאלית; uplift של CBRN וסייבר שנבדק עם וריאנטים מושתתי-סירוב כדי להעריך יכולת סמויה; ו-evals של אובדן שליטה שמכסים יכולת סוכנית, הונאה אסטרטגית ופוטנציאל סבוטאז', שבהם הספק מדווח שהמודל נמוך באופן מהותי מיכולות החזית. המסקנה שלהם: אין uplift מהותי מעבר למה שכבר קיים באקוסיסטם של המשקלים הפתוחים.

הם עדיין ממליצים על פיקוח אנושי לתוצרים בסיכון גבוה, אמצעי בטיחות ברמת האפליקציה כמו סינון תוכן והגבלת קצב, והימנעות מפריסה רפואית, משפטית או קריטית-לבטיחות בלי fine-tuning ואימות ייעודיים.

מה הייתי בודק

ההצעות הלא-נבדקות שלי לפני אימוץ:

  • לנסות קודם את נתיב Ollama Cloud ליום עבודה אמיתי; במחירים האלה הניסוי כמעט חינם, ופקודת ההשקה ל-Claude Code הופכת את זה להחלפה של שורה אחת.
  • אם שימוש בכלים חשוב לך, לתת משקל ל-MCP Atlas (85.4) יותר מבנצ'מרקים גנריים של צ'אט; זה המספר הכי קרוב לעומסי סוכנים בטבלה של הספק.
  • לאמת את סיפור איכות ה-NVFP4 על המשימות שלך לפני שמניחים שה-checkpoint הזול שקול; הספק אומר שהרווח של MXFP8 חסר משמעות, אבל ה-eval שלך הוא זה שקובע.
  • אם ציות משנה בארגון, לקרוא את סעיף נתוני האימון: המקורות כוללים אינטרנט ציבורי, רכישות מצד שלישי, נתונים פנימיים וסינתטיים, עם dedup וסינון מתוארים אבל בלי מניפסט דאטהסטים.
  • לתקצב את מציאות האשכול לפני שמבטיחים למישהו פריסה self-hosted; 500GB VRAM זו שיחת רכש, לא פרויקט סוף שבוע.

מה לא הייתי מסיק

לא להסיק ש-"Small" אומר קטן; 594B פרמטרים כוללים זה מודל גדול עם דפוס הפעלה דליל, ודרישות האירוח העצמי תואמות את זה. לא להתייחס לטבלת הבנצ'מרקים של הספק כניטרלית; היא מאורגנת יפה אבל עדיין בחירה של הספק של evals ומתחרים. לא להניח שמשקלים פתוחים אומר שימוש בלתי מוגבל בכל הקשר; הרישיון הוא Apache 2.0, אבל הנחיות הפריסה של הספק עצמו מוסיפות ציפיות פיקוח לתחומים בסיכון גבוה. ולא לקרוא את מסקנת הבטיחות כביקורת חיצונית; ה-red-teaming הוזמן על ידי הספק.

שאלות נפוצות

מה זה Inkling 2 Small?

מודל מולטימודאלי כללי של Thinking Machines Lab: 594B פרמטרים כוללים בעיצוב mixture-of-experts עם 17B פעילים לטוקן, מיליון טוקנים של קונטקסט, קלט טקסט ותמונה, ששוחרר במשקלים פתוחים תחת Apache 2.0.

האם Inkling 2 Small באמת קוד פתוח?

המשקלים זמינים להורדה מ-Hugging Face תחת רישיון Apache 2.0, שמאפשר שימוש מסחרי, fine-tuning והפצה מחדש. נתוני האימון והקוד לא שוחררו, אז אלו משקלים פתוחים ולא קוד פתוח מלא.

אפשר להריץ את Inkling 2 Small מקומית?

רק עם חומרה רצינית: ה-checkpoint המקורי ב-NVFP4 דורש לפחות 500GB של VRAM מצטבר (למשל 2x B300 או 4x H200), ווריאנט ה-MXFP8 צריך 800GB. רוב המפתחים ישתמשו במקום זאת ב-API מתארח.

כמה עולה הגרסה המתארחת?

ב-Ollama Cloud הרישום הוא 0.30 דולר למיליון טוקני קלט, 0.03 לקלט מהמטמון, ו-1.00 דולר למיליון טוקני פלט. הוא זמין גם דרך פלטפורמת Tinker של Thinking Machines וספקי inference צד-שלישי.

כמה הוא טוב בקידוד?

לפי הספק: 86.3% ב-SWE-bench Pro v2 (Hard) ו-72.1% ב-DeepSWE v1.1, תחרותי בתוך קטגוריית ה-flash אבל מאחורי DeepSeek-V4.1-Flash בחלק מהשורות. אלו מספרים בדיווח הספק על גרסאות eval ספציפיות; אימות עצמאי לא היה זמין בעת השחרור.

האם הוא תומך בראייה?

כן, מלידה. תמונות מקודדות עם vision transformer ומעובדות במשותף עם טקסט. הספק מונה קריאת מסמכים, תרשימים, צילומי מסך, OCR וחשיבה ויזואלית, עם 81.6% ב-MMMU Pro.

מה מצאה הערכת הבטיחות?

הספק מדווח על הערכות לדפוסי סycophancy ומניפולציה, uplift של CBRN וסייבר, וסיכוני אובדן שליטה, ומסיק שהמודל נמוך באופן מהותי מיכולות החזית ולא מוסיף uplift מהותי מעבר לאקוסיסטם הקיים של המשקלים הפתוחים. הם עדיין ממליצים על פיקוח אנושי ואמצעי בטיחות ברמת האפליקציה בפריסה.

מקורות

דיווח משני אחד טען שהמשקלים סגורים; כרטיס המודל של הספק והרישום ב-Hugging Face שניהם מאשרים משקלים פתוחים תחת Apache 2.0, אז הטענה שגויה. כל מספרי הבנצ'מרק בדיווח הספק; לא הרצתי את המודל. טענת zero-data-retention שהסתובבה בכיסוי הניוזלטרים לא אומתה מהמקורות הראשיים והושמטה.

קריאה נוספת

  • LongCat-2.5: Meituan משחררת מודל סוכנים של 1.6T פרמטרים ברישיון MIT, מאומן ומוגש בלי Nvidia

    צוות LongCat של Meituan שחרר את המשקלים של LongCat-2.5: מודל mixture-of-experts עם 1.6 טריליון פרמטרים, כ-48B פעילים לטוקן, הבנת תמונה מלידה, קונטקסט של 512K טוקנים ורישיון MIT. האימון והפריסה הרפרנסית רצים כולם על מאיצים סיניים מקומיים, עם quantization של W4A4 INT4 שלטענת הצוות משמר דיוק קרוב למלוא הדיוק. בבנצ'מרקים של היצרן הוא קרוב ל-Claude Opus 5 בקידוד סוכנתי, ומתחתיו במשימות terminal. אירוח עצמי דורש אשכול רציני.

  • Gemini 4 Hydrogen: מודל הביצוע המהיר של גוגל זול מ-Argon וגם מנצח אותו במדד

    גוגל השיקה את Gemini 4 Hydrogen ב-12 בנובמבר: מודל מהיר לקידוד יומיומי ולזרימות סוכנים שמשיג 51 במדד האינטליגנציה של Artificial Analysis ברמת החשיבה המוגדרת כברירת מחדל, מעל 50 של Gemini 4 Argon, במחיר 1.50 דולר למיליון טוקני קלט ו-7.50 דולר למיליון טוקני פלט. מה סולם שלושת המודלים של Gemini 4 אומר, איך Orchestrator מחלק עבודה ב-Antigravity, ומה כדאי לבדוק.

  • Gemini 4 Carbon ב-GA: מה מפתחים משלמים מקבלים היום, וקפיצת המחיר של ה-30 בנובמבר

    גוגל הפכה את Gemini 4 Carbon לזמין לכלל ב-10 בנובמבר: גישת API בתשלום ב-AI Studio וב-Gemini for business, תצוגת מקדימה של /swarm רב-סוכנית ב-Antigravity, גישת סייבר דרך Fairwind, ותמחור מבוא שמוכפל אחרי ה-30 בנובמבר 2026. מה השתנה מאז ההכרזה באוקטובר, מה גוגל טוענת, ומה לוודא בעצמכם.

יומן הבנייה

לעקוב אחרי העבודה.

מאמרים ואבטיפוסים חדשים, ישר לקורא ה-RSS שלכם. מנויי המייל בהשהיה זמנית, עד שאחבר שירות משלוח עובד. לא נאסף כאן אימייל.

עקבו ב-RSS