Google TPU 8tx ו-8i Max: הסקה מסווגת וקונטקסט של מיליון טוקנים מקבלים מערכות ייעודיות
גוגל הכריזה על TPU 8tx ו-TPU 8i Max ב-9 בנובמבר והשלימה ארבע מערכות TPU מהדור השמיני בשנה אחת: 8t לאימון, 8i להיגיון, 8tx להסקה מסווגת ברמת החומרה, ו-8i Max לחלונות קונטקסט ענקיים. מה כל מערכת עושה, סטאק התוכנה הפתוח סביבן, ומה עדיין לא הוכרז.
גוגל הכריזה על TPU 8tx ו-TPU 8i Max ב-9 בנובמבר, והשלימה את תיק ה-TPU מהדור השמיני לארבע מערכות בשנה אחת. החלוקה מספרת לאן ביקוש התשתית ל-AI הולך: TPU 8tx בנוי להסקה מסווגת, שמירת נתונים ומשקלי מודל מוצפנים ברמת החומרה גם בזמן שימוש, ו-TPU 8i Max מכפיל את החישוב, ה-SRAM ורוחב הפס של ה-HBM של TPU 8i על ידי צימוד שני שבבים על מארז אחד, ומכוון לעומסי סוכנים שמסיקים על קונטקסטים של מיליון טוקנים. לצד החומרה, גוגל פתחה בקוד פתוח את TorchTPU (קוד PyTorch רץ natively על TPUs, בלי שכתוב), את TPU Sync (שכבת מצב-מודל שלדבריה חותכת את זמן ההשהיה של העברת KV ואת הזמן לטוקן ראשון ביותר מ-90%), וחבילת סוכנים שמאוטמתת onboarding ל-TPU מתוך Claude Code, Cursor ו-Antigravity. תמחור ותאריכי זמינות לשתי המערכות החדשות לא היו בהכרזה.
מה שוגר
לפי ההכרזה של גוגל מאת Amin Vahdat, סגן נשיא וטכנולוג ראשי ל-AI ותשתיות:
- TPU 8tx: מותאם להסקה מאובטחת ומסווגת ולאימון בקנה מידה קטן. בנוי על אותו סיליקון כמו TPU 8t עם מארחי AMD EPYC מהדור החמישי, הוא שומר על נתונים רגישים ומשקלי מודל מוגנים ומבודדים גם בזמן עיבוד פעיל. הוא משתמש ברשת Boardfly בעלת ההשהיה הנמוכה, ומספק עד פי 2 פחות השהיה מ-TPU 8t במה שגוגל מכנה קנס ביצועים כמעט-אפסי.
- TPU 8i Max: שני שבבי TPU 8i על מארז אחד, הכפלת החישוב, ה-SRAM ורוחב פס ה-HBM על פני TPU 8i, עם כפול סיליקון באותו שטח מתלה קיים. הוא מכוון לקיר הזיכרון שמופיע כשהרבה סוכנים עובדים על בסיס קוד שלם או שעות של וידאו בו-זמנית.
- מערך הדור השמיני המלא ממופה עכשיו לשלבי מחזור החיים הסוכני: 8t לאימון scale-up, 8i להיגיון בהשהיה נמוכה, 8tx למחשוב מסווג, ו-8i Max לחלונות קונטקסט ענקיים וצפיפות החישוב הגבוהה ביותר לכל מתלה.
- מספרי בסיס מאפריל לדור הזה: TPU 8t מציע עד פי 2.7 ביצועי אימון טובים יותר ו-TPU 8i עד 80% תמורת-מחיר הסקה טובה יותר מול הדור הקודם. גוגל אומרת ש-TPUs הם עכשיו עסק עם כמעט 100 לקוחות, כולל מעבדות חזית, חברות מסחר, קמעונאים ואוניברסיטאות, ושלקוחות יכולים לפרוס TPUs בחוות השרתים שלהם.
למה ההתמחות משנה
פילוסופיית התכנון שגוגל מתארת היא "לבנות את המחשב סביב השבב": לשמור על הסיליקון מודולרי, ואז לגוון אריזה, זיכרון, רשת ואבטחה סביבו כדי לשגר מערכות חדשות תוך חודשים במקום מחזור רב-שנתי של שבב חדש. ככה דור אחד הפיק ארבע מערכות בשנה.
שתי המערכות החדשות ממופות לשני האילוצים שעומסים סוכניים באמת פוגעים בהם. ראשית, קונטקסט: סוכנים שקוראים מאגרים שלמים או וידאו ארוך חסומים על ידי רוחב פס זיכרון, לא חישוב גולמי, אז 8i Max מגדיל את שניהם בצעדים שווים. שנית, אמון: ארגונים מוסדרים וממשלות רוצים מודלי חזית וסוכנים אוטונומיים ליד הנתונים הכי רגישים שלהם, והצפנה רגילה משאירה נתונים חשופים בזיכרון בזמן העיבוד. 8tx מעביר את ההגנה הזו לתוך החומרה. כיוון ש-8tx משלב חישוב ברמת אימון עם רשת הסקה מהירה, גוגל אומרת שמערכת אחת יכולה לכוונן על נתונים פרטיים, לזקק מודלים גדולים לקטנים, ולאמן סוכנים בלמידת חיזוקים בלי להזיז נתונים בין אשכולות.
סטאק התוכנה הוא המכירה האמיתית
החומרה היא רק חצי מההכרזה. החצי השני הוא גוגל שמסירה באופן שיטתי את הסיבות שמפתחים נמנעו מ-TPUs:
- TorchTPU, ששוחרר בקוד פתוח בחודש שעבר, מריץ קוד PyTorch ומודלים של Hugging Face natively על TPUs בלי שכתוב, לצד backends של TPU ל-vLLM ול-SGLang.
- חבילת סוכני TPU חדשה בקוד פתוח, עכשיו בתצוגה מקדימה, מתחברת לכלי קידוד כולל Claude Code, Cursor ו-Google Antigravity כדי לאוטמט onboarding ל-TPU, לאבחן צווארי בקבוק ולכוונן kernels מותאמים בשפה פשוטה. הפרט הבולט: סוכני ה-onboarding של גוגל עצמה חיים בתוך עוזרי קידוד של צד שלישי.
- ה-XLA Serving Engine בקוד פתוח נותן לצוותים לאמן ב-Python ולשרת מ-runtime של C++ בהשהיה נמוכה על פני TPUs, GPUs ו-CPUs.
- TPU Sync, ששוחרר עכשיו בקוד פתוח, הוא שכבת מצב-מודל שהופכת HBM של שבב, DRAM של מארח, אחסון משותף והרשת להיררכיית זיכרון אחת: הדראת KV caches מחוץ לשבב באלפיות שנייה, הזרמת קונטקסט על פני צמתי prefill ו-decode מופרדים, וסנכרון משקלי RL. גוגל טוענת שהוא חותך את השהיית העברת KV ואת TTFT ביותר מ-90%.
- Agent Compute Engine מושעה ומחדש אוטומטית סשנים של סוכנים חורשים, ותוקף את העלות של סוכנים שיושבים מושהים ומחכים לכלים, בסיסי נתונים או בני אדם.
- Cloud Pathways זמין כעת לכלל ב-GKE, ומביא את ה-runtime של DeepMind שמאחורי Gemini ללקוחות לתזמור מערכות TPU רב-slice. גם GKE dynamic slicing ב-GA, ומשתמש במיתוג אופטי כדי להרכיב או לחלק טופולוגיות TPU לפי דרישה; גוגל טוענת לעד פי 5 התחלת עבודות מהירה יותר ו-4.5 התאוששות מתקלות מהירה יותר.
- ב-benchmarks התעשייתיים InferenceX ו-AgentX, גוגל אומרת שסטאק ה-vLLM-TorchTPU שלה על TPUs השיג תמורת-מחיר מהשורה הראשונה. אלה תוצאות שדווחו על ידי הספק; מספרים עצמאיים יספרו.
מה אני הייתי בודק
ההצעות שלא נבדקו שלי לפני שמתכננים סביב זה:
- לאשר זמינות ותמחור ל-8tx ול-8i Max ישירות מול Google Cloud; להכרזה אין לא את זה ולא את זה, ו"הוכרז" הוא לא "ניתן להזמנה".
- אם הסוכנים שלכם נתקעים על קונטקסטים של מיליון טוקנים, לפרופל אם אתם חסומי רוחב-פס-זיכרון לפני שמניחים ש-8i Max הוא התיקון; אותו פוסט משגר גם את TPU Sync, שתוקף את צוואר הבקבוק בתוכנה על חומרה קיימת.
- למחשוב מסווג, להשוות את 8tx מול אפשרויות מחשוב-מסווג מבוססות GPU על מודל האיומים ותקציב ההשהיה שלכם; גוגל טוענת לעד פי 2 פחות השהיה מ-8t, לא מול השדה.
- לבדוק את מסלול TorchTPU על מודל אמיתי לפני שמתחייבים; טענות "בלי שכתוב קוד" ראויות ל-benchmark על קוד ה-PyTorch שלכם.
- אם הסוכנים שלכם חורשים בהמתנה לכלים, להסתכל על suspend-resume של Agent Compute Engine לפני שקונים קיבולת נוספת.
מה לא הייתי מסיק
לא להסיק שהמערכות האלה זמינות לכלל: הפוסט מכריז עליהן ומפנה לשידור השקה, אבל לא מפרט תאריכים או מחירים. לא להתייחס לתוצאות InferenceX ו-AgentX כעצמאיות; אלה הרצות של גוגל עצמה על benchmarks תעשייתיים. לא לקרוא "קנס ביצועים כמעט-אפסי" למחשוב מסווג כאפס; להשיג את המספר לעומס שלכם. ולא להניח שתיק הדור השמיני מחליף GPUs בסטאק של גוגל עצמה; ה-XLA Serving Engine משרת במפורש על פני TPUs, GPUs ו-CPUs.
שאלות נפוצות
מה זה TPU 8tx ו-8i Max?
שתי מערכות TPU חדשות מהדור השמיני שגוגל הכריזה ב-9 בנובמבר. TPU 8tx בנוי להסקה מסווגת עם הגנה ברמת חומרה על נתונים ומשקלי מודל בזמן שימוש. TPU 8i Max משלב שני שבבי TPU 8i על מארז אחד לכפול חישוב, SRAM ורוחב פס HBM, ומכוון לחלונות קונטקסט ענקיים.
כמה מערכות TPU יש בדור השמיני?
ארבע, כולן הוכרזו בתוך שנה אחת: 8t לאימון בקנה מידה גדול, 8i להיגיון בזמן אמת, ועכשיו 8tx למחשוב מסווג ו-8i Max לעומסי קונטקסט גבוהים.
מה זה הסקה מסווגת?
בדרך כלל נתונים מוצפנים במנוחה ובמעבר אבל חשופים בזיכרון בזמן עיבוד. TPU 8tx בונה את ההגנה לתוך שכבת החומרה כך שנתונים רגישים ומשקלי מודל נשארים מבודדים גם בזמן שהמודל משתמש בהם באופן פעיל, ומכוון לארגונים מוסדרים וממשלות.
האם קוד PyTorch יכול לרוץ על TPUs עכשיו?
גוגל פתחה את TorchTPU בקוד פתוח בחודש שעבר ואומרת שקוד PyTorch ומודלים של Hugging Face רצים עכשיו natively על TPUs בלי שכתוב, עם backends של TPU ל-vLLM ול-SGLang. כמו כל טענת ניידות, לוודא על הקוד שלכם.
מה זה TPU Sync?
שכבת מצב-מודל בקוד פתוח שמאחדת HBM של שבב, DRAM של מארח, אחסון משותף והרשת להיררכיית זיכרון אחת לאשכולות TPU. גוגל אומרת שהיא מדרתת KV caches מחוץ לשבב באלפיות שנייה וחותכת את השהיית העברת KV ואת הזמן לטוקן ראשון ביותר מ-90%.
מתי אפשר לקנות TPU 8tx או 8i Max, וכמה הם עולים?
להכרזה אין תאריכי זמינות או תמחור לשתי המערכות החדשות. זו השאלה הפתוחה העיקרית לקחת ל-Google Cloud.
האם טענות הביצועים עצמאיות?
לא. נתוני ההשהיה, תמורת-המחיר וה-benchmarks בהכרזה הם של גוגל עצמה, כולל ההרצות שלה על benchmarks התעשייתיים InferenceX ו-AgentX. הערכות עצמאיות עדיין לא הופיעו.
מקורות
- Introducing TPU 8tx and TPU 8i Max | Google Blog - 9 בנובמבר 2026, נקרא ב-11 בנובמבר 2026. ההכרזה, תיאורי המערכות, טענות ההשהיה והביצועים, סטאק התוכנה (TorchTPU, חבילת סוכני TPU, XLA Serving Engine, TPU Sync, Agent Compute Engine, Cloud Pathways, dynamic slicing), ומספר הלקוחות.
- ניוזלטר TLDR AI, 10 בנובמבר 2026 - הטיפ שהעלה את ההכרזה.
לא נקרא: מאגרי TPU Sync ו-TorchTPU, ההגשות ל-benchmarks InferenceX ו-AgentX, ושידור ההשקה. תמחור וזמינות למערכות החדשות לא הוכרזו; כל נתוני הביצועים הם של גוגל עצמה.
קריאה נוספת
- Meta Muse Ember: מודל היגיון ב-$0.10 למיליון טוקנים שבנוי לשכבת תת-המשימות של סוכנים
מטא שחררה את Muse Ember ב-9 בנובמבר: מודל היגיון קטן לקריאות כלים, תת-משימות קידוד וניתוח מסמכים, במחיר $0.10 למיליון טוקנים קלט עם חלון קונטקסט של מיליון טוקנים. מטא טוענת לרמת אינטליגנציה של Haiku 5.5 בשליש מהעלות. המספרים, הסייגים, ומתי מודל סאב-סוכן זול הגיוני.
- Claude Fable 5.2 ו-Mythos 5.2: דגמי השיא של Anthropic זולים יותר, מהירים ב-30%, ועם מצב מהיר פי 2.5
Anthropic שחררה את Claude Fable 5.2 ו-Mythos 5.2 ב-9 בנובמבר: אותו מודל בסיסי, $8/$40 למיליון טוקנים, מצב מהיר אופציונלי פי 2.5, ו-benchmarks שמובילים על Opus 5.5 בערך בחצי מהעלות לכל משימה. מה שוגר, מתי להשתמש, והקאצ'ים.
- ממצאי זיכרון הסוכנים של Anthropic: פתק שגוי אחד יכול ללולא את הסוכן שלכם, ו-'חלימה' מתקנת את זה
Anthropic פרסמה איך היא בונה זיכרון לסוכני Claude: היררכיית ארבע שכבות, מעברי 'חלימה' לא מקוונים שמתקנים פתקים מול התמלילים, והערכות שמראות שפתק שגוי אחד לכד סוכן בלולאה. הכללים המעשיים לכל מי שבונה זיכרון לסוכנים.
יומן הבנייה
לעקוב אחרי העבודה.
מאמרים ואבטיפוסים חדשים, ישר לקורא ה-RSS שלכם. מנויי המייל בהשהיה זמנית, עד שאחבר שירות משלוח עובד. לא נאסף כאן אימייל.
עקבו ב-RSS