דלגו לתוכן
גיליון 001·חי·20:20 IL
→ יומן/2026-10-20·7 דק׳

Coral NPU משלים את תכנון ה-32-bit שלו: מנוע מטריצות, קומפיילר IREE v1.0 ומה לבדוק לפני שמכוונים אליו

Google Research אומרת שארכיטקטורת Coral NPU של 32-bit הושלמה, עם Matrix Execution Unit של עד 1 TOPS, קומפיילר IREE/MLIR פתוח v1.0 ולוחות Synaptics חדשים. מה הוכרז, מה טענת ספק, ומה לבדוק קודם.

מאת Harel Asaf·בונה בינה מלאכותית·תל אביב

Google Research אומרת שארכיטקטורת Coral NPU של 32-bit הושלמה כעת, ושקומפיילר פתוח ושני לוחות פיתוח זמינים. אם אתם בונים ML על-מכשיר, החלק השימושי הוא טענת הטולצ'יין: נתיב מודל אחד מ-JAX, PyTorch או TensorFlow לכמה שבבים. המספרים הם של גוגל, ולא הרצתי שום דבר מזה.

המאמר הזה מסכם את הפוסט מ-20 באוקטובר, Unifying Edge AI: How Coral NPU's open standard brings portable, energy-viable intelligence from model to silicon. קראתי את טקסט הפוסט. לא פתחתי את ריפוזיטוריי ה-GitHub, דפי הנתונים או עמודי הלוחות, אז פרטי מוצר למטה הם כפי שהפוסט מצהיר עליהם.

מה גוגל אומרת ששוחרר

הפוסט מפרט את אבני הדרך האלה:

  • הארכיטקטורה המלאה של 32-bit. אבני דרך קודמות כיסו frontend סקלרי RISC-V הניתן לתכנות ב-C, מעבד-משנה וקטורי RVV v1.0, ותת-מערכת זיכרון עם נקודה צפה. אבן דרך 4, ה-Matrix Execution Unit, משלימה אותה.
  • Coral Compiler v1.0, בנוי על IREE/MLIR. הוא לוקח מודלים של JAX, PyTorch ו-TensorFlow דרך StableHLO ו-TOSA ליעד Coral NPU.
  • שבבים ולוחות חדשים. סדרת Synaptics Astra SR200 (400 GOPS, דרגת MCU), ערכת פיתוח Coralboard SR חדשה, וזמינות כללית של Coralboard SL (1 TOPS) דרך DigiKey.
  • RTL מלא של 32-bit ב-GitHub, לפי הפוסט.

מנוע המטריצות

לפי הפוסט, ה-Matrix Execution Unit עוקב אחר מפרט RISC-V VME ומשתמש במנוע multiply-accumulate מסוג outer-product שעושה 256 MACs למחזור. הטיעון של גוגל הוא שמנועים וקטוריים מבזבזים אנרגיה על הזזת משקלים ואקטיבציות לחשבון מטריצות, ותכנון outer-product עושה בהם שימוש חוזר ברגיסטרים מקומיים. היא אומרת שהיחידה ניתנת לקונפיגורציה עד 1 TOPS ומכוונת ל-10 mW הספק ממוצע ל-inference.

קראו את נתון ה-10 mW כיעד, שהוא המילה של הפוסט עצמו. זו לא תוצאה נמדדת של חלק שנשלח, והפוסט לא אומר על איזה עומס עבודה זה חל.

טענת הקומפיילר

הקומפיילר מחלק עבודה בין ה-CPU המארח לליבת Coral NPU, ממזג אופרטורים, מחלק מטריצות לאריחים שיתאימו ל-SRAM מקומי ולאוגרים, ומוריד להוראות סקלריות, וקטוריות ומטריצות. גוגל גם מפנה לסימולטור MPACT ולתכנון FPGA ייחוסי כדי שצוותים יכולים לבצע benchmark לפני שקיים סיליקון.

ההבטחה המוצהרת היא "מטבו מודל פעם אחת ופרסו אותו" על פני ספקים ורמות הספק. זו הטענה ששווה לבדוק. קומפיילרים למאיצי edge לרוב נבדלים באילו אופרטורים נופלים חזרה ל-CPU, והפוסט עצמו מכנה את בעיית הנסיגה הזו כמחיר של ה-edge המפוצל.

שותפי חומרה

הפוסט אומר ש-Synaptics משיקה את סדרת SR200 ב-20 באוקטובר, עם IP של Coral NPU דור שני כולל ליבת הווקטור של אבן דרך 2, מכוון ללבישים וחיישנים תעשייתיים. הוא אומר ש-Coralboard SL בנוי על Astra SL2619 עם תת-מערכת של 1 TOPS. הוא מכנה את VeriSilicon למימוש תכנון ואימות, ואת GlobalFoundries על תהליך ה-12LP+ שלה, עם נתונים כמו תזמון ליבה מהיר יותר ב-70% ועד 15% שטח תא-סטנדרטי קטן יותר על פני איטרציות RTL. אני לוקח אותם כמספרים מדווחים של גוגל.

שימו לב שה-SR200 משתמש בתכנון אבן דרך 2 (וקטור), לא ביחידת המטריצות החדשה, לפי הפוסט. קונפיגורציית המטריצות של 1 TOPS היא אפשרות תכנון לצוותי סיליקון.

מה הייתי בודק לפני שמכוונים אליו

אלה הצעות שלי שלא נבדקו.

1. כיסוי אופרטורים. קמפלו את המודל האמיתי שלכם וראו אילו אופרטורים נוחתים על ה-NPU ואילו נופלים חזרה ל-CPU. פלט החלוקה של הקומפיילר אמור להראות את זה.

2. נתיב קוונטיזציה. בדקו איך הטולצ'יין מצפה שתעשו quantize, והאם הדיוק שלכם מחזיק.

3. סימולטור מול לוח. השתמשו ב-MPACT לבדיקות מוקדמות, ואז אמתו חביון והספק על Coralboard אמיתי במקום לסמוך על מספרי יעד.

4. איזה לוח תואם את הטענה. יעדי ה-10 mW ו-1 TOPS שייכים לקונפיגורציות שונות. בחרו את הלוח לפי עומס העבודה שאתם צריכים.

5. גודל מודל. הפוסט מזכיר טרנספורמרים קומפקטיים כמו Gemma כעומס עבודה אפשרי. אמתו התאמת זיכרון על הלוח הספציפי.

6. רישיון ותנאי RTL, אם אתם בצוות סיליקון. לא קראתי אותם.

מה לא הייתי מסיק

  • ש-inference מולטימודאלי מתחת ל-10 mW זמין היום. זה יעד תכנון.
  • ש"מטבו פעם, הריצו בכל מקום" עובד למודל שלכם. זו הטענה לבדיקה.
  • שלפריטי המפת דרכים (ארכיטקטורת 64-bit, תמיכת אבטחת CHERI) יש תאריכים. הפוסט אומר רק שהעבודה מתבצעת.

שאלות נפוצות

מהו Coral NPU?

תכנון יחידת עיבוד עצבי פתוחה מבוססת RISC-V מ-Google Research, עם טולצ'יין קומפיילר פתוח, לפי הפוסט.

מה חדש ב-20 באוקטובר?

הארכיטקטורה המושלמת של 32-bit כולל ה-Matrix Execution Unit, Coral Compiler v1.0, שבבי Synaptics SR200, ה-Coralboard SR, ו-GA של Coralboard SL.

אילו frameworks הקומפיילר מקבל?

JAX, PyTorch ו-TensorFlow, דרך StableHLO ו-TOSA, לפי הפוסט.

כמה מהר הוא?

גוגל אומרת עד 1 TOPS לקונפיגורציית יחידת המטריצות, 400 GOPS ל-SR200 ו-1 TOPS ל-Coralboard SL. אלה נתוני ספק.

כמה הספק הוא צורך?

גוגל מכוונת ל-10 mW הספק ממוצע ל-inference על תכנון יחידת המטריצות. זה יעד.

איפה אפשר לקנות לוח?

הפוסט אומר ש-Coralboard SL זמין דרך DigiKey. לא בדקתי מלאי או מחיר.

מה הלאה?

הפוסט מזכיר ארכיטקטורת Coral NPU של 64-bit ותמיכת CHERI, בלי תאריכים.

מקורות

קריאה נוספת

יומן הבנייה

לעקוב אחרי העבודה.

מאמרים ואבטיפוסים חדשים, ישר לקורא ה-RSS שלכם. מנויי המייל בהשהיה זמנית, עד שאחבר שירות משלוח עובד. לא נאסף כאן אימייל.

עקבו ב-RSS