דלגו לתוכן
גיליון 001·חי·20:20 IL
→ יומן/2026-09-09·8 דק׳

אימות סוכני AI: למה הבודק מנצח את המודל

Claude כתב הוכחה של 13 מיליון שורות ב-11 ימים ואף אחד לא קרא אותה. אימות סוכני AI, לא יכולת המודל, הוא מה שהופך פלט אוטונומי לנכס.

מאת Harel Asaf·בונה בינה מלאכותית·תל אביב

מאת הראל אסף · פורסם 9 בספטמבר 2026 · עודכן 25 באוקטובר 2026

תשובה קצרה: אימות סוכני AI הוא בדיקה מכנית על פלט של סוכן שרצה בלי שבן אדם קורא אותו. בספטמבר 2026, Anthropic פרסמה הוכחה ש-Claude הפיק לאורך 11 ימים ללא פיקוח, 13 מיליון שורות Lean, ואף אחד לא קרא אותה. Lean בדק אותה. הבדיקה הזו, לא המודל, היא מה שהפך שישה מיליארד טוקנים של עבודה אוטונומית למשהו שאיש מקצוע היה חותם עליו.

TL;DR

  • Claude כתב הוכחה מחושבת-בדיקה של המשפט האחרון של פרמה ב-11 ימים: 13 מיליון שורות Lean, 30,300 משפטי ביניים, בערך שישה מיליארד טוקני פלט, עם הכוונה אנושית מדי פעם של שורה אחת בלבד.
  • אף בן אדם לא קרא את ההוכחה. Lean אימת אותה מול שלושה אקסיומות סטנדרטיות. הבודק הוא מה שהפך את הארטיפקט לאמין.
  • OpenAI גילתה שארגון המחקר שלה משתמש עכשיו ב-3.1 ימי עבודת סוכן לכל יום עבודה אנושי, ושיותר ממחצית משימות הסוכן המוצלחות של ארבע עד שמונה שעות עדיין הזדקקו להתערבות אנושית.
  • Meta הדגימה prompt injection מבוסס תמונה שמגיע למעל 80% הצלחת תקיפה על מודלים במשקל פתוח ו-47% על GPT-5.5, ויכול לדרוס את מניפסט הכלים של סוכן בפריסת ברירת מחדל.
  • בקריאה משולבת: היכולת עולה על עקומה גלויה, האימות עולה על עקומה שכמעט אף אחד לא מממן, והאימות הוא זה שמחליט אם משהו מכל זה יוצא לאוויר.

אופק האוטונומיה קפץ לאחד-עשר ימים בספטמבר 2026. שכבת האימות של רוב הצוותים לא זזה בכלל.

אנדרו ויילס פרסם את הוכחתו למשפט האחרון של פרמה ב-1995. היא הגיעה ל-129 עמודים. כמה מתמטיקאים בילו חודשים בבדיקתה, וחודשיים לתוך המאמץ ההוא בוחן מצא פער רציני מספיק כדי שוויילס כמעט נטש את הפרויקט. בספטמבר 2026, Anthropic פרסמה הוכחה מחושבת-בדיקה של אותו משפט ש-Claude הפיק ב-11 ימים, תוך ריצה ברובה עצמאית. זו 13 מיליון שורות קוד Lean. אף אחד לא קרא אותה.

אף אחד לא היה צריך.

מה שלושת המעבדות באמת פרסמו?

שלוש מעבדות פרסמו באותו שבוע, ובקריאה משולבת הן מתארות בעיה אחת משלושה צדדים.

לפי "Formalizing Fermat's Last Theorem" של Anthropic, צוות של סוכני Claude כתב 13 מיליון שורות Lean על פני 11 ימים, הוכיח 30,300 משפטי ביניים והשתמש ב-29,500 מהם בהוכחה הסופית. כל העניין צרך בערך שישה מיליארד טוקני פלט. הקלט האנושי היה דל: הכוונה מדי פעם של שורה אחת מהחוקר Tianyi Peng, דברים כמו "push Mazur to be done soon." הארטיפקט המוגמר נבדק על ידי Lean תוך שימוש רק בשלושת האקסיומות הסטנדרטיות שלו, ומשווה נפרד אישר שהצהרת המשפט תאמה את זו של Mathlib.

Kevin Buzzard, שמוביל את מאמץ הפורמליזציה הקהילתי באימפריאל קולג' לונדון וסקר את ההוכחה, שם את המשמעות במקום הנכון:

"הטכניקות גם יאפשרו לנו לבדוק בקפדנות מתמטיקה שנוצרת על ידי LLM, שהיא כיום בדרך כלל תהליך יקר מאוד בהובלת אדם."

זו התוצאה האמיתית. לא ש-AI עשה את המתמטיקה. שמכונה בדקה אותה.

OpenAI פרסמה את המספרים שלה יומיים אחר כך, והם הגילוי הכנה ביותר של כלכלה פנימית של סוכנים שמישהו שחרר. מתוך "Research acceleration: The view inside OpenAI":

"במונחים של יום עבודה סטנדרטי של 8 שעות, נכון לאמצע אוגוסט, בסך הכל, ארגון המחקר משתמש ב-3.1 ימי עבודת סוכן של מאמץ לכל יום עבודה של עבודה אנושית."

חוקר החציון ב-OpenAI שורף עכשיו יותר מ-$600 ביום באינפרנס במחירי API. האחוזון ה-90 שורף יותר מ-$7,000. ובאותו פוסט, קבור מתחת לגרפי הצמיחה, יושב המספר שמשנה יותר: יותר ממחצית משימות הסוכן המוצלחות של ארבע עד שמונה שעות בשישה החודשים האחרונים דרשו לפחות התערבות אנושית אחת. אוטונומיה בסולם עדיין רצה על היגוי.

ואז Meta פרסמה את משטח התקיפה. "Repeat-After-Me: Black-Box Adaptive Visual Prompt Injection" מדגים הזרקה מבוססת תמונה שמגיעה לשיעורי הצלחת תקיפה מעל 80% על מודלים במשקל פתוח ו-47% על GPT-5.5, בסביבה ריאליסטית שבה הפרומפט של המשתמש עצמו מעולם לא מרשה את המשימה המוזרקת. מבחן השדה של המאמר הוא החלק שצריך לעצור סקירת אבטחה:

"בפריסת ברירת מחדל של OpenClaw Discord, משתמש לא מהימן יכול להשתמש בתמונה מוזרקת מינימלית כדי לדרוס את TOOLS.md, מה שמאפשר התנהגויות רגישות עתידיות כמו הרצת קוד מרחוק ושאיבת סודות."

תמונה. לא פרומפט jailbreak. תמונה שמישהו מפרסם בערוץ.

מה זה אומר לצוותים שבונים עם סוכנים היום?

לשלושת המאמרים יש עמוד שדרה משותף. אוטונומיית סוכנים נמדדת עכשיו בימים, המעבדות שמריצות את הסוכנים האלה כנות שזה עובד, והמקום היחיד שבו עבודה רב-יומית ללא פיקוח באמת מהימנה הוא המקום היחיד שבו מכונה יכולה לבדוק את הפלט.

Lean הוא לא מסגרת ממשל. הוא קומפיילר. לא אכפת לו ש-Claude כתב את ההוכחה, הוא לא מדרג מאמץ, ואי אפשר להתווכח איתו. הוא או מקבל את הארטיפקט או דוחה אותו. התכונה הזו, ולא יכולת המודל, היא מה שהפך 13 מיליון שורות לא נקראות למשהו ש-Kevin Buzzard יכול לתמוך בו בפומבי.

לרוב עבודת ה-AI הארגונית אין Lean. סיכום חוזה, מאקרו תמיכה, המלצת תמחור, תדריך שיווקי: לאף אחד מאלה אין קומפיילר. אז צוותים מחליפים בסקירה אנושית, ואז מגלים שסקירה אנושית לא מתרחבת עם יחס סוכן-לאדם של 3.1 ל-1. אי אפשר לקרוא כל מה שסוכן מפיק ברגע שהסוכן מפיק שלושה ימי עבודה לכל יום שלך. זהו צוואר הבקבוק האמיתי, והוא הגיע מהר יותר ממה שרוב מפות הדרכים הניחו.

המהלך המעשי הוא להפסיק לשאול "האם הסוכן יכול לעשות את זה?" ולהתחיל לשאול "מה הבדיקה הדטרמיניסטית הזולה ביותר על הפלט הזה?" לפעמים יש אחת מסתתרת במקום גלוי. אימות סכמה על חילוץ מובנה. סוויטת בדיקות על קוד שנוצר. שאילתת התאמה על נתון פיננסי. בדיקת שליפה שכל סעיף מצוטט באמת קיים במסמך המקור. אלה לא זוהרים, והם ההבדל בין סוכן שאפשר להשאיר רץ לדמו שצריך לבייביסיט.

זו אותה מסקנה שהגעתי אליה בבניית מערכות מרובות-סוכנים שמריצות את עצמן, וזו הסיבה שהמודל החכם ביותר הוא לא מה שהופך סוכני AI למהימנים.

מה אימות עדיין לא מתקן?

פורמליזציה עבדה ל-FLT כי מתמטיקה היא התחום הנדיר שבו אמת ניתנת למיכון מלא. רוב הפלטים העסקיים לא כאלה. אין קומפיילר ל"האם זה הטון הנכון ללקוח הזה" או "האם עמדת החוזה הזו מתאימה לתיאבון הסיכון שלנו". Anthropic זהירה לגבי זה בפוסט עצמו, ומציינת שהוכחה פורמלית לא צריכה להחליף הצגה מובנת-לאדם. אימות ושיקול דעת הם עבודות שונות.

מאמר Meta סוגר את הלולאה בצורה לא נוחה. ברגע שבונים את הבודק, הבודק הופך למטרה. תמונה מוזרקת שמשכתבת מניפסט כלים היא תקיפה על שכבת הבקרה, לא על המודל. הדיווח של Anthropic עצמה על מאמץ ה-FLT כולל פרט ששווה לשבת איתו: הרצות סוכן מוקדמות איבדו מעקב אחר מצב הפרויקט והפסיקו לשתף פעולה, והמאמצים הכושלים האלה עדיין תרמו כ-7% מהשורות הלא-סטנדרטיות בהוכחה הסופית. עבודה כושלת שורדת לארטיפקט. היא נשארה בטוחה רק כי Lean בדק את הכל בסוף במקום לסמוך על התהליך שהפיק אותה.

זה עקרון עיצוב, לא אזהרה. אמתו את הפלט, לא את הכוונה. כוונה ניתנת להזרקה.

יש גם שכבה אנושית שזה לא נוגע בה. פלט מאומת עדיין נוחת מול בוחן שצריך להחליט אם זה היה הפלט הנכון להפיק בכלל, והקריאה הזו רצה על ידע תחום שאף בודק לא מחזיק, וזו הסיבה שמומחיות תחום היא מה שגורם לסוכני AI לעבוד באמת.

המבט של הפרקטישנר

אני בונה מערכות מרובות-סוכנים שבהן הסוכנים כותבים למצב משותף, והכשל שאני ממשיך להיתקל בו הוא לא שמודל טועה. זה ששום דבר במורד הזרם לא מבחין. סוכן מפיק משהו סביר, סוכן אחר צורך אותו, ועד שבן אדם מסתכל, ארבעה צעדים התמנפחו על קלט גרוע. להוסיף מודל חכם יותר לא עוזר. להוסיף בדיקה עוזר.

תוצאת ה-FLT היא ההוכחה הברורה ביותר עד כה שזה כל המשחק. שישה מיליארד טוקנים של עבודה ללא פיקוח הפכו אמינים בצעד קומפילציה אחד. הוציאו את צעד הקומפילציה וזה 13 מיליון שורות שאף אחד אף פעם לא היה קורא, שהופקו על ידי תהליך שכלל הרצות כושלות ומצב אבוד. אותם טוקנים, נכס שונה לחלוטין. הבודק הוא לא תקורה על המערכת. הבודק הוא מה שהופך את המערכת לנכס.

החוט המקשר את שבוע המחקר ההוא בספטמבר: Anthropic הראתה מה אוטונומיה מפיקה כשקיים מאמת. OpenAI הראתה כמה אוטונומיה עולה וכמה פעמים היא עדיין צריכה יד אנושית על ההגה. Meta הראתה מה קורה לשכבה שבנית כדי לשמור עליה כנה. בקריאה ברצף, הם אומרים את אותו דבר. היכולת עולה על עקומה שכולם יכולים לראות. האימות עולה על עקומה שכמעט אף אחד לא מממן, והוא זה שקובע אם משהו מכל זה יוצא לאוויר.

מונחים מרכזיים מוסברים

מונחמה זה אומר בשפה פשוטה
אימות סוכני AIבדיקה מכנית שמחליטה אם פלט של סוכן מקובל, בלי לדרוש שאדם יקרא את הפלט.
אוטופורמליזציהשכתוב אוטומטי של הוכחה או טיעון שנכתבו על ידי אדם לצורה שמחשב יכול לבדוק צעד אחר צעד.
עוזר הוכחה (Lean)תוכנה שמאמתת כל צעד לוגי של הוכחה ודוחה אותה אם איזשהו צעד לא מוצדק.
Visual prompt injectionהסתרת הוראות בתוך תמונה כך שמערכת AI שקוראת את התמונה ההיא עוקבת אחריהן כאילו המשתמש נתן אותן.
שיעור הצלחת תקיפה (ASR)חלק הניסיונות שבהם תקיפה משיגה את האפקט המיועד שלה על מערכת המטרה.
שיעור התערבותחלק משימות הסוכן שהזדקקו לפחות לתיקון אנושי אחד לפני השלמה מוצלחת.

איך מוסיפים אימות לזרימות העבודה שלי ב-AI?

התחילו בכתיבה, עבור כל זרימת עבודת AI שאתם מריצים, מהי הבדיקה הדטרמיניסטית בפועל על הפלט שלה. אם התשובה הכנה היא "אדם קורא את זה", מצאתם את הדבר שישבר ראשון כשהנפח יעלה. בחרו את זרימת העבודה הגבוהה-בנפח ביותר ובנו בדיקה מכנית אחת הרבעון: validator סכמה, שאילתת התאמה, מבחן קיום-ציטוט, diff מול תבנית ידועה-טובה. בדיקה אחת שמכונה מריצה על כל פלט, לא על מדגם.

אז מדדו את שיעור ההתערבות שלכם כמו ש-OpenAI מדדה את שלה. ספרו כמה משימות סוכן הושלמו בלי שבן אדם נגע בהן, מפורק לפי כמה זמן המשימה לקחה. המספר יהיה נמוך יותר ממה שמצגת ההנהלה שלכם מניחה, ולדעת אותו שווה יותר מעוד פיילוט. זה גם נותן קו בסיס כן לשפר מולו.

התייחסו למניפסטי הכלים, system prompts וקבצי הקונפיגורציה שלכם כמשטח אבטחת ייצור, כי מאמר Meta הראה שהם כאלה. כל קובץ שסוכן יכול לכתוב אליו, תוקף יכול לנסות לגרום לו לכתוב אליו. שימו זיהוי שינויים על הקבצים האלה ודרשו אישור אנושי לשנות אותם, באותה צורה שהייתם עושים למדיניות IAM.

שכבת אימות גם צריכה לכסות מה הסוכן יכול לגעת בו, לא רק מה הוא מפיק. ערכו ביקורת על ה-credentials שכל סוכן מחזיק כמו שהייתם עורכים ביקורת על מפתחות של קבלן: אילו טוקנים קיימים, מה הם יכולים לפתוח, ומתי הם הוחלפו לאחרונה. סוכן שמחזיק טוקן מיושן בהיקף רחב הוא קלט לא מאומת לכל מערכת שהוא יכול לקרוא לה. אני מריץ ניטור מתוזמן על הסוכנים שלי מהסיבה הזו: הבדיקה חייבת לרוץ כשאף אחד לא צופה, או שזו לא בדיקה. כדי לתרגל את מצבי הכשל לפני שהם קורים בייצור, ה-Failure Lab מריץ אותם כתרחישים, והבודק CLAUDE.md מאמת את הקונפיגורציה שהסוכן שלכם באמת קורא. הדפוס הרחב יותר חי במהימנות סוכנים.

לבסוף, כשאתם מעריכים ספק, שאלו מול מה ניתן לבדוק את פלט הסוכן שלהם במקום על איזה בנצ'מרק הוא קיבל ציון. בנצ'מרקים אומרים לכם מה קרה במעבדה. בודק אומר לכם מה יקרה ביום שני. אם אתם מפורמלים את זה לתהליך סקירה, איך להעריך פלטי LLM מכסה את המכניקה.

רשימת הבדיקה לאימות סוכני AI

השתמשו בזו כרשימת הבדיקה העובדת לכל זרימת עבודת סוכן לפני שאתם סומכים עליה מעבר לדמו. היא מעוגנת בהדרכת ההערכה של Anthropic ובזרימת העבודה של evals של OpenAI, שני ספרי המשחק של הספקים להפיכת "נראה שזה עובד" ל"נמדד שזה עובד".

לפני שאתם בונים

  • כתבו את קריטריוני ההצלחה קודם. Anthropic מתחילה שם, לא בכלים: קריטריונים טובים ספציפיים ומדידים, ורוב זרימות העבודה האמיתיות צריכות יותר מאחד. "סיכומים טובים" הוא לא קריטריון. "כל סעיף מצוטט קיים במסמך המקור" הוא.
  • החליטו מהי הבדיקה המכנית לכל פלט. אם התשובה הכנה היא "אדם קורא את זה", זה החלק שישבר ראשון כשהנפח יגדל.
  • מלאו מלאי של מה הסוכן יכול לכתוב אליו: מניפסטי כלים, system prompts, קבצי קונפיגורציה. כל דבר שניתן-לכתיבה-על-ידי-סוכן הוא משטח אבטחה.

לפני כל השקה או שינוי מודל

  • בנו eval ייעודי למשימה שמשקף את עומס העבודה האמיתי שלכם, מקרי קצה כלולים. עקרון העיצוב של Anthropic הוא לאוטומט דירוג איפה שאפשר ולהעדיף יותר שאלות עם דירוג אוטומטי על פני מעט שמדורגות ידנית.
  • התייחסו ל-eval כמו פיתוח מונחה-התנהגות. זרימת העבודה של OpenAI מריצה את הפרומפט שלכם מול מערך נתונים עם מדרגים מפורשים (התאמה מדויקת, בדיקות מחרוזת, מדריכים מדורגי-מודל), ואז מחזרת על התוצאות. הריצו את אותו eval שוב אחרי כל שדרוג מודל או שינוי פרומפט. זו סוויטת הרגרסיה שלכם.
  • קבעו את סף המעבר מראש, וכתבו מה קורה כשהסוכן מפספס אותו.

כל שבוע בייצור

  • מדדו את שיעור ההתערבות שלכם: חלק משימות הסוכן שהושלמו בלי שבן אדם נגע בהן, מפורק לפי משך משימה. עקבו אחר המגמה, לא המספר הבודד.
  • ערכו ביקורת על ה-credentials של הסוכן: אילו טוקנים קיימים, מה הם יכולים לפתוח, מתי הם השתנו לאחרונה. בדיקת ה-credentials של סוכן AI היא הפרוצדורה הקבועה לביקורת הזו.
  • הריצו מחדש בדיקה עוינת אחת מול שכבת הבקרה: האם תוכן מוזרק יכול לגרום לסוכן לשנות את ההוראות או הכלים שלו? מאמר Meta הפך את זה לבדיקה קבועה, לא סקירה חד-פעמית.

סוכן שעובר את הרשימה הזו לא מובטח בטוח. סוכן שנכשל בה מובטח שביר. אם אתם בונים את זרימות העבודה האלה בעצמכם, מדריך תפקיד בונה ה-AI מכסה את הכישורים שרשימת הבדיקה הזו מניחה, ומהו בונה AI ממסגר את התפקיד.

התמונה הגדולה

במשך 350 שנה, המשפט האחרון של פרמה היה בעיה של מציאת הוכחה. ב-1908 הוצע פרס על אחת, ו-621 ניסיונות שגויים הגיעו בשנה הראשונה בלבד. ויילס פתר את בעיית המציאה ב-1995. מה ש-Anthropic פתרה בספטמבר 2026 הוא בעיית הבדיקה, ובעיית הבדיקה מתבררת כזו ששולטת בכל מה שמורד הזרם: האם ניתן לסמוך על תוצאות, לבנות עליהן, ולהפיק אותן בנפח בלי שנטל הסקירה קורס.

כל ארגון שפורס סוכנים עומד עכשיו בדיוק איפה שהמתמטיקה עמדה לפני Lean. שפע של פלט. שום דרך מכנית לדעת איזה חלק ממנו תקין.

היכולת היא החלק שאפשר לקנות. האימות הוא החלק שצריך לבנות.

שאלות נפוצות

מהו אימות סוכני AI?

אימות סוכני AI הוא בדיקה מכנית על פלט של סוכן שרצה בלי שאדם קורא אותו. קומפיילר, validator סכמה, סוויטת בדיקות, או שאילתת התאמה כולם מתאימים. התכונה המגדירה היא שהוא מקבל או דוחה את הארטיפקט בעצמו, כך שאמון לא תלוי בקיבולת סקירה.

למה אף אחד לא היה צריך לקרוא את הוכחת המשפט האחרון של פרמה של Claude?

כי Lean קרא אותה. ההוכחה היא 13 מיליון שורות קוד פורמלי, ו-Lean אימת כל צעד תוך שימוש רק בשלושת האקסיומות הסטנדרטיות שלו. משווה נפרד אישר שהצהרת המשפט תאמה את זו של Mathlib. בדיקה מכנית החליפה את חודשי הסקירה האנושית שהוכחה של ויילס בן ה-129 עמודים דרשה ב-1995.

כמה זמן סוכני AI יכולים עכשיו לעבוד בלי פיקוח אנושי?

מאמץ ה-FLT של Anthropic רץ 11 ימים עם הכוונה מדי פעם של שורה אחת בלבד מחוקר. זה סימן המים הגבוה הציבורי הנוכחי לעבודת סוכן שימושית ללא פיקוח. נתוני OpenAI מפוייחים יותר: יותר ממחצית משימות הסוכן המוצלחות של ארבע עד שמונה שעות עדיין הזדקקו לפחות להתערבות אנושית אחת.

מהו המספר 3.1 ימי עבודת סוכן מ-OpenAI?

OpenAI גילתה שנכון לאמצע אוגוסט 2026, ארגון המחקר שלה השתמש ב-3.1 ימי עבודת סוכן של מאמץ לכל יום עבודה של עבודה אנושית. זו המידה הציבורית הברורה ביותר של כמה פלט הסוכן עקף את קיבולת הסקירה האנושית בתוך מעבדת חזית.

מה תקיפת visual prompt injection עושה?

היא מסתירה הוראות בתוך תמונה כך שמערכת AI שקוראת את התמונה עוקבת אחריהן כאילו המשתמש הוציא אותן. מאמר Repeat-After-Me של Meta הגיע למעל 80% הצלחת תקיפה על מודלים במשקל פתוח ו-47% על GPT-5.5, והראה תמונה מוזרקת דורסת מניפסט כלים בפריסת ברירת מחדל.

למה מניפסט הכלים הוא משטח אבטחה עכשיו?

כי סוכן יכול לכתוב אליו ותוקף יכול לגרום לסוכן לכתוב אליו. Meta הדגימה משתמש לא מהימן דורס את TOOLS.md בפריסת ברירת מחדל של OpenClaw Discord, פותח נתיב להרצת קוד מרחוק ושאיבת סודות. התייחסו לכל קובץ קונפיגורציה שניתן-לכתיבה-על-ידי-סוכן כמו למדיניות IAM.

מהי הבדיקה הדטרמיניסטית הזולה ביותר לזרימת עבודת AI עסקית?

בדרך כלל אחת שכבר זמינה: אימות סכמה על חילוץ מובנה, סוויטת בדיקות על קוד שנוצר, שאילתת התאמה על נתון פיננסי, או מבחן קיום-ציטוט שמאשר שכל סעיף מצוטט מופיע במסמך המקור. בחרו את זרימת העבודה הגבוהה-בנפח ביותר והוסיפו בדיקת מכונה אחת שרצה על כל פלט.

האם אימות מחליף שיקול דעת אנושי?

לא. אימות עונה אם פלט נכון מול כלל. שיקול דעת עונה אם זה הפלט הנכון בכלל. אין קומפיילר לטון, תיאבון סיכון, או התאמה אסטרטגית. Anthropic טוענת את אותה נקודה, ומציינת שהוכחה פורמלית לא צריכה להחליף הצגה מובנת-לאדם.

איך מודדים את שיעור ההתערבות בסוכנים של הצוות שלי?

ספרו כמה משימות סוכן הושלמו בלי שבן אדם נגע בהן, מפורק לפי משך משימה. עקבו לאורך רבעון. הפירוק של OpenAI עצמה מראה שהשיעור מחמיר חדות אחרי סימן ארבע השעות, אז משך הוא המשתנה שמשנה. המספר בדרך כלל נמוך יותר ממה שמצגות הנהלה מניחות.

מה לשאול ספק AI על אימות?

שאלו מול מה ניתן לבדוק את פלט הסוכן שלהם, לא על איזה בנצ'מרק הוא קיבל ציון. בנצ'מרק מתאר תנאי מעבדה. בודק מתאר מה קורה בצינור שלכם ביום שני. אם התשובה היחידה היא שאדם סוקר את זה, מצאתם את החלק שישבר כשהנפח יעלה.

מקורות וקרדיטים

כל המחקר המוזכר הוא הקניין הרוחני של הארגונים המתאימים. מאמר זה מייצג את ניתוח הפרקטישנר העצמאי של הראל אסף.

מעבדהכותרת פרסוםURLתאריך
AnthropicFormalizing Fermat's Last Theoremhttps://www.anthropic.com/research/formalizing-fermats-last-theorem4 בספטמבר 2026
OpenAIResearch acceleration: The view inside OpenAIhttps://openai.com/index/research-acceleration-view-inside-openai/6 בספטמבר 2026
Meta AIRepeat-After-Me: Black-Box Adaptive Visual Prompt Injectionhttps://ai.meta.com/research/publications/repeat-after-me-black-box-adaptive-visual-prompt-injection/7 בספטמבר 2026
OpenAIGPT-6 Astra: A new generation of intelligencehttps://openai.com/index/gpt-6-astra/3 בספטמבר 2026
OpenAIGPT-6 Astra System Cardhttps://deploymentsafety.openai.com/gpt-6-astra3 בספטמבר 2026
Google DeepMindDesigning Proactive Thought Partners for Writinghttps://deepmind.google/research/publications/2656051 בספטמבר 2026
Meta AIAlignment-Free Text-Audiobox for Voice Dubbing and Full-Duplex Dialogue Synthesishttps://ai.meta.com/research/publications/alignment-free-text-audiobox-for-voice-dubbing-and-full-duplex-dialogue-synthesis/6 בספטמבר 2026
AnthropicDefine success criteria and build evaluations (docs)https://docs.anthropic.com/en/docs/test-and-evaluate/define-successנצפתה 24 באוקטובר 2026
OpenAIWorking with evals (docs)https://platform.openai.com/docs/guides/evalsנצפתה 24 באוקטובר 2026

שבעה פרסומים מתאימים זוהו בשבוע של 1-7 בספטמבר 2026. שלושתם הנושאים את המאמר הם שלושת הראשונים הרשומים. ארבעת הנותרים מקרדטים כאן לשלמות.


הראל אסף הוא בונה מערכות AI עם רקע משפטי. הוא מתמקד ב-AI תפעולי, המערכות ששורדות בוקר שני. מתבסס בתל אביב.

type="application/ld+json"

dangerouslySetInnerHTML={{

__html: `{

"@context": "https://schema.org",

"@type": "Article",

"headline": "אימות סוכני AI: למה הבודק מנצח את המודל",

"description": "Claude כתב הוכחה של 13 מיליון שורות ב-11 ימים ואף אחד לא קרא אותה. אימות סוכני AI, לא יכולת המודל, הוא מה שהופך פלט אוטונומי לנכס.",

"author": { "@type": "Person", "name": "Harel Asaf", "url": "https://harelasaf.com/about" },

"datePublished": "2026-09-09",

"dateModified": "2026-10-25",

"mainEntityOfPage": { "@type": "WebPage", "@id": "https://harelasaf.com/articles/ai-agent-verification" },

"publisher": { "@type": "Person", "name": "Harel Asaf" },

"keywords": "AI agent verification, autonomous AI agents, visual prompt injection, AI oversight for teams"

}`,

}}

/>

type="application/ld+json"

dangerouslySetInnerHTML={{

__html: `{

"@context": "https://schema.org",

"@type": "FAQPage",

"mainEntity": [

{ "@type": "Question", "name": "מהו אימות סוכני AI?", "acceptedAnswer": { "@type": "Answer", "text": "אימות סוכני AI הוא בדיקה מכנית על פלט של סוכן שרצה בלי שאדם קורא אותו. קומפיילר, validator סכמה, סוויטת בדיקות, או שאילתת התאמה כולם מתאימים. התכונה המגדירה היא שהוא מקבל או דוחה את הארטיפקט בעצמו, כך שאמון לא תלוי בקיבולת סקירה." } },

{ "@type": "Question", "name": "למה אף אחד לא היה צריך לקרוא את הוכחת המשפט האחרון של פרמה של Claude?", "acceptedAnswer": { "@type": "Answer", "text": "כי Lean קרא אותה. ההוכחה היא 13 מיליון שורות קוד פורמלי, ו-Lean אימת כל צעד תוך שימוש רק בשלושת האקסיומות הסטנדרטיות שלו. משווה נפרד אישר שהצהרת המשפט תאמה את זו של Mathlib. בדיקה מכנית החליפה את חודשי הסקירה האנושית שהוכחה של ויילס בן ה-129 עמודים דרשה ב-1995." } },

{ "@type": "Question", "name": "כמה זמן סוכני AI יכולים עכשיו לעבוד בלי פיקוח אנושי?", "acceptedAnswer": { "@type": "Answer", "text": "מאמץ ה-FLT של Anthropic רץ 11 ימים עם הכוונה מדי פעם של שורה אחת בלבד מחוקר. זה סימן המים הגבוה הציבורי הנוכחי לעבודת סוכן שימושית ללא פיקוח. נתוני OpenAI מפוייחים יותר: יותר ממחצית משימות הסוכן המוצלחות של ארבע עד שמונה שעות עדיין הזדקקו לפחות להתערבות אנושית אחת." } },

{ "@type": "Question", "name": "מהו המספר 3.1 ימי עבודת סוכן מ-OpenAI?", "acceptedAnswer": { "@type": "Answer", "text": "OpenAI גילתה שנכון לאמצע אוגוסט 2026, ארגון המחקר שלה השתמש ב-3.1 ימי עבודת סוכן של מאמץ לכל יום עבודה של עבודה אנושית. זו המידה הציבורית הברורה ביותר של כמה פלט הסוכן עקף את קיבולת הסקירה האנושית בתוך מעבדת חזית." } },

{ "@type": "Question", "name": "מה תקיפת visual prompt injection עושה?", "acceptedAnswer": { "@type": "Answer", "text": "היא מסתירה הוראות בתוך תמונה כך שמערכת AI שקוראת את התמונה עוקבת אחריהן כאילו המשתמש הוציא אותן. מאמר Repeat-After-Me של Meta הגיע למעל 80% הצלחת תקיפה על מודלים במשקל פתוח ו-47% על GPT-5.5, והראה תמונה מוזרקת דורסת מניפסט כלים בפריסת ברירת מחדל." } },

{ "@type": "Question", "name": "למה מניפסט הכלים הוא משטח אבטחה עכשיו?", "acceptedAnswer": { "@type": "Answer", "text": "כי סוכן יכול לכתוב אליו ותוקף יכול לגרום לסוכן לכתוב אליו. Meta הדגימה משתמש לא מהימן דורס את TOOLS.md בפריסת ברירת מחדל של OpenClaw Discord, פותח נתיב להרצת קוד מרחוק ושאיבת סודות. התייחסו לכל קובץ קונפיגורציה שניתן-לכתיבה-על-ידי-סוכן כמו למדיניות IAM." } },

{ "@type": "Question", "name": "מהי הבדיקה הדטרמיניסטית הזולה ביותר לזרימת עבודת AI עסקית?", "acceptedAnswer": { "@type": "Answer", "text": "בדרך כלל אחת שכבר זמינה: אימות סכמה על חילוץ מובנה, סוויטת בדיקות על קוד שנוצר, שאילתת התאמה על נתון פיננסי, או מבחן קיום-ציטוט שמאשר שכל סעיף מצוטט מופיע במסמך המקור. בחרו את זרימת העבודה הגבוהה-בנפח ביותר והוסיפו בדיקת מכונה אחת שרצה על כל פלט." } },

{ "@type": "Question", "name": "האם אימות מחליף שיקול דעת אנושי?", "acceptedAnswer": { "@type": "Answer", "text": "לא. אימות עונה אם פלט נכון מול כלל. שיקול דעת עונה אם זה הפלט הנכון בכלל. אין קומפיילר לטון, תיאבון סיכון, או התאמה אסטרטגית. Anthropic טוענת את אותה נקודה, ומציינת שהוכחה פורמלית לא צריכה להחליף הצגה מובנת-לאדם." } },

{ "@type": "Question", "name": "איך מודדים את שיעור ההתערבות בסוכנים של הצוות שלי?", "acceptedAnswer": { "@type": "Answer", "text": "ספרו כמה משימות סוכן הושלמו בלי שבן אדם נגע בהן, מפורק לפי משך משימה. עקבו לאורך רבעון. הפירוק של OpenAI עצמה מראה שהשיעור מחמיר חדות אחרי סימן ארבע השעות, אז משך הוא המשתנה שמשנה. המספר בדרך כלל נמוך יותר ממה שמצגות הנהלה מניחות." } },

{ "@type": "Question", "name": "מה לשאול ספק AI על אימות?", "acceptedAnswer": { "@type": "Answer", "text": "שאלו מול מה ניתן לבדוק את פלט הסוכן שלהם, לא על איזה בנצ'מרק הוא קיבל ציון. בנצ'מרק מתאר תנאי מעבדה. בודק מתאר מה קורה בצינור שלכם ביום שני. אם התשובה היחידה היא שאדם סוקר את זה, מצאתם את החלק שישבר כשהנפח יעלה." } }

]

}`,

}}

/>

קריאה נוספת

יומן הבנייה

לעקוב אחרי העבודה.

מאמרים ואבטיפוסים חדשים, ישר לקורא ה-RSS שלכם. מנויי המייל בהשהיה זמנית, עד שאחבר שירות משלוח עובד. לא נאסף כאן אימייל.

עקבו ב-RSS