דלגו לתוכן
גיליון 001·חי·20:20 IL
→ יומן/2026-06-10·7 דק׳

המודל הכי חכם הוא לא מה שהופך סוכני AI לאמינים

אמינות של סוכני AI מגיעה משכבה דטרמיניסטית, לא ממודל גדול יותר. שני מאמרים של Anthropic מראים שמודל זול יותר בתוספת הכלי הנכון מנצח בכל ריצה.

מאת Harel Asaf·בונה בינה מלאכותית·תל אביב

מאת Harel Asaf · פורסם 10 ביוני 2026 · עודכן 10 ביוני 2026

מה שהופך סוכני AI לאמינים הוא לא המודל הכי חכם. זו השכבה הדטרמיניסטית מתחת: התוכנה ששולפת, מסננת ומאמתת באותה צורה בכל ריצה. שני מאמרים של Anthropic, שיצאו באותו שבוע, מראים שמודל זול יותר מזווג עם הכלי הדטרמיניסטי הנכון ניצח מודל יקר לבדו, ונתן את אותה תשובה בכל פעם. זה כל המשחק.

TL;DR

  • מודל כללי השווה לתוכנת כימיה בת עשרות שנים, אבל סוכני חזית נכשלו במשימת שליפה ביולוגית שבה רף המעבר הוא 100%.
  • התיקון לא היה מודל גדול יותר. זה היה כלי שליפה דטרמיניסטי שרץ באותה צורה בכל פעם.
  • עם השכבה ההיא במקום, כל סוכן עבר 90%, התוצאה המובילה הגיעה ל-99.7%, והשונות בין ריצות כמעט נעלמה.
  • מודל זול יותר בתוספת הכלי הנכון השווה למודל היקר, ושיפר אמינות ועלות באותו מהלך.
  • פצלו כל זרימת עבודה לצעדים שצריכים יצירתיות וצעדים שחייבים להיות מדויקים. מסרו את הצעדים המדויקים לכלי דטרמיניסטי.

מודל זול יותר עם הכלי הדטרמיניסטי הנכון ניצח את המודל היקר לבדו, והוא נתן את אותה תשובה בכל פעם. זה כל המשחק.

בשבוע אחד, Anthropic שמה את Claude לעבוד ככימאי וכביולוג. אותה מעבדה, שני מאמרים, שתי תוצאות שונות מאוד. ככימאי, מודל כללי השווה לתוכנה שלקח עשרות שנים לבנות. כביולוג, אותה מחלקת מודל נכשלה במשימה שבה ציון המעבר הוא 100%, ונכשלה אחרת בכל פעם שניסתה.

הפער בין שתי התוצאות האלה הוא הדבר הכי שימושי שקראתי על פריסת סוכני AI השנה.

מה שני המאמרים באמת מצאו?

לפי "Making Claude a chemist" של Anthropic, מודל כללי עושה עכשיו כימיה שגרתית טוב כמו הכלים המתמחים שכימאים הסתמכו עליהם שנים. הצוות בדק את Claude מול ChemDraw ו-MestReNova על חיזוי ספקטרי NMR עבור 20 תרכובות שנשלפו מפרי-פרינטים שפורסמו אחרי תאריך הסף של אימון המודל. על הסטות מימן, Opus 4.7 נחת בטווח של ±0.079 ppm בממוצע, הרבה מתחת למחצית החלון שכימאי היה קורא לו נכון. הוא התאים לדפוס הפיצול הניסיוני בתדירות גבוהה מכל אחד משני הכלים הייעודיים. ואז הוא עשה את הדבר הקשה יותר שהתוכנה בכלל לא עושה: הוא עבד אחורה מספקטרום למבנה, ושחזר את כל שמונה מולקולות המטרה הפשוטות יותר בכל ניסיון בודד.

המאמר זהיר לגבי מה שזה אומר.

Claude מתחיל לסייע באופן משמעותי לכימאים בעבודת התרגום, השליפה והאינטגרציה היומיומית שמשלימה את שיקול הדעת שלהם.

זו טענה מדויקת. לא "AI עושה כימיה עכשיו". הוא עושה את עבודת התרגום, השליפה והאינטגרציה. שיקול הדעת נשאר אצל הכימאי, והמודל מראה את ההנמקה שלו צעד אחר צעד כדי שהכימאי יכול לבדוק אותה.

ועכשיו המאמר השני. לפי "Paving the way for agents in biology" של Anthropic, אותו דור של סוכנים התפרק על מה שנשמע כמו משימה פשוטה יותר: לשלוף את רצפי הווירוס הנכונים ממסד נתונים ציבורי. הצוות בנה בנצ'מרק בשם VirBench, 120 שאילתות ריאליסטיות על פני 40 מחוללי מחלות, ושחרר עליו סוכני חזית. הדיוק נע בין 16.9% ל-91.3%. לעבודה כזו הרף האמיתי הוא 100%, כי רשומה חסרה אחת יכולה להזיז את תחילת ההתפרצות המשוערת בשבועות. גרוע מהממוצע הייתה השונות. כשנשאל את אותה שאילתת אבולה שלוש פעמים, מודל אחד החזיר 266 רצפים, אחר כך 15, אחר כך 5. שליפה גרועה אחת דחפה את שורש התפרצות 2014 המשוער אחורה לשנת 1922.

הנה השורה שמשנה:

צוואר הבקבוק לסוכנים ביולוגיים הוא לא רק הנמקה אלא היעדר שכבות ביצוע דטרמיניסטיות נפוצות לשאילתת נתונים ביולוגיים.

אז הצוות בנה אחת. כלי שליפה בשם gget virus שמטפל בלוגיקת מסד הנתונים המבולגנת באופן דטרמיניסטי. עם השכבה ההיא במקום, כל סוכן עבר 90%, התוצאה המובילה הגיעה ל-99.7%, והשונות בין ריצות כמעט נעלמה. הפער בין מודלים כמעט נסגר.

מה זה אומר לצוותים שבונים סוכני AI היום?

קראו את שתי התוצאות האלה זו לצד זו ודפוס מופיע שאין לו שום קשר לכימיה או ביולוגיה.

איפה שהמודל יכול להנמיק את דרכו ולהראות את עבודתו, הוא ניצח. איפה שהצלחה תלתה בניווט תשתית שבירה, לא-מתועדת, בצורת-אדם, אינטליגנציה גולמית לא הייתה התיקון. שכבה דטרמיניסטית הייתה. וברגע שהשכבה ההיא הייתה קיימת, המודל היקר הפסיק לשנות. אחד זול יותר מזווג עם הכלי הנכון ייצר את אותה תשובה, באמינות, בכל פעם.

זה החלק שרוב הצוותים הופכים. האינסטינקט כשזרימת עבודת AI רעודה היא להושיט יד למודל גדול יותר. מאמר הביולוגיה מראה שהמודל הגדול יותר הוא לעיתים קרובות לא המנוף. המנוף הוא השכבה המשעממת מתחת: החלק ששולף, מסנן ומאמת באותה צורה ביום שלישי כמו ביום שני. אפשר לבנות את השכבה ההיא ב-n8n, בתרחיש Make, בכמה מאות שורות Python עטופות סביב מקור הנתונים האמיתי שלכם, או בכלי שליפה שהסוכן שלכם קורא לו במקום לאלתר. הנקודה היא שהחלק שחייב להיות נכון לא צריך להישאר למודל להמציא מחדש בכל ריצה.

יש גם טיעון עלות מסתתר כאן, והוא חזק. אם כלי דטרמיניסטי נותן למודל זול יותר להשוות ליקר, האמינות שלכם והחשבון שלכם שניהם משתפרים באותו זמן. ניתוב מודלים מפסיק להיות ההחלטה המעניינת. עיצוב כלים הופך להחלטה המעניינת.

מה שכבה דטרמיניסטית עדיין לא מתקנת?

מודל שיכול לדחוף דרך זרימת עבודה מבלבלת הוא לא אותו דבר כמו זרימת עבודה שאפשר לסמוך עליה. מאמר הביולוגיה אומר את זה ישירות:

מודל שיכול להילחם את דרכו דרך זרימת עבודה ביו-אינפורמטית מבלבלת עדיין עלול להיות יקר מדי, איטי מדי, קשה מדי לביקורת, או קשה מדי לסמוך עליו לעבודה מדעית שגרתית.

יכולת-ביקורת היא המילה שאני ממשיך להקיף. תוצאת הכימיה הייתה שמישה לא רק כי היא הייתה מדויקת אלא כי המודל הראה את ההנמקה שלו, פיק אחר פיק, כדי שמומחה יכול לבדוק. כשלי הביולוגיה היו מסוכנים בדיוק כי התשובות הלא-נכונות נראו סבירות. סוכן שמחזיר בביטחון 15 רצפים כשהאמת היא 266 לא נתן לכם שגיאה. הוא נתן לכם תוצאה נראית-נקייה שהיא בשקט שגויה, יושבת בראש צינור הרבה יותר ארוך.

זו בעיית העיצוב. לא "האם המודל חכם מספיק", אלא "כשהוא טועה, האם מישהו יוכל לדעת". שחזוריות ועקבות נראות הם לא nice-to-have שמוסיפים בסוף. הם ההבדל בין דמו למערכת שאפשר לשים מול רגולטור, רואה חשבון, או לקוח.

נקודת המבט של הפרקטיקן

ביליתי שנתיים בבניית זרימות העבודה האלה ביד, והדבר שאני ממשיך ללמוד מחדש הוא שהמודל הוא החלק הקל. האמינות חיה בכל מה שמסביבו.

שני המאמרים האלה הם ההוכחה הנקייה ביותר לזה שראיתי, כי הם באים מהחברה שעושה את המודל, והלקח חותך נגד המוצר שלה עצמה. מאמר אחד מראה שהמודל באמת טוב עכשיו. השני מראה שכשהמודל לא מספיק, התשובה היא לא מודל חכם יותר. זה כלי דטרמיניסטי, בניהול גרסאות, מתועד, ובנוי להיקרא באותה צורה בכל פעם.

החוט המחבר את שניהם הוא רעיון אחד: יצירתיות ואמינות הן עבודות שונות, ולא כדאי לבקש מאותו רכיב לעשות את שתיהן. תנו למודל לייצר השערות, לקרוא את האיור, להציע את המבנה, לנסח את התשובה. מסרו את החלקים שחייבים להיות מדויקים לשכבה שלא יכולה לסטות. צוות הביולוגיה ניסח את זה טוב ממני, שהשכבה מתחת ליצירתיות חייבת להיות אמינה באופן משעמם. משעמם הוא הפיצ'ר.

לכל מי שפורס סוכנים בתוך ארגון אמיתי, זה ממסגר מחדש את הבנייה. השאלה היא לא על איזה מודל לסתנדרט. היא: אילו צעדים בזרימת העבודה הזו יצירתיים, ואילו צעדים חייבים להיות נכונים בכל פעם בודדת? ציירו את הקו הזה, ורוב בעיית האמינות שלכם כבר פתורה לפני שבחרתם מודל בכלל.

מונחי מפתח מוסברים

מונחמה זה אומר בשפה פשוטה
שכבה דטרמיניסטיתקטע תוכנה שעושה את אותו דבר בכל פעם שהוא רץ, בלי שונות, בניגוד למודל שיכול לענות אחרת בריצות חוזרות.
ספקטרום NMRקריאת כימיה סטנדרטית שמשמשת לגלות את מבנה המולקולה. קריאתה היא עבודת מומחה איטית וידנית.
הבהרת מבנהלעבוד אחורה מספקטרום למולקולה שייצרה אותו. הכיוון הקשה, שרוב התוכנות משאירות לאדם.
שחזוריותלקבל את אותה תשובה כששואלים את אותה שאלה פעמיים. הדבר שחסר לסוכנים הביולוגיים, והדבר שהכלי הדטרמיניסטי שיחזר.

מה לעשות עם זה

התחילו במיפוי כל זרימת עבודת AI שאתם מריצים לשני טורים: הצעדים שצריכים יצירתיות והצעדים שצריכים להיות בדיוק נכונים. הפיצול בדרך כלל ברור ברגע שמכריחים אותו, והוא אומר לכם איפה מודל שייך ואיפה כלי דטרמיניסטי שייך. אז הסתכלו קשות על זרימות העבודה הרעודות שלכם לפני שאתם מושיטים יד למודל גדול יותר, כי תוצאת הביולוגיה מרמזת שהמודל הוא לעיתים קרובות לא האילוץ וכלי סביב מקור הנתונים האמיתי שלכם יזיז את האמינות רחוק יותר משדרוג. בזמן שאתם שם, התייחסו ליכולת-ביקורת כדרישה ולא בונוס, כי תשובה שגויה שנראית נכונה מסוכנת יותר מכשל ברור, ועקבות הנמקה נראות הם מה שנתן לתוצאת הכימיה להיות מהימנה מלכתחילה. לבסוף, הריצו את חשבון העלות, כי אם מודל זול יותר בתוספת הכלי הנכון משווה למודל יקר לבדו, הרגע קניתם אמינות וחשבון קטן יותר באותו מהלך.

התמונה הגדולה

בילינו שנתיים בצפייה במודלים נעשים חכמים יותר ובהנחה שזה הסיפור. שני המאמרים האלה, שנשלחו באותו שבוע על ידי האנשים שבונים את המודלים, מספרים בשקט סיפור אחר. החזית שמשנה לעבודה אמיתית היא לא המודל הבא. היא התשתית הלא-זוהרת שהופכת מודל מסוגל למערכת שאפשר לסמוך עליה ביום שני בבוקר עם קלטים מבולגנים והעבודה של מישהו על הכף.

הדבר הכי חכם במחסנית שלכם צריך להיות מורשה להיות יצירתי. כל דבר שחייב להיות נכון צריך להיות משעמם מדי כדי להפתיע אתכם.

שאלות נפוצות

מה הופך סוכני AI לאמינים?

אמינות מגיעה מהשכבה הדטרמיניסטית סביב המודל, לא מהמודל עצמו. כלי דטרמיניסטי שולף, מסנן ומאמת נתונים באותה צורה בכל ריצה. בעבודת הביולוגיה של Anthropic, הוספת השכבה ההיא דחפה כל סוכן מעבר ל-90% דיוק והסירה את רוב השונות בין ריצות.

האם מודל גדול יותר מתקן זרימת עבודת AI רעודה?

בדרך כלל לא. מאמר הביולוגיה הראה מודלי חזית נכשלים במשימת שליפה ללא קשר לגודל, כי צוואר הבקבוק היה תשתית שבירה, לא הנמקה. כלי שליפה דטרמיניסטי תיקן את זה. הושיטו יד לעיצוב כלים לפני שדרוג מודל כשזרימת עבודה לא אמינה.

מהי שכבה דטרמיניסטית בסוכן AI?

זו תוכנה שעושה את אותו דבר בכל פעם שהיא רצה, בלי שונות. היא מטפלת בצעדים שחייבים להיות מדויקים, כמו שאילתת מסד נתונים או תיקוף רשומה, כדי שהמודל לא נשאר להמציא את הלוגיקה ההיא מחדש בכל ריצה. חשבו n8n, תרחיש Make, או פונקציית Python עטופה.

למה מודל זול יותר השווה ליקר?

ברגע שכלי דטרמיניסטי טיפל בחלק הקשה והמדויק של המשימה, המודל רק היה צריך לעשות את החלקים שהוא כבר היה טוב בהם. עם השונות מוסרת על ידי הכלי, היתרון של המודל היקר נעלם, אז מודל זול יותר ייצר את אותה תשובה אמינה בעלות נמוכה יותר.

מה "Making Claude a chemist" הראה?

Claude השווה לכלים ייעודיים כמו ChemDraw ו-MestReNova בחיזוי ספקטרי NMR, ונחת בטווח ±0.079 ppm על הסטות מימן. הוא גם עבד אחורה מספקטרום למבנה, ושחזר את כל שמונה מולקולות המטרה הפשוטות יותר בכל ניסיון, תוך שהוא מראה את ההנמקה שלו כדי שכימאי יכול לבדוק אותה.

מה "Paving the way for agents in biology" הראה?

על VirBench, 120 שאילתות על פני 40 מחוללי מחלות, סוכני חזית קלעו בין 16.9% ל-91.3% עם שונות גבוהה. שאילתת אבולה אחת החזירה 266, אחר כך 15, אחר כך 5 רצפים על פני שלוש ריצות. כלי שליפה דטרמיניסטי בשם gget virus הרים כל סוכן מעבר ל-90%.

למה יכולת-ביקורת משנה לסוכני AI?

תשובה שגויה שנראית נכונה מסוכנת יותר מכשל ברור. תוצאת הכימיה הייתה מהימנה כי המודל הראה את ההנמקה שלו פיק אחר פיק. כשלי הביולוגיה היו מסוכנים כי תוצאות סבירות אבל שגויות ישבו בשקט בראש צינור ארוך יותר.

איך אני מחליט אילו צעדים מודל צריך לטפל בהם?

מפו את זרימת העבודה לשני טורים: צעדים שצריכים יצירתיות וצעדים שחייבים להיות מדויקים בכל פעם. תנו את הצעדים היצירתיים למודל, כמו ניסוח או יצירת השערות. תנו את הצעדים המדויקים לכלי דטרמיניסטי. הפיצול בדרך כלל ברור ברגע שמכריחים אותו.

האם זה רלוונטי רק לעבודת AI מדעית?

לא. הדפוס אגנוסטי לתחום. כל זרימת עבודת AI ארגונית שנוגעת במקורות נתונים שבירים, צעדי ציות, או כל דבר שחייב להיות נכון בכל ריצה מרוויחה משכבה דטרמיניסטית. מאמרי המדע הם פשוט הוכחה נקייה באופן יוצא דופן לעקרון פריסה כללי.

איפה צוותים צריכים להשקיע קודם לאמינות סוכנים?

השקיעו בכלי הדטרמיניסטיים סביב מקור הנתונים האמיתי שלכם לפני סטנדרטיזציה על מודל. נהלו אותם בגרסאות, תעדו אותם, וגרמו להם להיות ניתנים לקריאה באותה צורה בכל פעם. השכבה ההיא מזיזה אמינות רחוק יותר משדרוג מודל, והיא בדרך כלל מורידה עלות באותו זמן.

מקורות וקרדיטים

כל המחקר המצוטט הוא קניינה הרוחני של הארגונים המתאימים. המאמר הזה מייצג ניתוח פרקטיקן עצמאי של Harel Asaf. שני מאמרי המדע של Anthropic מוצגים כי הם יוצרים חוט אחד וקוהרנטי לצוותים שפורסים סוכני AI; פרסומי DeepMind ו-NVIDIA למטה זוהו גם באותו שבוע ומקבלים קרדיט לשלמות.

מעבדהכותרת פרסוםURLתאריך
AnthropicPaving the way for agents in biologyhttps://www.anthropic.com/research/agents-in-biology8 ביוני 2026
AnthropicMaking Claude a chemisthttps://www.anthropic.com/research/making-claude-a-chemist5 ביוני 2026
Google DeepMindSolipsistic superintelligence is unlikely to be cooperativehttps://deepmind.google/research/publications/2314664 ביוני 2026
NVIDIA ResearchNVIDIA Research Unlocks Advanced Grasping, Smarter Autonomous Driving and Agent Training at Scalehttps://blogs.nvidia.com/blog/cvpr-research-grasping-driving-agent-training/3 ביוני 2026

Harel Asaf הוא בונה מערכות AI עם רקע משפטי. הוא מתמקד ב-AI תפעולי, המערכות ששורדות יום שני בבוקר. מתבסס בתל אביב.

type="application/ld+json"

dangerouslySetInnerHTML={{

__html: `{

"@context": "https://schema.org",

"@type": "Article",

"headline": "The Smartest Model Is Not What Makes AI Agents Reliable",

"description": "AI agents reliability comes from a deterministic layer, not a bigger model. Two Anthropic papers show a cheaper model plus the right tool wins every run.",

"author": { "@type": "Person", "name": "Harel Asaf", "url": "https://harelasaf.com/about" },

"datePublished": "2026-06-10",

"dateModified": "2026-06-10",

"mainEntityOfPage": { "@type": "WebPage", "@id": "https://harelasaf.com/articles/ai-agents-reliability-deterministic-layer" },

"publisher": { "@type": "Person", "name": "Harel Asaf" },

"keywords": "AI agents reliability, deterministic layer, enterprise AI workflow, AI agent governance"

}`,

}}

/>

type="application/ld+json"

dangerouslySetInnerHTML={{

__html: `{

"@context": "https://schema.org",

"@type": "FAQPage",

"mainEntity": [

{ "@type": "Question", "name": "What makes AI agents reliable?", "acceptedAnswer": { "@type": "Answer", "text": "Reliability comes from the deterministic layer around the model, not the model itself. A deterministic tool fetches, filters, and verifies data the same way on every run. In Anthropic's biology work, adding that layer pushed every agent past 90% accuracy and removed most of the run-to-run variance." } },

{ "@type": "Question", "name": "Does a bigger model fix a flaky AI workflow?", "acceptedAnswer": { "@type": "Answer", "text": "Usually not. The biology paper showed frontier models failing a retrieval task regardless of size, because the bottleneck was brittle infrastructure, not reasoning. A deterministic retrieval tool fixed it. Reach for tool design before a model upgrade when a workflow is unreliable." } },

{ "@type": "Question", "name": "What is a deterministic layer in an AI agent?", "acceptedAnswer": { "@type": "Answer", "text": "It is software that does the same thing every time it runs, with no variation. It handles the steps that must be exact, like querying a database or validating a record, so the model is not left to reinvent that logic on each run. Think n8n, a Make scenario, or a wrapped Python function." } },

{ "@type": "Question", "name": "Why did a cheaper model match an expensive one?", "acceptedAnswer": { "@type": "Answer", "text": "Once a deterministic tool handled the hard, exact part of the task, the model only had to do the parts it was already good at. With the variance removed by the tool, the expensive model's edge disappeared, so a cheaper model produced the same reliable answer at lower cost." } },

{ "@type": "Question", "name": "What did Making Claude a chemist show?", "acceptedAnswer": { "@type": "Answer", "text": "Claude matched dedicated tools like ChemDraw and MestReNova at predicting NMR spectra, landing within 0.079 ppm on hydrogen shifts. It also worked backward from a spectrum to the structure, recovering all eight simpler target molecules on every attempt, while showing its reasoning so a chemist could check it." } },

{ "@type": "Question", "name": "What did Paving the way for agents in biology show?", "acceptedAnswer": { "@type": "Answer", "text": "On VirBench, 120 queries across 40 pathogens, frontier agents scored between 16.9% and 91.3% with high variance. One Ebola query returned 266, then 15, then 5 sequences across three runs. A deterministic retrieval tool called gget virus lifted every agent past 90%." } },

{ "@type": "Question", "name": "Why does auditability matter for AI agents?", "acceptedAnswer": { "@type": "Answer", "text": "A wrong answer that looks right is more dangerous than an obvious failure. The chemistry result was trusted because the model showed its reasoning peak by peak. The biology failures were risky because plausible but wrong results sat silently at the top of a longer pipeline." } },

{ "@type": "Question", "name": "How do I decide which steps a model should handle?", "acceptedAnswer": { "@type": "Answer", "text": "Map the workflow into two columns: steps that need creativity and steps that must be exact every time. Give the creative steps to the model, such as drafting or hypothesis generation. Give the exact steps to a deterministic tool. The split is usually obvious once you force it." } },

{ "@type": "Question", "name": "Is this only relevant to scientific AI work?", "acceptedAnswer": { "@type": "Answer", "text": "No. The pattern is domain-agnostic. Any enterprise AI workflow that touches brittle data sources, compliance steps, or anything that must be correct every run benefits from a deterministic layer. The science papers are just an unusually clean proof of a general deployment principle." } },

{ "@type": "Question", "name": "Where should teams invest first for agent reliability?", "acceptedAnswer": { "@type": "Answer", "text": "Invest in the deterministic tooling around your real data source before standardizing on a model. Version-control it, document it, and make it callable the same way every time. That layer moves reliability further than a model upgrade, and it usually lowers cost at the same time." } }

]

}`,

}}

/>

קריאה נוספת

יומן הבנייה

לעקוב אחרי העבודה.

מאמרים ואבטיפוסים חדשים, ישר לקורא ה-RSS שלכם. מנויי המייל בהשהיה זמנית, עד שאחבר שירות משלוח עובד. לא נאסף כאן אימייל.

עקבו ב-RSS