Anthropic נתנה ל-METR גישה כמו-של-עובד. מה שלוש הרמות אומרות, ומה הן לא אומרות לבונים
Anthropic הכריזה על גישה כמו-של-עובד ל-METR ומודל של שלוש רמות למעריכים עצמאיים. מה הפוסט מצהיר על גישה, זכויות פרסום והשמטות, ואיך בונה יכול לקרוא טענות בטיחות של ספקים.
ב-15 באוקטובר, Anthropic אמרה שהיא התחילה לתת לצוות מ-METR, עמותה שמעריכה מודלי AI חזיתיים, גישה כמו-של-עובד למערכות הפנימיות שלה. METR תפרסם את הניתוח שלה עצמה. המאמר הזה מכסה מה הפוסט של Anthropic אומר ואיפה הגבולות שלו.
זו Anthropic שמתארת את הסידורים שלה עצמה. לא ראיתי את הצד של METR או שום ניתוח METR מפורסם תחת הסידור הזה, אז אני מתייחס לתנאים כתיאור של Anthropic.
מה Anthropic הכריזה
לפי הפוסט:
- בחודש שעבר Anthropic התחייבה להערכה עצמאית חזקה יותר של צד שלישי על המודלים ופרקטיקות הבטיחות שלה, וחתמה על ה-White House Accord on Super Intelligence, שבו חברות התחייבו לשתף פעולה עם מבקרים או מעריכים חיצוניים עצמאיים.
- היא קלטה שישה עובדי METR עם חומרת חברה, מקום משרד, וגישה לכלים ומערכות פנימיים בערך ברמה של צוותי הערכת הסיכונים שלה עצמה.
- METR תפרסם את הניתוח שלה על רמות הסיכון, התקריות או הפרקטיקות של Anthropic.
- Anthropic גם עובדת עם SecureBio ו-Accenture כמעריכים, ובשיחות מוקדמות עם כמה אחרות, כולל Hugging Face.
הסיבה המוצהרת של Anthropic: היא לא יכולה לשתף ציבורית את כל המידע הרלוונטי לבטיחות, כי חלקו יכול לעזור לשחקנים זדוניים או שהוא רגיש מסחרית, כמו מידע על compute או אימון. אז היא נותנת למעריכים גישה עמוקה והם מפרסמים ראיות ומסקנות.
שלוש רמות הגישה
Anthropic אומרת שהיא מפתחת שלוש רמות:
1. רמה אחת. חקירות סיכון ביק scope צר. Anthropic מחליטה על הגישה, והמעריכים מפרסמים ממצאים באישור Anthropic.
2. רמה שתיים. מעריכים יכולים לפרסם בלי אישור ויש להם גישה ליותר מידע. Anthropic עדיין יכולה לדרוש הסרת קטגוריות מידע ספציפיות, והמעריכים יכולים לפרסם את דעתם על אם ההשמטות היו מוצדקות.
3. רמה שלוש. גישה כמו-של-עובד עם זכויות פרסום דומות לרמה שתיים. זה הסידור המתואר ל-METR.
לפי הפוסט, SecureBio סוקרת את פרק הנשק הכימי והביולוגי של דוח הסיכונים של Anthropic מאוגוסט, אחרי שפרסמה סקירת פיילוט של הקודם. Accenture ו-Faculty מתוארות כשותפות שכוללת הערכה ו-red-teaming של מודלים, הערכות alignment, בדיקת אמצעי הגנה ובניית יכולות.
הגבולות ש-Anthropic מצהירה
הפוסט מפורש על גבולות, ושווה לקרוא מקרוב:
- גישה כמו-של-עובד מחריגה מספר קטן של קטגוריות מוגדרות, עם דוגמאות: נתוני לקוחות, מידע בחיסיון עורך-דין-לקוח ומידע על ארכיטקטורות מודלים.
- Anthropic לא יכולה להטיל וטו על הפרסום של METR, אבל יכולה לדרוש השמטת מידע בקטגוריות המוגדרות-מראש האלה. Anthropic בסופו של דבר מחליטה מה נופל לתוכן. METR שומרת לעצמה את הזכות להצהיר הצהרות מסוימות על רמת הגישה והמידע שקיבלה.
- העבודה עם METR מוגבלת לצוות קטן תחת הסכמים ברי-אכיפה, ושאר עובדי METR מבודדים מעבודת הצוות ההוא.
- שתי הערות שוליים אומרות שהן עודכנו ב-15 וב-16 באוקטובר כדי להבהיר את תנאי הפרויקט הנוכחיים עם SecureBio ו-METR.
הפוסט מפרט ארבעה דברים ש-Anthropic אומרת שמעריכים צריכים: מומחיות, עצמאות (בלי מניות בחברה, ובלי תלות פיננסית או תפעולית בה), מספיק גישה, וחופש לפרסם. היא משתמשת בפיקוח בנקאי, עם בוחנים תושבים, כאנלוגיה ואומרת שהאנלוגיה לא מדויקת.
איך בונה יכול לקרוא את זה
אלה הקריאה וההצעות שלי שלא נבדקו, לא טענות של Anthropic.
1. חכו לפרסומים, לא להכרזה. הערך תלוי במה ש-METR והמעריכים האחרים מפרסמים, ובמה שמושמט. הפוסט מתחייב לפרסום אבל לא נותן תאריכים.
2. בדקו את קריטריוני העצמאות בעצמכם. Anthropic מפרטת בלי מניות ובלי תלות פיננסית או תפעולית כקריטריונים. Accenture מתוארת כשותפה בסידור רחב יותר של בניית יכולות, אז איך זה מתיישב עם קריטריון העצמאות הוא משהו לקרוא אליו, כי הפוסט לא דן בזה.
3. הסתכלו מי מחליט על השמטות. Anthropic מחליטה איזה מידע נופל לקטגוריות ההשמטה. מעריכים יכולים להעיר אם ההשמטות היו מוצדקות ברמה שתיים ומעלה.
4. שמרו על הבדיקות שלכם. סקירה חיצונית של דוח סיכונים של מעבדה היא לא בדיקה של האפליקציה שלכם על הנתונים שלכם.
מה לא הייתי מסיק
- שאיזה מודל של Anthropic הוערך כבטוח או לא בטוח. הפוסט מכריז על גישה ותהליך, לא על ממצאים.
- שמעבדות אחרות עושות או לא עושות את זה. הפוסט אומר שכל חברה חזיתית צריכה, אבל לא מתאר אחרות.
- שהגישה בלתי מוגבלת. לפי תנאי הפוסט עצמו יש לה החרגות מוגדרות.
שאלות נפוצות
מה Anthropic הכריזה?
שהיא התחילה לתת לצוות מ-METR גישה כמו-של-עובד למידע שלה, וש-METR תפרסם ניתוח סיכונים משלה.
כמה אנשי METR מעורבים?
שישה עובדי METR נקלטו, לפי הפוסט.
האם Anthropic יכולה לחסום את METR מלפרסם?
הפוסט אומר ש-Anthropic לא יכולה להטיל וטו על פרסום, אבל יכולה לדרוש השמטת מידע בקטגוריות מוגדרות-מראש.
מה מוחרג מהגישה?
דוגמאות שניתנו הן נתוני לקוחות, מידע בחיסיון עורך-דין-לקוח ומידע על ארכיטקטורות מודלים.
מי עוד מעריך?
SecureBio ו-Accenture, עם שיחות מוקדמות עם אחרות, כולל Hugging Face.
מהן שלוש הרמות?
רמה אחת היא חקירות צרות שמפורסמות באישור Anthropic. רמה שתיים יכולה לפרסם בלי אישור אבל עם השמטות אפשריות. רמה שלוש היא הגישה כמו-של-עובד של METR עם זכויות פרסום של רמה שתיים.
האם זה משנה מה לעשות כבונה?
הפוסט לא פונה לבונים ישירות. ההצעה שלי היא לקרוא את ההערכות המפורסמות כשהן מופיעות ולהמשיך לבדוק את מקרי השימוש שלכם.
מקורות
- Anthropic, An update on independent evaluators (15 באוקטובר 2026, הערות שוליים עודכנו 15 ו-16 באוקטובר): כל הטענות למעלה.
קריאה נוספת
- Anthropic אומרת שמודלי AI קטנים עשויים בקרוב לשכפל את עצמם על מכשירי IoT. מה הראיות מראות, ומה לא
מחקר של Anthropic מ-12 באוקטובר מרמז שמודלים פתוחי-משקל קטנים יכולים להיות חודשים מלהשתכפל על פני מכשירי IoT זולים. קריאה זהירה של הטענות, מגבלות הניסויים, ואמצעי ההגנה שהיא מפרטת.
- Self-hosted Claude Managed Agents: שירות הסוכנים של Anthropic רץ עכשיו על התשתית שלך
Anthropic פתחה את self-hosted Claude Managed Agents בבטא פרטית: אתה מארח את שירות הסוכנים, את מסד הנתונים ואת ארגזי החול, וקריאות המודל הולכות ל-Claude API או לספק שאתה בוחר. מה רץ איפה, אילו הרשאות קיימות, מה עדיין יוצא מהרשת שלך, ומה כדאי לבדוק לפני שמתחייבים.
- המדריך של Anthropic לסוכני always-on: חמישה פרימיטיבים מאחורי סוכנים שלא יושבים בחינם
Anthropic פרסמה מדריך לבניית סוכני always-on: סוכנים שומרי-מצב ופרואקטיביים שמנהלים קונטקסט בין סשנים. הרעיון המרכזי הוא שהסוכן לא באמת רץ כל הזמן - הוא ישן בין ריצות, וחמישה פרימיטיבים ארכיטקטוניים מחליטים מתי הוא מתעורר, מה הוא זוכר, ומה מגיע אליך.
יומן הבנייה
לעקוב אחרי העבודה.
מאמרים ואבטיפוסים חדשים, ישר לקורא ה-RSS שלכם. מנויי המייל בהשהיה זמנית, עד שאחבר שירות משלוח עובד. לא נאסף כאן אימייל.
עקבו ב-RSS