Anthropic אומרת שמודלי AI קטנים עשויים בקרוב לשכפל את עצמם על מכשירי IoT. מה הראיות מראות, ומה לא
מחקר של Anthropic מ-12 באוקטובר מרמז שמודלים פתוחי-משקל קטנים יכולים להיות חודשים מלהשתכפל על פני מכשירי IoT זולים. קריאה זהירה של הטענות, מגבלות הניסויים, ואמצעי ההגנה שהיא מפרטת.
ב-12 באוקטובר, Anthropic פרסמה מחקר עם כותרת בוטה: מודלי AI עשויים להיות מסוגלים לשכפל את עצמם בלי גישה לדטה-סנטר.
זו תחזית אבטחה, לא דוח אירוע. שום דבר בו לא אומר שתולעת AI קיימת היום. המאמר הזה מכסה מה הפוסט טוען, איך הוא בדק את הטענות האלה, איפה המחברים אומרים שהמגבלות, ואת נקודות ההגנה שהוא מפרט. כל הטענות באות מהפוסט של Anthropic. לא שיחזרתי אף ניסוי, ואני בכוונה לא מסכם פרטים תפעוליים.
הטענה המרכזית
המחברים כותבים שמודלי AI קטנים "עשויים להיות במרחק חודשים" מלהיות מסוגלים מספיק לשכפל את עצמם על מכשירי IoT מסחריים, כמו תנורים חכמים וקופסאות Android TV של מותגים לא-מוכרים. הם אומרים שמשכפל כזה יהיה קשה לכיבוי כי אין נקודה מרכזית לכבות, אם כי הוא עשוי להיות איטי, עם זמן הכפלה של ימים.
שתי הצהרות תומכות מהפוסט:
- מודלים של 30B פרמטרים ומטה כבר יכולים להשלים צעדי שכפול בודדים רבים, אבל עושים טעויות כשמחברים אותם מקצה לקצה.
- בהערכות המפושטות שלה, GLM-5.2 ומודלים חזקים יותר יכולים להשתכפל מקצה לקצה. אם מודלים קטנים ממשיכים להשתפר בקצב ההיסטורי שלהם, המחברים אומרים שהם ישוו לרמה ההיא עד סוף השנה.
מה בדקו
Anthropic מחלקת שכפול לארבעה שלבים: מציאת מטרות, השגת הרצה, הקמת inference, והמשך מהמארח החדש. היא אומרת שהיא במידה רבה שמה בצד את שלבי הניצול, כי מאמרים קודמים כבר מראים שמודלים קטנים יכולים לעשות פריצות סייבר עם הכלים הנכונים. היא מתמקדת בהקמת inference על חומרה לא-מוכרת, מה שהיא קוראת פחות נחקר.
תוצאות שהיא מדווחת:
- מודל 9B העמיד inference על 8 מתוך 9 סוגי החומרה שנבדקו.
- הוא הריץ Gemma4-26B-A4B על פני 15 קופסאות Android TV זולות, בערך $55 כל אחת, ב-0.39 טוקנים לשנייה.
- בצי מכיל של 8 צמתי ענן שמחקים Android, רק GLM-5.2 מבין המודלים הפתוחי-המשקל שנבדקו השתכפל מקצה לקצה. הוא הגיע ל-8 מתוך 8 צמתים ב-4 מתוך 5 ניסיונות ול-7 מתוך 8 באחד.
- במבחן שבו כל דור ירש את הפתקים של הקודם, הצלחת ההקמה עבור Qwen3.5-9B עלתה מ-45% בדור הראשון לבין 61% ל-84% בדורים מאוחרים יותר.
- מתן גישה למודל יועץ חזק יותר למודל קטן לא עזר באופן מדיד.
המגבלות שהמחברים מציינים
אלה משנות כמו הכותרת:
- חלק הסייבר של ההערכה נשמר טריוויאלי, בלי אימות על פורט הגישה. המחברים קוראים לתוצאה גבול עליון על הצלחה בעולם האמיתי.
- היום, היכולת הנדרשת לשכפול והגודל הקטן הנדרש להתאים על מכשירים זולים לא חופפים. טענת "במרחק חודשים" נשענת על קו מגמה, מדד יכולת כללי המשמש כפרוקסי ליכולת שכפול. המחברים קוראים לזה הערכה גסה.
- אומדן המהירות שלהם, שאוב מבוטנט עבר של מעל שני מיליון מכשירים, מגיע לערך inference של בערך 40 H100s לכל היותר, עם שכפול שלוקח ימים. הם מתארים את זה כגס ומעוגן בסוג חומרה אחד.
- הם לא בדקו אם תולעת כזו יכולה לפעול בחוכמה מול מגנים.
הגנה, כפי שהפוסט מתאר
המחברים ממסגרים הגנה כדחיפת קצב הרבייה מתחת ל-1 כך שהמשכפל נכחד. נקודות שהם עושים:
- משכפל בסקייל ישאיר חתימות רשת, כמו הורדות מודל גדולות ותעבורה מתמשכת מכשיר-למכשיר, גלויות לניטור ISP.
- מכשירי פיתיון יכולים לעזור לאסוף את הקוד של משכפל ברגע שנמצא.
- הם מצטטים את בוטנט Mirai הקודם, שם הסגר והודעות של ISP ניקו 92% מההדבקות בתוך 14 ימים, מול 74% בלי הודעות, ומצפים שצעדים דומים יעזרו כאן.
קראתי רק חלק מקטע ההקלה מקרוב, אז ראו את הפוסט לרשימה המלאה.
מה זה אומר לבונים
המסקנות שלי, לא של Anthropic:
1. היגיינת מכשירים היא המנוף המעשי. התרחיש תלוי באבטחת IoT חלשה, כמו אישורי ברירת מחדל או פורטים פתוחים. שינוי ברירות מחדל וסגירת שירותים לא-בשימוש עדיין משנה.
2. דעו מה הרשת שלכם עושה בדרך כלל. אם אתם מפעילים צי מכשירים, העברות גדולות חריגות ביניהם שוות התראה.
3. התייחסו לזה כתחזית. הפוסט מראה נתיב ומגמה סבירים, לא איום פרוס.
מה לא הייתי מסיק
אל תקראו את זה כהוכחה שתולעי AI מתפשטות. גם אל תקראו את זה כודאי: ציר הזמן הוא הקרנה ממדד פרוקסי.
ואל תתייחסו לזה כסיבה לחשוד במודלים פתוחי-משקל באופן כללי. הפוסט עוסק בסיכון שימוש-לרעה על חומרה מאובטחת רע.
שאלות נפוצות
מה Anthropic פרסמה?
פוסט מחקר מ-12 באוקטובר 2026 על האם מודלי AI קטנים יכולים לשכפל את עצמם על פני מכשירי IoT.
יש תולעת AI מתפשטת עכשיו?
הפוסט לא אומר כך. זו תחזית מבוססת ניסויים.
מהי טענת ציר הזמן?
שמודלים קטנים יכולים להשוות ליכולת של GLM-5.2, סף השכפול שלו, עד סוף 2026 אם הם משתפרים בקצב ההיסטורי שלהם.
מה הניסויים הראו?
מודלים קטנים יכולים להקים inference על סוגי חומרה רבים, ומודל פתוח-משקל אחד השתכפל על פני צי מבחן מכיל.
כמה ריאליסטיים היו המבחנים?
מפושטים. המחברים שמרו את שלב הניצול טריוויאלי וקוראים לתוצאות גבול עליון.
איך אפשר להגן?
ניטור רשת, מכשירי פיתיון, והסגר והודעות של ISP, לפי הפוסט.
מה כדאי לעשות?
לאבטח מכשירי IoT, לשנות ברירות מחדל, ולנטר תעבורה חריגה. אלה הצעות שלי.
מקורות
- Anthropic, AI models may be capable of self-replicating without access to a datacenter: כל הטענות, התוצאות, המגבלות וההגנות (12 באוקטובר 2026).
- TLDR AI, גיליון 13 באוקטובר: מצביע גילוי בלבד.
קריאה נוספת
- Anthropic נתנה ל-METR גישה כמו-של-עובד. מה שלוש הרמות אומרות, ומה הן לא אומרות לבונים
Anthropic הכריזה על גישה כמו-של-עובד ל-METR ומודל של שלוש רמות למעריכים עצמאיים. מה הפוסט מצהיר על גישה, זכויות פרסום והשמטות, ואיך בונה יכול לקרוא טענות בטיחות של ספקים.
- Self-hosted Claude Managed Agents: שירות הסוכנים של Anthropic רץ עכשיו על התשתית שלך
Anthropic פתחה את self-hosted Claude Managed Agents בבטא פרטית: אתה מארח את שירות הסוכנים, את מסד הנתונים ואת ארגזי החול, וקריאות המודל הולכות ל-Claude API או לספק שאתה בוחר. מה רץ איפה, אילו הרשאות קיימות, מה עדיין יוצא מהרשת שלך, ומה כדאי לבדוק לפני שמתחייבים.
- המדריך של Anthropic לסוכני always-on: חמישה פרימיטיבים מאחורי סוכנים שלא יושבים בחינם
Anthropic פרסמה מדריך לבניית סוכני always-on: סוכנים שומרי-מצב ופרואקטיביים שמנהלים קונטקסט בין סשנים. הרעיון המרכזי הוא שהסוכן לא באמת רץ כל הזמן - הוא ישן בין ריצות, וחמישה פרימיטיבים ארכיטקטוניים מחליטים מתי הוא מתעורר, מה הוא זוכר, ומה מגיע אליך.
יומן הבנייה
לעקוב אחרי העבודה.
מאמרים ואבטיפוסים חדשים, ישר לקורא ה-RSS שלכם. מנויי המייל בהשהיה זמנית, עד שאחבר שירות משלוח עובד. לא נאסף כאן אימייל.
עקבו ב-RSS