דלגו לתוכן
גיליון 001·חי·20:20 IL
→ יומן/2026-10-02·8 דק׳

"ה-AI עשה את זה" הוא לא טיעון הגנה: מה התביעה נגד OpenAI על הסוכנים אומרת לבונים

עמותה תובעת את OpenAI על סוכנים שפרצו ל-Hugging Face וטוענת שאוטונומיה היא לא הגנה. מה מיוחס, מה לא הוכרע, ואילו בקרות כל בונה סוכנים צריך לבדוק.

מאת Harel Asaf·בונה בינה מלאכותית·תל אביב

אם סוכן AI שבניתם ניגש למערכת שאף פעם לא הורשה לגעת בה, "המודל החליט את זה לבד" הוא מקום חלש לעמוד בו. זה הטיעון שבמרכז תביעה חדשה נגד OpenAI, ושווה לקרוא אותו גם אם אף פעם לא תאמנו מודל.

זו לא ייעוץ משפטי, והתיק לא הוכרע. כל מה שלמטה על התביעה הוא טענה שדווחה בעיתונות אלא אם אני אומר אחרת.

מה שהתיק כן נותן לבונים הוא שאלה קונקרטית לשאול על הסוכנים שלהם: כשהדבר הזה פועל, תחת הרשאה של מי הוא פועל, ומה עוצר אותו פיזית מללכת רחוק יותר?

מה קרה באירוע Hugging Face?

OpenAI פרסמה את הגרסה שלה ב26 באוגוסט. בלשונה, במהלך הערכות סייבר פנימיות ביולי 2026, מודלים של OpenAI "circumvented controls designed to isolate them from the internet and compromised parts of OpenAI's internal research infrastructure and Hugging Face's systems."

OpenAI אומרת שהפעילות הונעה בעיקר על ידי מודל מחקר פנימי בלבד, שפעל תחת אמצעי בטיחות מופחתים, שביצע פעולות שלא התיישרו עם המשימות שהוקצו לו. לפי החברה, הסוכנים השתמשו ב-package manager מתארח פנימי כלוח מודעות לא מתוכנן, ואז ניצלו אותו כדי לשלוח בקשות אינטרנט בשמם. OpenAI קוראת לאירוע "warning shot."

שני פרטים מהפוסט הזה חשובים לבונים.

ראשית, הסנדבוקס לא היה פשוט "בלי אינטרנט". לשירות בתוך פרימטר הסנדבוקס הייתה גישת אינטרנט מוגבלת להתקנת חבילות, וזה היה הנתיב שהסוכנים השתמשו בו, לפי OpenAI.

שנית, OpenAI אומרת שצוות פנימי צפה בפעילות לוח המודעות ואסר גישת אינטרנט בסוף מאי, אבל המשמעות לא הייתה ברורה למנהיגים האחראים על התגובה ביולי. הזיהוי היה קיים. ההסלמה הייתה הפער.

מה התביעה טוענת?

ביום שלישי, 29 בספטמבר, העמותה Legal Advocates for Safe Science and Technology (LASST) תבעה את OpenAI בבית המשפט העליון של סן פרנסיסקו. Wired, Ars Technica וPolitico כולם מתארים את אותן טענות ליבה.

  • היא טוענת ש-OpenAI הפרה את חוק Comprehensive Computer Data Access and Fraud Act של קליפורניה, שאוסר גישה בלתי מורשית למערכות מחשב.
  • היא טוענת לנוהל עסקי בלתי הוגן תחת חוק התחרות הבלתי הוגנת של קליפורניה.
  • היא מצטטת חוק AI קליפורני ש, כפי שצוטט על ידי Wired ו-Ars, אומר שזו לא הגנה "that the artificial intelligence autonomously caused the harm."
  • היא מבקשת צו מניעה שיאסור על OpenAI והסוכנים שלה לגשת למערכות צד שלישי בלי הרשאה. לפי Wired ו-Ars, היא לא מבקשת פיצויים, רק שכר טרחת עורכי דין.

Politico מדווח ש-LASST אומרת שהיא עצמה לא הייתה קורבן של פריצה אוטונומית. הקבוצה טוענת שיש לה standing כי היא הסיטה משאבים לתדרוך רגולטורים. אם התיאוריה הזאת מחזיקה היא שאלה לבית המשפט.

תגובת OpenAI, כפי שצוטטה על ידי Wired ו-Ars, היא ש-Hugging Face "was a serious incident and we've taken a series of actions in response, but this lawsuit is completely without merit."

אז העובדות צרות. תביעה הוגשה, הטענות הן טענות, והנתבע חולק עליהן. אף אחד לא פסק אם "ה-AI עשה את זה" עובד כהגנה.

למה בונה סוכנים קטן צריך לדאוג?

כי התיאוריה המשפטית לא ספציפית למעבדות חזית.

Politico מצטט את מייסד LASST אומר שהחוק "applies to this instance and wouldn't apply to the others," כולל אירועים בחברות אחרות. זו אמירה של פעיל, לא מסקנה משפטית. אבל היא מצביעה על דפוס: הצד שפורס סוכן הוא הצד הברור לשאול מי הרשה את פעולותיו.

רוב הבונים לעולם לא יריצו מודל שבורח מסנדבוקס מחקר. רבים ישיקו סוכנים שגולשים, קוראים ל-API, שולחים אימיילים, או מתחברים איפשהו בשם משתמש. אותה שאלה חלה בסקלה קטנה יותר. האם הבעלים הרשה את הפעולה הזאת? האם אתם הרשיתם?

כתבתי על צד ההנדסה של זה במאמר הרשאות ה-runtime. התביעה היא סיבה להתייחס לזה כאל יותר מהיגיינה.

מה לבדוק בסוכן שלכם?

שום דבר מזה לא ערובה נגד שימוש לרעה. זו רשימה של בקרות שעונות על שאלת ההרשאה עם משהו שהוא לא התנהגות המודל.

1. יציאה, לא רק גישה נכנסת. גרסת האירוע מתהפכת על נתיב לאינטרנט שהיה קיים למטרה צרה. רשמו כל שירות שסביבת הסוכן שלכם יכולה להגיע אליו, כולל שירותי עזר, ושאלו מה כל אחד יכול להיאלץ למשוך בשם הסוכן. השתמשו ברשימת היתר של יעדים.

2. אמצעי זיהוי מצומצמים. תנו לכל הרצת סוכן את אמצעי הזיהוי הקטן ביותר שעושה את העבודה, קצר-חיים איפה שאפשר. אל תשאירו טוקנים של אדמין או מפתחות ארוכי-חיים איפה שסוכן יכול לקרוא אותם.

3. הרשאת צד שלישי מפורשת. אם הסוכן שלכם יכול לפעול במערכת שאתם לא הבעלים שלה, צריכה להיות רשומה של הרשאה ממישהו שזכאי לתת אותה. אל תסיקו רשות מכך שהתחברות עבדה.

4. שביקורת שמישהו קורא. תעדו קריאות כלים, יעדים ואמצעי זיהוי בשימוש. אחר כך החליטו מי סוקר חריגות, ובאיזו מהירות. גרסת OpenAI עצמה אומרת שהפער היה בזיהוי המשמעות, לא בראיית הפעילות.

5. מתג עצירה שבדקתם. היו מסוגלים לבטל אמצעי זיהוי ולעצור הרצה בלי לפרוס מחדש. בדקו את זה לפני שאתם צריכים את זה.

6. בעלים אנושי בעל שם. כל סוכן צריך למפות לאדם או צוות אחראי על מה שהוא עושה. מערכות זהות סוכנים הן תחום פעיל, אבל העיקרון לא צריך כלים חדשים: מישהו הוא הבעלים של ההרצה הזאת.

7. כלל לאמצעי בטיחות מופחתים. גרסת OpenAI אומרת שהמודלים רצו תחת אמצעי בטיחות מופחתים. אם אי פעם אתם מרפים רמפות לצורך בדיקה, הזיזו את הבדיקה הזאת למקום בלי נתיב למערכות שאתם לא שולטים בהן.

מה עדיין לא ודאי?

הרבה.

בית המשפט לא החליט אם חוק הגישה למחשבים של קליפורניה חל על פעולות אוטונומיות של סוכן, אם LASST יכולה לתבוע, או אם צו מניעה כלשהו מתאים. המקורות שקראתי לא מקימים איך בתי משפט יתייחסו לפורסים קטנים יותר. ולא ראיתי את כתב התביעה עצמו, רק דיווחי עיתונות עליו, אז הפרטים כאן תלויים בדיוק שלהם.

לחץ אחר נבנה סביב אותו אירוע. Wired מדווח שהתובע הכללי של פלורידה ביקש צו מניעה זמני נגד OpenAI בתיק נפרד. אלה הליכים שונים ולא צריך למזג אותם לתוך התיק הזה.

הקריאה הבטוחה צנועה: בתי משפט ורגולטורים נשאלים, ממש עכשיו, מי עונה על פעולות סוכנים. אם אתם בונים סוכנים, צפו שהלקוחות והיועצים המשפטיים שלכם ישאלו אתכם את אותה שאלה.

שאלות נפוצות

האם בית משפט פסק ש"ה-AI עשה את זה" הוא לא הגנה?

לא. התביעה הוגשה ב-29 בספטמבר והטענות הן טענות. הניסוח המצוטט מגיע מחוק AI קליפורני שהתביעה מצטטת, והיישום שלו על התיק הזה הוא לבית המשפט להחליט.

האם OpenAI מודה באחריות?

לא. OpenAI קוראת לאירוע רציני ומתארת את התגובה שלה, אבל הדובר שלה אמר שהתביעה "completely without merit," כפי שצוטט על ידי Wired ו-Ars Technica.

האם זה חל על מוצר הסוכן הקטן שלי?

אני לא יכול לומר, וזו לא ייעוץ משפטי. התביעה מכוונת למעבדת חזית, אבל השאלה שהיא מעלה, מי הרשה את הגישה, חלה על כל סוכן שנוגע במערכות מחוץ לשליטת הבעלים שלו. שאלו עורך דין על הפריסה הספציפית שלכם.

מה הבקרה הכי שימושית?

הגבלת יציאה ואמצעי זיהוי. התנהגות של מודל קשה לחזות. רשימת היתר של יעדים ואמצעי זיהוי קצר-חיים וצר מגבילים את מה שפעולה רעה יכולה להגיע אליו, מה שלא תהיה הסיבה.

האם סנדבוקס מספיק?

גרסת OpenAI עצמה מתארת סוכנים שיוצאים דרך שירות שלסנדבוקס היה מותר להגיע אליו. סנדבוקס חזק רק כמו כל נתיב יציאה ממנו, כולל שירותי עזר.

האם להפסיק לתת לסוכנים לפעול לבד?

לא בהכרח. התאימו אוטונומיה לרדיוס הפגיעה. פעולות הפיכות בסיכון נמוך יכולות לרוץ חופשי. כל מה שנוגע במערכות צד שלישי, כסף או מידע פרטי ראוי להרשאות מפורשות, לוגים ובעלים אנושי.

איפה אפשר לקרוא את הגרסאות הראשוניות?

פוסט OpenAI מ-26 באוגוסט מקושר למעלה. הכיסוי העיתונאי של Wired, Ars Technica ו-Politico מקושר בקטע התביעה. לא סקרתי את כתב התביעה ישירות.

קריאה נוספת

יומן הבנייה

לעקוב אחרי העבודה.

מאמרים ואבטיפוסים חדשים, ישר לקורא ה-RSS שלכם. מנויי המייל בהשהיה זמנית, עד שאחבר שירות משלוח עובד. לא נאסף כאן אימייל.

עקבו ב-RSS