איך פרסתי בוט WhatsApp AI על Cloud Run (ולמה לעולם לא אחזור ל-Long-Polling)
פירוק מגוף ראשון של בנייה ופריסה של בוט WhatsApp AI בפרודקשן על Google Cloud Run עם Green API ו-Claude - החלטות ארכיטקטורה, תיקוני cold start, ושלושת הדברים שבאמת נשברו בשבוע הראשון.
הבוט שרץ בתוך מערכת הרב-סוכנית הנוכחית שלי התחיל כניסוי סוף שבוע. עד שלישי הוא טיפל בהודעות WhatsApp אמיתיות מאנשים אמיתיים, רץ על Cloud Run, ועלה בערך 4$ לחודש. הנה כל מה שלמדתי בבנייתו - ארכיטקטורה, מצבי כשל, וההחלטות הספציפיות שהייתי מקבל אחרת אם הייתי מתחיל מחדש היום.
למה Cloud Run ולא VPS
הגרסה הראשונה רצה על droplet של DigitalOcean. 12$ לחודש, תמיד דולק, פשוט. הבעיה לא הייתה עלות - היא הייתה אני. Droplets צריכים טיפול. תעודות פגות. תהליכי Node קורסים ב-3 לפנות בוקר. אתם צריכים לדאוג לזמינות בצורה שמושכת תשומת לב מהדבר שאתם באמת רוצים לבנות.
Cloud Run שונה. אתם נותנים לו קונטיינר, הוא רץ לפי דרישה. בלי שרת להכנס אליו ב-SSH. בלי דשבורד זמינות לבדוק. הקונטיינר ישן בין בקשות ומתעורר תוך פחות משנייה כשהודעה מגיעה. לבוט WhatsApp שמטפל בתנועה שיחתית - פרצי פעילות, ואז שקט - זה כמעט מודל החישוב המושלם.
הסיבה האחרת: Cloud Run משתלב נקי עם Google Secret Manager, Cloud Logging, ו-Cloud Scheduler. אם הארכיטקטורה שלכם כבר חיה ב-GCP (שלי כן - אני משתמש ב-Firestore לזיכרון סוכנים, Cloud Storage לקליטת מסמכים), אתם מקבלים אימות service account ו-IAM בחינם. בלי תשתית סודות נפרדת לתחזק.
הארכיטקטורה בשפה פשוטה
הבוט רץ כשירות Cloud Run יחיד. הנה הזרימה כשמישהו שולח הודעה:
1. Green API מקבל את הודעת ה-WhatsApp דרך webhook ומעביר בקשת POST לכתובת שירות ה-Cloud Run
2. השירות מאמת את ה-webhook, מחלץ את טקסט ההודעה ומזהה השולח
3. הוא קורא ל-Claude API (Anthropic) עם ההודעה, בתוספת כל הקשר שהוא שולף מ-Firestore (היסטוריית שיחה, מצב משתמש)
4. הוא שולח את התשובה חזרה דרך נקודת send-message של Green API
5. התגובה נרשמת ל-Cloud Logging ומצב השיחה מתעדכן ב-Firestore
זהו. בלי תור. בלי thread עובד. בלי Redis. כל הדבר מעבד תוך פחות מ-3 שניות לרוב ההודעות, מה שמספיק מהר שמשתמשים לא שמים לב.
תקנו אותי - יש מקרה אחד שבו התור משנה. אם משתמש שולח שלוש הודעות ברצף מהיר לפני שהתשובה הראשונה נוחתת, אתם מקבלים race conditions על הקריאה/כתיבה ב-Firestore עבור מצב השיחה. פתרתי את זה עם דפוס mutex פשוט באמצעות טרנזקציית Firestore, לא שירות תור נפרד. שלוש שורות קוד נוספות, בלי תשתית חדשה.
למה Green API ולא WhatsApp Business API הרשמי
השאלה הזו עולה כל פעם שאני מזכיר את המחסנית. ה-WhatsApp Business API הרשמי (Meta) דורש חשבון עסקי מאומת, מספר טלפון שלא יכול להיות המספר האישי שלכם, ותהליך אישור של 2-4 שבועות. אתם גם משלמים לשיחה (בערך 0.005$-0.008$ לחלון 24 שעות לשיחות ביוזמת משתמש ברוב הרמות).
Green API הוא גשר לא רשמי - הוא מתחבר ל-WhatsApp Web מתחת למכסה. אתם משתמשים במספר טלפון אמיתי (סים שאתם מחזיקים), מקשרים אותו ל-Green API, והוא חושף REST API נקי לשליחה/קבלה של הודעות. מסירת ה-webhook אמינה. מגבלות הקצב נדיבות לשימוש בסקייל אישי או עסק קטן.
הפשרה היא שזה נגד תנאי השימוש של WhatsApp לשימוש מסחרי מלא, ו-Meta יכולה לחסום את המספר אם היא מזהה אוטומציה. בפועל, לבוטים של מספר יחיד עם נפחי הודעות סבירים (נגיד, מתחת ל-200 הודעות ביום), לא היו לי אפס בעיות. המספר שמריץ את המערכת הנוכחית שלי חי כבר שבעה חודשים בלי שום עבירה.
אם אתם בונים לחברה גדולה או צריכים ציות מדיניות מוחלט, השתמשו ב-API הרשמי. לאבות-טיפוס, כלים פנימיים, או סוכנים אישיים - Green API מעולה genuinely.
הקונטיינר: מה באמת בפנים
השירות הוא אפליקציית Node.js Express. ה-Dockerfile הוא בערך 15 שורות. הנה בערך מה הוא עושה:
FROM node:20-slim
WORKDIR /app
COPY package*.json ./
RUN npm ci --only=production
COPY . .
ENV PORT=8080
EXPOSE 8080
CMD ["node", "index.js"]
התמונה יוצאת בערך 180MB. זמן cold start על Cloud Run הוא בסביבות 1.1 שניות לתמונה הזו, שמדדתי על פני 40 עליות קרות בשבוע הראשון. זה מקובל לבוט WhatsApp - משתמשים רגילים לעיכוב הקלדה טבעי - אבל זה משהו לעקוב אחריו.
משתני ה-ENV הקריטיים מועברים דרך אינטגרציית secret manager המובנית של Cloud Run:
ANTHROPIC_API_KEY- מפתח ה-Claude APIGREEN_API_INSTANCE_ID- מזהה instance של Green APIGREEN_API_TOKEN- טוקן האימותFIRESTORE_PROJECT_ID- פרויקט GCP עבור מצב שיחה
שום דבר רגיש לא חי בתמונת הקונטיינר או בבקרת הגרסאות. זה לא לדיון. ראיתי אנשים דוחפים קבצי .env למאגרים ציבוריים - פעם אחת מספיקה כדי לשרוף מפתח Stripe או אישור API ב-2 לפנות בוקר.
שלושת הדברים שבאמת נשברו
1. תזמון אימות ה-Webhook
שירותי Cloud Run כברירת מחדל דורשים מינימום instance אחד רץ אם הגדרתם min-instances=1, או שהם יכולים לרדת לאפס. התחלתי עם ירידה-לאפס לחסוך עלות. הבעיה: ההודעה הראשונה אחרי תקופה קרה הפעילה את ה-cold start (1.1 שניות), ולוגיקת הניסיון החוזר של webhook של Green API פירשה את התגובה המעוכבת ככשל. היא ניסתה את אותה הודעה מחדש - והבוט שלי ענה פעמיים על ההודעה הראשונה בכל פעם שהוא התעורר מקור.
תיקון: הגדרתי min-instances=1 בשעות העבודה באמצעות Cloud Scheduler. משימת cron שולחת פינג keepalive ב-8:00 ואחרת מסירה את הגדרת ה-min-instance ב-22:00. מוסיף אולי 1.50$ לחודש. שווה את זה.
2. היסטוריית שיחות Firestore גדלה בלי גבול
כל שיחה כותבת למסמך Firestore. לא הגדרתי TTL. אחרי שבועיים, לחלק מהמסמכים היו 300+ סיבובי הודעות מאוחסנים. חלון ההקשר של Claude הופך יקר מהר אם אתם שולחים באופן נאיבי את ההיסטוריה המלאה עם כל בקשה.
תיקון: הגבלתי את היסטוריית השיחה ל-20 הסיבובים האחרונים. כל דבר ישן יותר מועבר לארכיון ב-bucket של Cloud Storage (JSON שטוח, 0.02$ ל-GB לחודש) ומושמט ממסמך ה-Firestore. לבוט עדיין יש גישה להקשר ישן יותר דרך שדה סיכום נפרד - כל 20 סיבובים, אני מריץ קריאת Claude שדוחסת את ההיסטוריה הקודמת לסיכום של 3 משפטים. עלות קריאת הסיכום ההיא: בערך 0.0008$. עלות שליחת 300 סיבובים ל-Claude: הרבה יותר.
3. הודעות מדיה לא מטופלות
משתמשים שולחים תמונות, הודעות קוליות, מדבקות, מסמכים. הגרסה הראשונה שלי נכנסה לפאניקה על כל דבר שלא היה הודעת טקסט. לא קריסה - הוספתי try/catch - אבל השמטתי הודעות מדיה בשקט ולא שלחתי שום תשובה, מה שהרגיש שבור מצד המשתמש.
תיקון: נתב סוגי מדיה. תמונות מקבלות תיאור דרך נקודת ה-vision של Claude. הודעות קוליות אני מדלג עליהן לעת עתה ועונה "הודעות קוליות בקרוב - שלחו טקסט לעת עתה". מסמכים אני מחלץ מהם טקסט אם הם PDFs (באמצעות parser קליל), אחרת אני עונה עם אישור סוג קובץ. זה לקח בערך ארבע שעות לבנות ומטפל ב-95% ממגוון ההודעות בעולם האמיתי.
סקיילינג ועלות
המערכת הנוכחית רצה כבר שבעה חודשים. הנה פירוט העלות האמיתי לחודש מייצג (אפריל 2026):
- חישוב Cloud Run: 2.14$ (בעיקר ה-keepalive של min-instances בשעות העבודה)
- קריאות/כתיבות Firestore: 0.83$
- Cloud Storage (ארכיון): 0.04$
- Claude API (claude-3-5-haiku לרוב ההודעות, claude-3-5-sonnet לשאילתות מורכבות): 7.22$
- מינוי Green API: 15$ לחודש (עלות קבועה לשירות שלהם)
סה"כ: בערך 25$ לחודש לבוט שמטפל בבערך 400-600 הודעות אמיתיות. בערך 0.05$ לשיחה. לכל דבר שהייתי גובה מלקוח, זה זניח.
עלות ה-Claude הייתה גבוהה יותר בחודש הראשון (31$) לפני שמימשתי את הגבלת ההיסטוריה והחלפתי את לוגיקת הניתוב לשלוח שאילתות פשוטות יותר ל-Haiku. שתי החלטות, אחה"צ אחד, ירידת עלות של 75%.
חיבור למערכת הסוכנים הרחבה יותר
בוט ה-WhatsApp הוא לא מוצר עצמאי. הוא אחד משבעה סוכנים במערכת הרב-סוכנית הנוכחית שלי. הבוט משמש כדלת הכניסה השיחתית - הוא מקבל הודעות, מסווג כוונה, ומנתב לסוכנים מתמחים: אחד לפעולות יומן, אחד לתוכן (מחובר לצינור התוכן שמריץ את harelasaf.com), אחד לשאילתות מחקר, אחד למעקב פיננסי.
זה מה שאני מתכוון כשאני מתאר את עצמי כבונה AI ולא כמפתח צ'אטבוטים. הבוט הוא הממשק. המערכת מאחוריו היא איפה שהעבודה האמיתית קורית. בניית שירות ה-Cloud Run לקחה אולי שמונה שעות. בניית שכבת ניתוב הסוכנים, ארכיטקטורת הזיכרון, אינטגרציות הכלים - זה הפרויקט האמיתי.
הארכיטקטורה שתיארתי באיך בניתי מערכת רב-סוכנית שמנהלת את עצמה היא אותה מערכת שהבוט הזה מזין. שכבת ה-WhatsApp היא משטח הקלט. Firestore הוא הזיכרון המשותף. Cloud Run הוא החישוב. Claude הוא האינטליגנציה.
מה הייתי משנה אם הייתי מתחיל היום
להשתמש ב-Telegram במקום לאבות-טיפוס. ה-Bot API של Telegram רשמי, חינמי, עם אמינות webhook טובה יותר, ולא מסכן השעיית חשבון. לכל דבר שצריך להגיע ספציפית ל-WhatsApp (ורוב הלקוחות צריכים), עברו ל-WhatsApp Business API הרשמי ברגע שאתם עוברים את שלב אב-הטיפוס. Green API מעולה למהירות אבל נושא סיכון תנאי שימוש.
להתחיל עם min-instances=1 מיד. בעיית חוויית ה-cold start אמיתית. הפרש העלות ל-keepalive מינימלי הוא לא.
להוסיף תור הודעות מהיום הראשון. תור Cloud Tasks פשוט מול ה-handler לא עולה כלום ומבטל את בעיית ה-race condition לגמרי. הוספתי את זה בדיעבד, מה שדרש refactoring של ה-handler. ארבע שעות שהייתי יכול לחסוך.
לכשר הכול מההתחלה. Cloud Logging חינמי לשימוש אבל אתם צריכים לבנות את מבנה הלוג. הלוואי שהייתי מגדיר פורמט לוג סטנדרטי (message_id, user_hash, intent_class, latency_ms, model_used, token_count) לפני כתיבת ה-handler הראשון. להתאים לוגינג מובנה למערכת עובדת זה מעצבן.
מקורות
אלה הפניות טכניות, לא אימות עצמאי של העלויות האישיות, התזמונים, הארכיטקטורה או התוצאות המדווחים במאמר הזה. הנתונים ההיסטוריים האלה דורשים את הרשומות המקוריות; אל תשתמשו בהם כתקציב או מדד נוכחי.
- Cloud Run billing settings: חיוב מבוסס-instance ומבוסס-בקשות.
- Cloud Run minimum instances: התנהגות instance חמים.
שאלות נפוצות
מהו בוט WhatsApp AI על Cloud Run?
בוט WhatsApp AI על Cloud Run הוא אפליקציה מוקונטיינרית הפרוסה על Google Cloud Run שמקבלת הודעות WhatsApp דרך webhook, מעבדת אותן עם LLM כמו Claude, ושולחת תשובות אוטומטית. Cloud Run מטפל בסקיילינג ותשתית; אתם כותבים את הלוגיקה. גרסה מינימלית רצה בפחות מ-5$ לחודש בעלויות חישוב.
האם אפשר להשתמש ב-WhatsApp Business API הרשמי במקום Green API?
כן. ה-WhatsApp Business API הרשמי (Meta) תואם-מדיניות ומתאים לשימוש מסחרי. הוא דורש אימות עסקי ויש לו תמחור לשיחה (כ-0.005$-0.008$). Green API הוא גשר לא רשמי שמשתמש במספר טלפון אמיתי - מהיר יותר לאב-טיפוס, אבל נגד תנאי השימוש של WhatsApp לאוטומציה מסחרית. בחרו לפי דרישות הציות שלכם.
כמה עולה בוט WhatsApp Claude על Cloud Run?
במערכת הפרודקשן שלי, חישוב Cloud Run עולה בערך 2$ לחודש עם min-instances=1 בשעות העבודה. עלויות Claude API תלויות בנפח הודעות ובחירת מודל - אני משלם בערך 7-10$ לחודש על 400-600 הודעות בתמהיל של Haiku ו-Sonnet. Green API מוסיף 15$ לחודש קבוע. סה"כ: בערך 25$ לחודש.
איך מטפלים ב-cold starts על Cloud Run לבוט WhatsApp?
הגדירו min-instances=1 בשעות הפעילות הצפויות באמצעות Cloud Scheduler. משימת cron שולחת פינג keepalive בתחילת היום ו-min-instances של Cloud Run נשאר על 1, ומבטל cold starts. בלילה, רדו חזרה לאפס. זה עולה בערך 1.50$ לחודש לשירות קטן ומסיר את בעיית ניסיון ה-webhook החוזר שנגרמת על ידי תגובות cold start איטיות.
איזה מסד נתונים כדאי להשתמש בו להיסטוריית שיחות של בוט WhatsApp?
Firestore עובד טוב למצב שיחתי - קריאות מהירות, מבנה מסמך-למשתמש, עדכוני זמן אמת. הדבר המרכזי להימנע ממנו הוא צמיחה בלתי מוגבלת: הגבילו היסטוריה מאוחסנת ל-20-30 סיבובים, העבירו הודעות ישנות יותר לארכיון ב-Cloud Storage, ותחזיקו שדה סיכום רץ לשיחות ארוכות. זה שומר על עלויות קריאה צפויות ועלויות חלון הקשר של Claude ניתנות לניהול.
איך מאחסנים סודות כמו מפתחות API לבוט WhatsApp על Cloud Run?
השתמשו ב-Google Secret Manager עם אינטגרציית הסודות המובנית של Cloud Run. התייחסו לסודות כמשתני סביבה בקונפיגורציית שירות ה-Cloud Run שלכם - הם מוזרקים בזמן ריצה, אף פעם לא מאוחסנים בתמונת הקונטיינר או בקוד המקור. תנו ל-service account של Cloud Run את התפקיד Secret Manager Secret Accessor. זה לא לדיון לכל פריסת פרודקשן.
האם אפשר לחבר בוט WhatsApp למערכת רב-סוכנית?
כן. בוט ה-WhatsApp משמש כדלת הכניסה השיחתית - הוא מקבל הודעות, מסווג כוונה, ומנתב לסוכנים מתמחים דרך קריאות API פנימיות או מצב משותף. במערכת שלי, הבוט מזין שבעה סוכנים כולל סוכן יומן, סוכן תוכן, וסוכן מחקר. זיכרון משותף חי ב-Firestore; לוגיקת הניתוב חיה ב-handler של הבוט.
מה ההבדל בין בוט WhatsApp לסוכן AI על WhatsApp?
בוט WhatsApp עוקב אחרי כללים קבועים: אם הקלט מתאים לדפוס X, שלח תגובה Y. סוכן AI על WhatsApp משתמש ב-LLM כדי להבין כוונה, מחליט אילו כלים לקרוא (יומן, חיפוש, שליפת מסמכים), ונוקט פעולות רב-שלביות לפני שהוא עונה. ממשק השיחה נראה אותו דבר. הפרש היכולת משמעותי - סוכנים מטפלים בקלטים חדשים שבוטים היו נכשלים עליהם.
קריאה נוספת
- Google TPU 8tx ו-8i Max: הסקה מסווגת וקונטקסט של מיליון טוקנים מקבלים מערכות ייעודיות
גוגל הכריזה על TPU 8tx ו-TPU 8i Max ב-9 בנובמבר והשלימה ארבע מערכות TPU מהדור השמיני בשנה אחת: 8t לאימון, 8i להיגיון, 8tx להסקה מסווגת ברמת החומרה, ו-8i Max לחלונות קונטקסט ענקיים. מה כל מערכת עושה, סטאק התוכנה הפתוח סביבן, ומה עדיין לא הוכרז.
- Agents CLI Extensions: לעקוף את פקודת ה-deploy של גוגל בלי Forking, ומה הבלוג אומר לנעול
Agents CLI 1.5.0 של גוגל הוסיף מערכת הרחבות ניסיונית. מה Google Developers Blog אומר על overrides, הפצה מבוססת-git, lockfiles, הרחבת LangChain ומדיניות deploy מותאמת אישית, ומה לבדוק קודם.
- Agent Sandbox ב-GKE: מה התיעוד דורש, מה הוא חוסם, ואיפה העמודים לא מסכימים
Agent Sandbox ב-GKE הוא תוסף מנוהל להרצת קוד סוכנים לא-מהימן ב-gVisor. מה התיעוד של גוגל אומר על warm pools, הגדרות pod חובה, ברירות מחדל של רשת ועלות, ועוד שני מקומות שבהם העמודים לא תואמים.
יומן הבנייה
לעקוב אחרי העבודה.
מאמרים ואבטיפוסים חדשים, ישר לקורא ה-RSS שלכם. מנויי המייל בהשהיה זמנית, עד שאחבר שירות משלוח עובד. לא נאסף כאן אימייל.
עקבו ב-RSS