הזינוק בטוקנים של AI מראה בעיקר שהסוכנים שלכם מבזבזים כסף

גרפים של צמיחה מעריכית בדרך כלל מרגיעים משקיעים ומנהלים, עד שמסתכלים על החשבונית החודשית שיוצאת מחשבון הבנק. לפי נתונים שפרסם אתר The Decoder, צריכת הטוקנים השבועית בפלטפורמת OpenRouter זינקה ביותר מ-25,000 אחוזים מאז ינואר 2025, כשהיא מטפסת מ-0.5 טריליון ל-126.2 טריליון טוקנים בשבוע אחד בלבד בספטמבר 2026. המספר הזה נשמע מפלצתי, אבל הוא משקף את האופן שבו ארכיטקטורת התוכנה שורפת משאבי מחשוב בקצב חריג, בזמן שאימוץ משתמשי הקצה זוחל מאחור.

טוקנים הם יחידת המדידה של המודל, בערך כמו ליטרים של דלק למנוע. בעולם של סוכנים אוטונומיים, המנוע שלכם יכול לעמוד במקום, לשרוף מיכל שלם ולחשוב שהוא בדרך לחיפה.

החשבון גדל, אבל המשתמשים לא.

טוקנים של חשיבה מול ערך

מודלי הסקה מייצרים כמויות עצומות של טוקני חשיבה לפני שהם מפיקים תשובה, מה שמנפח את הספירה בצורה דרמטית.The Decoder

הפער בין מספר הטוקנים לבין ערך עסקי בפועל נעוץ במעבר למודלי חשיבה (reasoning). המודלים האלה מייצרים אלפי טוקנים מוסתרים של שרשראות מחשבה, בדיקות עצמיות ופניות פנימיות לפני שהם מחזירים משפט בודד למשתמש הקצה. כשבונים מערכת מבוססת סוכנים, כל שלב כזה מתרבה במספר הפניות שהסוכן מבצע כדי לאמת את הצעדים שלו מול כלים חיצוניים.

כשמוסיפים למשוואה הזו סוכן שרץ בלולאה לא אופטימלית, ומנסה לתקן שגיאת קוד קטנה עשרות פעמים ברצף, צריכת הטוקנים מזנקת לשמיים בלי שהמשתמש ראה ערך חדש. כל איטרציה מעבירה מחדש את כל היסטוריית השיחה המנופחת, יחד עם טוקני החשיבה שהצטברו בניסיונות הקודמים, והחיוב במונה ה-API ממשיך לדפוק. להסתכל על הגרף הזה כהוכחה להצלחה של מוצר זה פשוט עיוורון כלכלי.

כפי שכותב Matthias Bastian, עלייה קטנה בשימוש יכולה להיתרגם לזינוק ענק בצריכת טוקנים, במיוחד כאשר המערכות אינן מהודקות ברמת הקוד. הזינוק במספר הטוקנים נובע במידה רבה ממודלי חשיבה וממערכות סוכנים לא מאופטמות ששורפות משאבים בקצב מסחרר. זה נוח מאוד לספקי המחשוב, אבל הרבה פחות למי שצריך להציג רווחיות בסוף הרבעון.

סוכן אוטונומי פשוט לא עוצר לנוח.

מפת המודלים והעלויות

ההבדל בין המודל שמוביל בנפח התנועה לבין המודל שמייצר את ההכנסות הגבוהות ביותר מחדד את התמונה. לפי הנתונים, המודל GPT 5.6 Luna של OpenAI שלט לאחרונה בנפח הטוקנים שנצרכו בנתב. המודל מייצר כמות גדולה של טוקנים לכל פרומפט בהשוואה לאחרים, וזה לא מעיד על מספר משתמשים גבוה יותר. הוא חושב בקול רם, והמפתח משלם על כל מילה בהרהור הפנימי שלו.

בצד ההכנסות בפועל, המודל Astra של החברה הוא שמוביל את הטבלה, מה שמוכיח שעלות גבוהה ליחידה מכניסה לספקים יותר כסף מנפח גולמי של טוקנים זולים. ספקים מעדיפים להציג נתוני צריכה בטריליונים במקום נתוני הכנסה מדויקים: גרף הטוקנים עולה בחדות מעלה, בעוד שההכנסה הדולרית מתחלקת בצורה שונה לחלוטין בין מודלי פרימיום למודלי עבודה שגרתיים.

במקביל, מודלים סיניים זולים ופתוחים רושמים עלייה חדה בשימוש. ההוצאה החודשית על מודלים כמו DeepSeek, לצד Kimi ו-GLM, עלתה פי 10 מתחילת 2026. מפתחים רבים מפנים משימות רקע זולות או תפקידי ביניים לספקים הללו כדי לחסוך בהוצאות, אף שסך ההוצאה עליהם עדיין מגיע מבסיס נמוך ביחס לענקיות המערביות.

בבדיקת דף המחירים הרשמי של הנתב, אפשר לראות בבירור את פערי העלויות: סנטים בודדים למיליון טוקנים במודלים הסיניים מול מחירים מלאים במודלי העילית. מי שבונה מערכת סוכנים מורכבת מבין מהר מאוד שהרצת מודל הסקה מערבי לכל צעד קטן תרוקן את התקציב שלו בתוך ימים בודדים, ולכן התנועה נודדת לאלטרנטיבות זולות.

המגבלה המקומית והרגולטורית

מפתחים מקומיים רבים שמחים לנצל נתבים גלובליים כדי להריץ שאילתות על מודלים מקומיים, כולל מודלי Jamba של AI21 Labs הישראלית, שזוכים לחיבור נוח בצינורות העבודה. עם זאת, התמונה הארגונית שונה לחלוטין. ארגונים בישראל, בדומה לחברות הפועלות תחת רגולציה בארצות הברית ובאירופה, נתקלים במחסום של ממש ברגע שמגיעים לשאלות של ריבונות נתונים ואבטחת מידע.

לפי הדוקומנטציה של פיצ'ר ה-Sovereign AI, הנתב מאפשר הגבלות ניתוב גאוגרפיות לאזורים כמו ארצות הברית או האיחוד האירופי, אך אינו מציע שרתי עיבוד בישראל. עבור גופים ביטחוניים, מוסדות פיננסיים או מערכות בריאות מקומיות שמחויבות לשמור את המידע בגבולות המדינה, ניתוב דרך צד שלישי אינו אפשרי לפי התקנות. בנוסף, העובדה שהחיוב נעשה בדולרים וללא תמיכה בהסדרי תשלום מקומיים בשקלים, מרחיקה את רוב הארגונים הגדולים לעבודה ישירה מול חוזי ענן של AWS או Azure.

נתוני הניתוב הללו מייצגים בעיקר מפתחים עצמאיים, פרויקטים צדדיים ובוני אפליקציות צ'אט רגישים למחיר. הם משקפים שכבה מצומצמת ולא את ההסכמים השנתיים של חברות ענק. חברה שמשלמת על חוזה ארגוני סגור בענן בכלל לא מופיעה בגרף הזינוק השבועי הזה, ולכן הניסיון להשליך מהנתבים על כלל השוק אינו מחזיק מים.

מי שמחויב לחוק הגנת הפרטיות הישראלי יתקשה להעביר מידע רגיש דרך שרתי פרוקסי שאינם מספקים עמידה בדרישות מקומיות. מסיבה זו, השוק הארגוני הכבד נשאר מאחורי חומות הענן הפרטיות, גם אם זה עולה לו יותר.

איך לבדוק את הצינור

אם אתם מנהלים ארכיטקטורת סוכנים ורואים את צריכת הטוקנים שלכם מכפילה את עצמה, כדאי לעצור לפני שמזמינים שרתים נוספים. הדבר הראשון שיש לבדוק הוא מדד העלות פר משימה מוצלחת, במקום מעקב עיוור אחרי כמות הטוקנים שהסוכן פלט. אם סוכן קוד שרף הררי טוקנים כדי לתקן פסיק בבדיקת יחידה, המערכת שלכם אינה חכמה יותר, היא רק בזבזנית. לא הייתי ממהר להוסיף עוד מודלים לצינור לפני שמנקים את הלולאות הקיימות.

שנית, הגדירו תקרת קריאות קשיחה לכל לולאה עצמאית. סוכנים שנכנסים למבוי סתום נוטים לחזור על אותה פרומפט בווריאציות שונות, כשכל ניסיון כולל את כל היסטוריית השיחה הקודמת. במקרים כאלה, עדיף לחתוך את הריצה ולבקש התערבות אנושית מאשר לאפשר למודל להמשיך להסביר לעצמו למה הפונקציה נכשלת שוב ושוב. בדיקה פשוטה של הלוגים תגלה לכם מהר מאוד כמה כסף הולך על ניסיונות סרק שלעולם לא יגיעו לפתרון.

כדאי גם להפריד בין שלבי התכנון לשלבי הביצוע. אין סיבה להשתמש במודל הסקה כבד ויקר כדי לשלוף נתונים פשוטים מבסיס נתונים או לעצב טבלת HTML. ניתוב חכם למודלים קלים וזולים בשלבי הביצוע השגרתיים יחזיר את הגרף שלכם לממדים שפויים. השאירו את מודלי החשיבה הכבדים רק לצמתים שבהם נדרשת החלטה ארכיטקטונית ממשית, ולא לכל קריאת API שגרתית.

גרף שמראה עלייה של עשרות אלפי אחוזים נראה מעולה במצגות לגיוס הון, אבל בתוך מסופי הפיתוח שלכם הוא בעיקר תזכורת לכך שחישוב עולה כסף אמיתי. המודל שלכם ימשיך לחשוב כל עוד תתנו לו, ואתם אלה שתשלמו על כל שבריר שנייה של היסוס.