תשתיות AI ב־2026: רוב הכלים לא מדברים עברית

עברית קשה שפה, אבל תקציב שרתים שנגמר באמצע החודש קשה הרבה יותר. מפתחים רבים שמתחילים לבנות מוצר מבוסס AI ממהרים לחבר שירותי ענן יקרים, מסדי נתונים וקטוריים ייעודיים ושרתי ניתוב מתוחכמים, רק כדי לגלות שהקוד מתקשה להתמודד עם תחביר מקומי ושחשבון האשראי מתנפח בלי סיבה. בקטגוריית מודלים ותשתית יש היום 101 כלים שונים, מתוכם 39 מציעים מסלול חינם ו־78 מפרסמים מחיר גלוי. עכשיו צריך להבין מה מתוכם באמת נחוץ לפרויקט שלכם, ואיפה בדיוק מסתתרות המלכודות.

ההחלטה בין שימוש ב־API לבין הרצה מקומית של מודל נשענת בעיקר על עלויות בקנה מידה רחב, שמירה על פרטיות המידע והזמן שאתם מוכנים להשקיע בתחזוקת שרתים. אם אתם בונים מוצר לשוק הישראלי, התמונה מסתבכת עוד יותר.

ההבדל בין עבודה שקטה לבין קריסה כלכלית מתחיל בהבנת החשבונית.

מקומי מול ענן: שאלת הפרטיות והחומרה

הרצת מודל על חומרה מקומית נשמעת כמו חלום לכל מנהל אבטחת מידע. תוכנת GPT4All מאפשרת להוריד מודלים פתוחים ולהריץ אותם ישירות על המחשב ללא תשלום דרך האתר הרשמי, מבלי ששום פיסת מידע תצא לרשת. הקבצים מותאמים ל־Windows כולל גרסת ARM, וגם ל־macOS ולגרסאות Ubuntu של Linux. המערכת כוללת את תכונת LocalDocs לשליפת מסמכים מקומיים, אבל דורשת כוח מחשוב רציני. על מעבד רגיל של מחשב משרדי המודלים האלה יזחלו, ובנוסף רוב המשקלים הפתוחים אומנו בעיקר על אנגלית. אם תזינו להם מסמכים בעברית, תקבלו תשובות מקוטעות או תחביר עילג לחלוטין.

במקביל, חברת Nomic שעומדת מאחורי הפרויקט מציעה פלטפורמת ענן בתשלום לחברות הנדסה ועיצוב. השירות מתחיל במסלול חינמי מוגבל ללא כרטיס אשראי, עובר למסלול אישי ב־20 דולר לחודש, ומגיע למסלול עסקי ב־40 דולר למשתמש עם דרישת מינימום של 25 מושבים. זה מביא את נקודת הכניסה הארגונית ל־1,000 דולר בחודש. כל מושב כזה מקבל יתרת שימוש של 20 דולר, שלפי החברה מספיקה לכ־80 עד 200 שיחות או 20 עד 80 סקירות של שרטוטים, כאשר חריגה דורשת קניית קרדיטים נוספים.

מהצד השני של המתרס נמצאים מודלים קומפקטיים שמיועדים לענן או להטמעה עצמית, כמו משפחת המודלים של Sho מבית מיקרוסופט המבוססת על המחקר הטכני של Phi-4 שפורסם בדצמבר 2024. המודל מציע 14 מיליארד פרמטרים ומציג ביצועים גבוהים במשימות מדעיות ומתמטיות בזכות אימון שיטתי על נתונים סינתטיים מבוקרים, שעוברים את תוצאות GPT-4 במבחנים האלה. ביוני 2025 נוספו Phi-4-mini קל המשקל וגרסת Phi-4-multimodal שמעבדת קול, תמונה וטקסט בו זמנית. אולם המודל מיועד להטמעה בקוד דרך שרתי Azure או שרתים עצמאיים, ואין בו שום התחייבות רשמית לתמיכה באיכות העברית.

בסיסי נתונים וניתוב: איפה שורפים כסף

כשמגיעים לשכבת הנתונים, הפיתוי להשתמש במסד ייעודי הוא גדול. שירות Pinecone מציע בסיס נתונים וקטורי מנוהל לחיפוש סמנטי, שזמין להתנסות דרך אתר החברה. הוא מחזיר אישור קליטה בפחות מ־100 מילישניות, חוסך תחזוקת שרתים ומציע מסלול Starter בחינם לפרויקטים קטנים, המספיק לכ־15 אלף חיפושים ביום על 30 אלף מסמכים או 44 אלף המלצות ל־50 אלף מוצרים. אבל בחינם לא תקבלו בחירת אזור ענן, אין גיבויים ואין שחזור נתונים. מסלול Builder עולה 20 דולר לחודש וכולל ניטור של Prometheus ו־Datadog, וסביבת ייצור במסלול Standard מחייבת מינימום של 50 דולר לחודש לפני עלויות צריכה נוספות. מסלול Enterprise דורש 500 דולר בחודש כדי לקבל זמינות של 99.95% ומפתחות הצפנה פרטיים. לא הייתי משתמש ב־Pinecone אם כל מה שאתם צריכים הוא חיפוש פשוט בכמה אלפי רשומות, כי תוסף מקומי ב־PostgreSQL יעשה את העבודה בלי תוספת מחיר.

מעל המודלים יושבת שכבת הניתוב והניטור. שירות Keywords AI, שפועל כיום תחת השם Respan בכתובת אתר Respan, מציע שער יחיד שמנתב פניות ליותר מ־1,000 מודלים, מונע השבתות באמצעות מעבר אוטומטי למודל גיבוי, ושומר שאילתות במטמון. המערכת רושמת זמני ריצה של כל צעד בשרשרת, החל משלב ה־embedding ועד ניסוח בתוך claude-opus-4-8. אפשר לדגום 2% מהתנועה בייצור ולהריץ בדיקה רב־שכבתית עם מודל שופט והתראות בסלאק. המסלול החינמי כולל 100 אלף רשומות יומן שנשמרות ל־7 ימים, 1,000 ציוני הערכה, 5 מערכי נתונים ו־5 פרומפטים. הקפיצה הבאה תעלה 199 דולר לחודש בחיוב שנתי, ועוד שמונה דולר לכל 100 אלף רשומות נוספות. עבור צוות שמריץ סוכנים מרובי פעולות מדובר בכלי בקרה חיוני, אך מפתחים בודדים ישלמו סכום גבוה על שכבת ביניים שמוסיפה גם השהיית רשת קלה.

התמחור המוסתר בחברות הגדולות

בזמן שחברות מסוימות מציגות מחיר מדויק לכל טוקן, שחקניות אחרות בוחרות להסתיר את המחירון לחלוטין. דוגמה מובהקת לכך היא חומרת Cerebras-GPT המבוססת על שרתי CS-4 של חברת Cerebras. התשתית הזו מספקת קצב חריג של עד 750 טוקנים לשנייה ומהירה פי 30 ממעבדים גרפיים רגילים, כדי לתמוך במודלים כמו GPT-5.6 Sol Ultrafast ולמנוע השהיות של סוכנים בכלים כמו Lovable, פלטפורמת Cognition ו־NinjaTech. עם זאת, אין באתר מחירון או מסלול חינמי, והשימוש מותנה בחוזה מסחרי ובפנייה לאנשי מכירות. שיתוף פעולה עם חברת AMD משלב מעבדי AMD Helios, אך חוות השרתים יושבות בארצות הברית ובפינלנד, ללא נקודת נוכחות בישראל.

מודל דומה של חוסר שקיפות קיים גם בעולמות המדיה. כלי יצירת התמונות Sora מבית OpenAI, המקושר דרך DALL-E 2 הרשמי, מאפשר הפקת תמונות מטקסט חופשי עם API בבטא ציבורית. עבור DALL E 2 נרשם כי 71.7% מהמעריכים העדיפו את התאמתו לתיאור מול הדגם המקורי, אך העמוד של השירות אינו מפרסם מחירי קריאות או מנויים ומחייב רישום או כניסה דרך חשבון ChatGPT כדי לראות את העלויות. OpenAI מפעילה סינון קפדני שחוסם תכנים פוליטיים או פרצופים של אנשים אמיתיים, ואין בדפי המידע שום תיעוד להבנת עברית. תצטרכו לברר עלויות לפני שתפיקו מאות תמונות ברצף.

מעבדת Midjourney בגרסה 8.2 נוקטת גישה סגורה עוד יותר. מעבדת המחקר מונה שישים עובדים בלבד ללא גיוסי הון חיצוניים, והאתר שלה בכתובת אתר הפרויקט אינו מציג מחירון גלוי או ממשק משתמש מסורתי. כל התקשורת מתנהלת סביב ערוצי Discord ופניות למייל החיוב billing@midjourney.com. אין באתר צ'אט חי, אין נציגות מקומית, ואי אפשר לקבל הצעת מחיר מסודרת או חשבונית מס בשקלים מראש עבור הנהלת חשבונות.

סביבות העבודה: Claude כמקרה מבחן

עבור פיתוח, כתיבה וניתוח נתונים שוטף, סביבת העבודה של Claude מבית Anthropic הזמינה בכתובת Claude הרשמי מציגה חלופה נוחה לממשקי צ'אט רגילים. המערכת כוללת הרצת קוד, יצירת קבצים, זיכרון בין שיחות וחיבורים לשירותי Google Workspace ו־Slack, לצד תמיכה ב־Microsoft 365. סביבות ייעודיות כמו Claude Code לתכנות ו־Claude Science למחקר פועלות מול מודלים כמו Sonnet ו־Opus. המסלול הבסיסי פתוח בחינם לכולם, אך הוא כולל מגבלות נפח שקוטעות שיחות אינטנסיביות בדיוק באמצע העבודה.

מסלול Pro עולה 20 דולר לחודש, או 17 דולר לחודש בתשלום שנתי מראש של 200 דולר, ופותח גישה ל־Claude Cowork ופרויקטים ללא הגבלה. לעומס כבד קיים מסלול Max שמתחיל מ־100 דולר לחודש ומעניק נפח שימוש פי 5 עד פי 20. אף שמנגנון האימות מציע אפשרויות שפה הכוללות עברית, ממשק העבודה והתיעוד בנויים כולם באנגלית בלבד. המחיר אינו כולל מע״מ, ומגבלות השימוש המדויקות אינן מפורטות בדפי המחירון.

זה עולה כסף, ולא מעט.

GPT4All מתאים למי שחייב פרטיות מוחלטת למידע פנימי, אך אינו מתאים למי שאין ברשותו מעבדים גרפיים חזקים או שצריך עיבוד שפה בעברית. Sho מיועד למפתחים שבונים יישומים מדעיים קומפקטיים בקוד, אך אינו מיועד למשתמשי קצה במשרד. Pinecone פותר בעיות אינדוקס לצוותי RAG שגדלים מהר, אך יוצר הוצאה מיותרת לפרויקטים עם נפח חיפוש קטן. Keywords AI מומלץ לצוותי פיתוח שמריצים מודלים מרובים בייצור וחייבים יתירות, אך יקר מדי לפרויקטים פשוטים עם ספק בודד.

Cerebras-GPT נחוץ לארגונים שמפעילים סוכנים אוטונומיים רגישים להשהיות, אך מיותר לעסקים קטנים. Sora ו־Midjourney מתאימים למפתחים ויוצרים המחפשים הדמיות ויזואליות דרך ממשקים קיימים, אך לא יתאימו לחברות שדורשות חשבונית מס מקומית בשקלים, שקיפות במחירונים או עבודה ללא סינוני תוכן מחמירים. Claude מספק מענה מעולה למפתחים ולחוקרים, אך אינו מתאים לעסקים הדורשים ממשק מערכת בעברית מלאה.

הצעד הבא: ממה להתחיל לבנות

לפני שאתם שולפים את כרטיס האשראי של החברה, בדקו את הצרכים האמיתיים של הארכיטקטורה. אם אתם בונים מערכת חיפוש, התחילו עם הרחבה וקטורית בבסיס הנתונים הקיים שלכם כמו PostgreSQL, במקום להתחייב לדמי מינימום של 50 דולר לחודש ב־Pinecone. תמיד תוכלו להגר למסד ייעודי כשהתנועה תצדיק זאת.

אם המוצר שלכם פונה לקהל ישראלי ודורש הבנה לשונית עמוקה, אל תבנו על מודלים מקומיים קטנים בקוד פתוח מבלי לבדוק אותם מראש על מדגם טקסטים אמיתי. בדקו את הממשקים במסלולים החינמיים של הכלים לפני חתימה על חוזי שימוש שנתיים. חברות רבות מציעות כפתור הרשמה נוצץ, אבל המחיר האמיתי מתגלה רק בחשבונית הראשונה.