TrueFoundry

הסקירה

כשמחברים את הקוד שלכם לניתוב של TrueFoundry, כל תעבורת המודלים והסוכנים עוברת דרך נקודת כניסה אחת שמנהלת הרשאות, חלוקת עומסים ומעקב ביצועים. הרעיון הוא להפסיק להגדיר מפתחות API וניטור בנפרד לכל שירות, ולרכז את כל הצינור תחת בקרה הדוקה. במקום לכתוב לוגיקה ייעודית למקרי כשל, המערכת מנתבת פניות חלופיות באופן אוטומטי ומאפשרת להגדיר הגבלות תקציב מדויקות ברמת המשתמש או הפרויקט. אתם מקבלים סביבת בדיקה מיידית בלי להזין פרטי תשלום, שבה אפשר להרים מודלים ולבדוק חיבורי שרתים ישירות מהדפדפן.

מה שמבדיל את הכלי הזה מתשתיות ניתוב רגילות הוא השילוב המובנה של שרתי MCP לצד ניטור חומרה וסוכנים. בזמן שרוב השירותים בשוק מציעים רק מעטפת סביב מודלי שפה מסחריים, כאן אפשר לפרוס את כל התשתית בתוך ענן פרטי או על שרתים מקומיים לחלוטין. הגישה הזו שומרת על הנתונים בתוך המתחם המאובטח שלכם בלי להוציא דבר לרשת הציבורית, תוך עמידה בתקני אבטחה מחמירים. בנוסף, החברה מתחזקת את רכיב הקוד הפתוח TrueForge, שמיועד להפחית עלויות הפעלה של סוכנים אוטונומיים ביחס לחלופות מנוהלות.

לא הייתי משתמש בזה לפרויקט עצמאי קטן או לבוט פשוט.

כמה זה עולה ולמי זה מיועד

תכנית הפיתוח החינמית נותנת 50 אלף בקשות בחודש, עד שלושה משתמשים ורישום של חמישה שרתי כלים בלבד. היא מספיקה לבדיקת היתכנות טכנולוגית, אבל צוות שרוצה להריץ שירות אמיתי יצטרך לקפוץ מיד לחבילת Pro שעולה 499 דולר בכל חודש ומגבילה למיליון בקשות ועשרה משתמשים. החבילה הבאה, Pro Plus, כבר מטפסת למחיר של 2999 דולר לחודש עבור 25 משתמשים ותמיכה עם התחייבות זמנים ברמת שירות גבוהה יותר. ארגונים גדולים יגיעו למסלול בהתאמה אישית שכולל מעל 10 מיליון בקשות חודשיות ואפשרויות פריסה מבודדות.

הפער הכספי בין החינם למסלול בתשלום חד מאוד.

הכלי הזה נבנה עבור צוותי הנדסה וארגונים שמריצים עשרות מודלים וסוכנים במקביל וחייבים בקרת גישה הדוקה. אם אתם לא מנהלים תשתית מורכבת שדורשת בידוד מידע מוחלט או עשרות שרתי כלים, אין שום סיבה לשלם מאות דולרים בחודש. מי שמחפש רק ממשק שליחה ישיר לשיחה ימצא שמדובר בשכבת ניהול כבדה ומיותרת שרק מסרבלת את העבודה השוטפת וגוזלת זמן הגדרה יקר.

• מסלול חינםקיים עד 50k בקשות
• מחיר כניסה499 דולר לחודש
• קוד פתוחTrueForge זמין בגיטהאב

התאמה לשוק המקומי ולעברית

מבחינת השפה העברית, ממשק הניהול, הדשבורדים ותיעוד התשתית זמינים כולם באנגלית בלבד. התמיכה בטקסט מימין לשמאל או בעיבוד שפה תלויה ישירות במודלים שתבחרו לחבר מאחורי הקלעים, ולא בכלי הניתוב עצמו שרק מעביר את המידע הלאה. מה שכן חשוב לארגונים בארץ הוא אפשרויות הפריסה בסביבה מבודדת, שפותרות דרישות רגולציה מחמירות של בנקים, גופי בריאות וגופי ביטחון מקומיים. היכולת להריץ הכל מקומית מונעת הוצאת מידע רגיש מחוץ לגבולות התשתית הפנימית של הארגון.

מערך התמיכה שלהם חריג לטובה ומאפשר פתיחת ערוץ תקשורת ישיר באפליקציית WhatsApp או Slack לצד כרטיסים רגילים. על פי נתוני השירות, זמן המענה הראשוני בשעות הפעילות עומד על שלוש דקות בלבד, ומשך הטיפול הכולל נמשך לרוב פחות משמונה שעות. עם זאת, עמידה בזמני תגובה מחייבים של שעתיים בתקלות משביתות שמורה רק למי שמשלם על מסלולי הפרימיום היקרים. צוותים במסלול הזול יאלצו להמתין יותר במקרה של תקלה חמורה.

תמיכה מהירה היא קריטית בזמן תקלות ייצור.