TCO_calculator
רץ בדפדפןmithril-securityרישיון לא דווח2023-08-01
מחשבון עלויות שמשווה בין שירותי בינה מלאכותית לפי תרחישי שימוש וכמויות טוקנים. הוא מיועד למי שמתלבט באיזו תשתית מודלים לבחור ורוצה לראות הערכת עלויות מול ביצועים.
- —הורדות בחודש
- 58לייקים
מה זה
אתם בוחרים את סוג השימוש מתוך רשימה שכוללת סיכום, מענה על שאלות או סיווג טקסט. הממשק קובע מראש כמויות טוקנים לקלט ולפלט, למשל שלוש מאות לכל כיוון בשאלות ותשובות, חמש מאות למאתיים בסיכום, או חמישים לעשרה בסיווג, אבל אפשר להזיז את הסליידרים בין טוקן בודד לאלף.
לאחר מכן בוחרים שני שירותי בינה מלאכותית להשוואה מתוך רשימת שמות מוגדרת. הקוד מחשב עלות כוללת, עלויות כוח אדם וזמני תגובה עבור כל אפשרות, ומציג את הנתונים בטבלה, נוסחת חישוב, יחסי עלויות ותרשים קווי.
מתאים ל
- השוואת עלויות תשתית
בדיקת העלות הכוללת של שני ספקי מודלים זה מול זה לפי אותה כמות טוקנים.
- תמחור משימות סיווג
חישוב מהיר לפניות קצרות של עשרות טוקנים בודדים כדי להעריך הוצאה על סיווג.
- אומדן זמני תגובה
קבלת הערכה לשיהוי וזמני עיבוד לצד עלויות כוח האדם הנדרשות.
איפה זה נופל
הבעיה המיידית היא שהאפליקציה פשוט קורסת ולא נטענת בדפדפן. מעבר לזה, טווח הטוקנים מוגבל לאלף בלבד לקלט ולפלט, כך שאי אפשר לבדוק מסמכים ארוכים או שיחות מתמשכות. שדה כמות המשתמשים מוסתר בקוד ומקובע לאלף, וההשוואה מוגבלת לשני שירותים בכל פעם מתוך רשימה סגורה שנבנתה מראש.
שאלות
נפוצות
למה האפליקציה לא עולה לי בדפדפן?
העמוד מדווח על תקלת ריצה פנימית בקוד, ולכן הממשק אינו זמין כרגע לשימוש ישיר. עד שהיוצרים יתקנו את התקלה, אי אפשר לבצע חישובים באתר.
האם צריך לשלם על השימוש במחשבון?
הכלי עצמו מוצע ללא תשלום על גבי השרתים של גרדיו. הוא רק מחשב ומעריך עלויות של שירותים אחרים, ולא גובה כסף בעצמו.
מה קורה עם המידע שמזינים פנימה?
לא מעלים לכאן קבצים או מידע רגיש. כל מה שבוחרים זה שמות של שירותים ומספרים של טוקנים בסליידרים.
האם המחשבון מריץ את מודלי השפה בעצמו?
לא, אין פה הרצה של מודלי שפה או יצירת טקסט אמיתית. האפליקציה משתמשת בנוסחאות מתמטיות קבועות מראש כדי לחשב עלויות ושיהוי לפי סוג השימוש.
איך משתמשים
בפועל אין אפשרות להריץ את החישוב כרגע, כי העמוד נמצא במצב של שגיאת ריצה. כשהוא עובד, בוחרים תרחיש, מכוונים טוקנים, בוחרים שתי אפשרויות ולוחצים על הכפתור הראשי. הממשק יושב על מעבד בסיסי בלי מאיץ גרפי, שזה די והותר לחישובים מתמטיים של נוסחאות.
הרישיון
לא צוין רישיון בקוד או בעמוד הפרויקט. המשמעות היא שאין הרשאה ברורה לשימוש בקוד או להעתקה שלו לפרויקטים מסחריים. אין כאן העלאת קבצים פרטיים, רק בחירת פרמטרים מספריים ושמות שירותים.