internlm2-math-7b

מה זה

כותבים שאלה או תרגיל מתמטי בתיבת הטקסט ומקבלים תשובה מפורטת בחלון הצ'אט. הממשק כולל אפשרות לכוונן את אורך הפלט המבוקש, לצד שליטה בפרמטרים כמו טמפרטורה וערך top_p שמשפיעים על רמת היצירתיות או הדיוק של התוצאה. ישנם כפתורים מובנים לביטול הפעולה בזמן אמת או לאיפוס השיחה מחדש.

למרות שם הדף, הקוד בפועל טוען את המודל המשודרג internlm2-math-plus-7b. ההרצה עצמה נשענת על מנוע turbomind מתוך ספריית lmdeploy, שנועד לייעל את מהירות התגובה וההסקה של מודלי שפה גדולים. דוגמאות מובנות מראש לא מופיעות בממשק, כך שצריך להזין שאלות לבד ישירות לתיבת הטקסט.

מתאים ל

• פתרון תרגילי מתמטיקה

  מזינים משוואה או בעיה מילולית ומקבלים שלבי פתרון מפורטים.

• בדיקת חישובים

  השוואת תוצאות שקיבלתם בעצמכם מול החישוב שהמודל מציג.

• בדיקת מנוע turbomind

  התרשמות מצורת החיבור של מנוע ההסקה לממשק גרדיו בקוד.

איפה זה נופל

הבעיה המיידית היא שהדמו בכלל לא עובד כרגע ונתקע בשגיאה. מעבר לזה, שם המרחב מדבר על גרסת הבסיס אבל הקוד טוען גרסת פלוס, מה שמבלבל אם מחפשים לבדוק התנהגות ספציפית. מודל של שבעה מיליארד פרמטרים נוטה לפספס בהוכחות מורכבות או חישובים ארוכים, ואי אפשר להסתמך עליו בעיניים עצומות.

איך משתמשים

כרגע אי אפשר להריץ את הדמו כי הוא נמצא במצב שגיאת ריצה. באופן עקרוני מזינים שאלה, משנים פרמטרים בסליידרים אם רוצים, ושולחים. השרת מוגדר על חומרת a10g-small שהייתה אמורה לתת מענה סביר של שניות בודדות לחישוב, אבל עד שמישהו יתקן את הקוד שם, הדף לא מגיב.

הרישיון

הרישיון של המרחב לא דווח בדף. במצב כזה אין אישור מפורש לשימוש מסחרי, וקשה לדעת מה המגבלות על הקלט שמזינים או על הפלט שמתקבל.

הרישיון המלא ב־Hugging Face ↗