GPT
הוספת כלי
I

Intern-S1-Pro

קוד פתוח

internlmapache-2.02026-02-02

  • transformers
  • safetensors
  • interns1_pro
  • text-generation
  • image-text-to-text

מודל ענק של טריליון פרמטרים שמתמקד בהסקה מדעית וניתוח תמונות וסדרות זמן. הוא מפעיל רק 22 מיליארד פרמטרים בכל טוקן, כך שמקבלים ביצועי עומק בלי לשלם על ריצה מלאה.

  • 262,144טוקנים בהקשר
  • 856 GBמשקל הקבצים
  • 7,687הורדות בחודש
  • 278לייקים

מה זה

מדובר במודל MoE עצום שמכיל 512 מומחים, שמתוכם המערכת מנתבת שמונה בלבד לכל טוקן. המטרה המרכזית שלו היא פיצוח בעיות מדעיות מורכבות בתחומי כימיה, חומרים, מדעי החיים ומדעי כדור הארץ, לצד יכולות ראייה וטקסט רגילות. הוא משלב קידוד מיקום מסוג Fourier יחד עם מידול ייעודי של סדרות זמן, ומסוגל לעבד אותות פיזיקליים הטרוגניים ארוכים של עד מיליון נקודות.

הוא מגיע עם חלון הקשר של 262,144 טוקנים ותומך בשני מצבי עבודה, מצב חשיבה מעמיק שפועל כברירת מחדל, ואפשרות לכבות אותו כדי לחסוך זמן כשיש משימות פשוטות. בנוסף, יש לו תמיכה מובנית בהפעלת כלים חיצוניים במבנה שמתאים לשימוש המוכר של OpenAI.

מתאים ל

  • ניתוח אותות פיזיקליים

    זיהוי אירועים ורעידות אדמה מתוך קובצי סדרות זמן ארוכים שמגיעים עד מיליון נקודות נתונים.

  • מחקר מדעי רב־תחומי

    הסקה מתקדמת ופתרון בעיות מורכבות בכימיה, מדעי החיים ומחקר חומרים בעזרת שילוב טקסט ותרשימים.

  • הפעלת סוכנים וכלים

    קריאה לפונקציות חיצוניות ומשיכת מידע עדכני דרך ממשק תואם OpenAI עם חלון הקשר רחב.

איפה זה נופל

החיסרון המרכזי הוא המשקל המפלצתי שלו שמייצר מחסום כניסה כבד מאוד לחומרה, גם אם ההסקה עצמה מפעילה רק 22 מיליארד פרמטרים. בנוסף, יכולות עיבוד סדרות הזמן והאותות הפיזיקליים נתמכות בשלב זה רק דרך מנוע LMDeploy מגרסה מסוימת, מה שמגביל את הגמישות אם בניתם תשתית סביב כלים אחרים. מצב החשיבה הפעיל כברירת מחדל מייקר את זמני המענה ומחייב הגדרה יזומה אם רוצים תשובות קצרות ומהירות.

שאלות
נפוצות

אפשר להריץ את המודל ישירות מספריית transformers הרגילה?

היוצרים ממליצים שלא לעשות את זה כי מודל בגודל טריליון פרמטרים נתקל בצווארי בקבוק קשים במעבר הרגיל. חובה להשתמש במנועי הסקה מותאמים כמו LMDeploy, vLLM או SGLang כדי לחלק את העומס בין הכרטיסים.

האם כל מנוע הסקה תומך בכל היכולות שלו?

לא. ניתוח סדרות זמן ואותות מורכבים נתמך כרגע אך ורק דרך LMDeploy מגרסה 0.12.1 ומעלה. אם אתם עובדים עם מנועים אחרים, תקבלו רק את יכולות הטקסט, התמונה והכלים.

איך מריצים

המשקל הכולל של הקבצים מגיע ל־856 גיגה־בייט, כך שאי אפשר פשוט להריץ אותו דרך transformers על שרת רגיל. היוצרים מדגישים שחובה להשתמש במנועי הסקה מתקדמים כמו LMDeploy, vLLM או SGLang, ולחבר אליו לקוחות ב־API מקומי. בפועל, החזקה של מודל במשקל כזה דורשת מקבץ שרתים רציני עם כמה כרטיסי מסך רבי עוצמה שמחוברים במקביל.

אם אין לכם קלאסטר ארגוני ייעודי שפנוי לזה, עדיף בהרבה להשתמש ב־API מנוהל חיצוני ולא לנסות להחזיק תשתית כזאת לבד במשרד או בענן.

from transformers import pipeline

pipe = pipeline("image-text-to-text", model="internlm/Intern-S1-Pro")
print(pipe("שלום"))

הקבצים

105 קבצים במאגר, 856 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

המודל משוחרר ברישיון apache-2.0, שמאפשר שימוש חופשי, כולל הטמעה במוצרים מסחריים ושינוי של הקוד והמשקלים. התנאים המרכזיים דורשים שמירה על הקרדיט המקורי, צירוף עותק של הרישיון וציון אם נעשו שינויים בקבצים. אפשר לשלב אותו בתוך מוצר מסחרי בלי לשלם תמלוגים.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗