GPT
הוספת כלי
I

Inkling-Small

קוד פתוח

thinkingmachinesapache-2.02026-07-27

  • transformers
  • safetensors
  • inkling_mm_model
  • image-text-to-text
  • conversational

מודל מולטימודלי עם משקלים פתוחים שמקבל טקסט, תמונה ואודיו ומחזיר טקסט. למרות השם שלו, הוא ענק ודורש תשתית שרתים רצינית כדי לספק תוצאות חזקות בתכנות ובסוכנים אוטונומיים.

  • 266Bפרמטרים
  • 495 GBמשקל הקבצים
  • 328,744הורדות בחודש
  • 403לייקים

מה זה

השם Small מטעה לחלוטין. מדובר במודל MoE עם 276 מיליארד פרמטרים בסך הכול, כאשר בכל טוקן פועלים 12 מיליארד פרמטרים דרך 6 מתוך 256 מומחים ועוד שני מומחים משותפים. הוא מעבד ישירות טקסט, תמונות ואודיו לתוך מרחב נסתר משותף, ופולט טקסט בלבד.

במדדי תכנות וסוכנים הוא עוקף מודלים פתוחים רבים ואף מתחרה במודלים סגורים. במבחן SWEBench Verified הוא הגיע ל־80.2%, וב־MCP Atlas לשימוש בכלים הוא מציג 79.6%. במבחני מתמטיקה כמו AIME 2026 הוא רושם 95.5%, מה שמראה יכולת הסקת מסקנות גבוהה כשמפעילים אותו על משימות מורכבות.

מתאים ל

  • סוכן אוטונומי לפתרון באגים

    עם 80.2% ב־SWEBench Verified הוא מתמודד בהצלחה עם סריקת קוד, איתור תקלות וכתיבת תיקונים.

  • מערכת מבוססת פרוטוקול MCP

    תוצאה של 79.6% במבחן MCP Atlas הופכת אותו למנוע מוצלח להפעלת כלים וחיבור לשירותי צד שלישי.

  • תמיכה טכנית משולבת מולטימודל

    קבלת צילומי מסך והקלטות קוליות של משתמשים יחד עם טקסט, ומתן פתרון טכני ישיר.

איפה זה נופל

מבחני הקיצון חושפים פערים ברורים. במבחן Tau 3 Banking שבודק תרחישים מורכבים בעולם הבנקאות הוא נעצר על 15.5%, ובמבחן החשיבה CritPt השיג 8.3% בלבד, שניהם נמוכים משמעותית ממודלים סגורים מובילים כמו GPT 5.6 Luna. הקלט הקולי מוגבל להקלטות WAV בקצב 16kHz ומתחת לשתי דקות כדי לשמור על דיוק. בנוסף, למרות שהוגדר כבעל יכולות רב־לשוניות כלליות, אימון הבסיס נשען בעיקר על אנגלית, כך שביצועים בעברית דורשים בדיקה מעשית קפדנית לפני שילוב במערכת.

שאלות
נפוצות

האם אפשר להריץ את המודל על שרת מקומי קטן או מחשב פיתוח?

לא. המודל שוקל כמעט 500 גיגה־בייט ומכיל 276 מיליארד פרמטרים. תצטרכו שרת ייעודי מרובה כרטיסי מסך תעשייתיים כדי להריץ אפילו את גרסת ה־NVFP4.

האם המודל מסוגל להחזיר קובץ אודיו או תמונה בתשובה?

לא. המודל מקבל קלט מולטימודלי של טקסט, תמונה ואודיו, אבל מייצר פלט טקסט בלבד בפורמט UTF-8.

איך ביצועי המודל בעברית?

הכרטיס מגדיר את המודל כמיועד לאנגלית עם תמיכה רב־לשונית כללית, ללא מדדים ספציפיים לשפות אחרות. מומלץ לבחון אותו במשימות שלכם לפני שמסתמכים עליו בעברית.

איך מריצים

משקלי ה־BF16 המקוריים שוקלים 495 גיגה־בייט ונפרסים על פני 50 קבצים. כדי להריץ את המקור תצטרכו שרת עם מספר כרטיסי GPU חזקים מאוד, לפחות שמונה כרטיסי H100 או A100 עם 80GB זיכרון כל אחד, רק כדי לטעון אותו לזיכרון לפני שמחשבים את זיכרון ההקשר. קיימת גרסה מכווצת ב־NVFP4 שמקלה על הנפח אך מחייבת חומרה שתומכת בפורמט הזה. המודל נתמך בספריות כמו vLLM, SGLang ו־Unsloth.

אם אין לכם קלאסטר כזה בענן או בדאטה סנטר המקומי, אין טעם לנסות להרים אותו על שרת בודד. במקרים כאלה עדיף לגשת אליו דרך ה־API של ספקי צד שלישי או ב־Playground של המפתחים.

from transformers import pipeline

pipe = pipeline("image-text-to-text", model="thinkingmachines/Inkling-Small")
print(pipe("שלום"))

הקבצים

50 קבצים במאגר, 495 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

רישיון apache-2.0 מתיר שימוש מסחרי חופשי, שינוי של הקוד והמשקלים והפצה שלהם בתוך מוצרים. הדרישה העיקרית היא שמירה על הודעת זכויות היוצרים והרישיון המקורי, לצד עמידה במדיניות השימוש הנאות של החברה המפרסמת.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗