GPT
הוספת כלי
I

IQuest-Coder-V1-40B-Loop-Instruct

קוד פתוח

IQuestLabother2025-12-30

  • transformers
  • safetensors
  • iquestloopcoder
  • text-generation
  • conversational

מודל קוד של 40 מיליארד פרמטרים עם ארכיטקטורה חזרתית שמשתפת משקולות. הוא מיועד למפתחים שרוצים יכולות פיתוח תוכנה ואוטונומיה עם חלון הקשר של 128K טוקנים.

  • 40Bפרמטרים
  • 131,072טוקנים בהקשר
  • 74.1 GBמשקל הקבצים
  • 4,465הורדות בחודש

מה זה

המודל מגיע מסדרת מודלים שנבנו על תהליך אימון שמבוסס על היסטוריית שינויים וקומיטים במאגרי קוד, ולא רק על קבצים סטטיים. גרסת ה־Loop משתמשת בשמונים שכבות עם מנגנון שרץ שתי איטרציות בלולאה על אותם פרמטרים, במטרה לסחוט יותר כוח חישובי בלי לנפח את נפח הזיכרון שנשמר במחשב.

המפתחים שלו מדווחים על תוצאות גבוהות במבחנים מקובלים, כמו 76.2 אחוז ב־SWE-Bench Verified ו־81.1 אחוז ב־LiveCodeBench v6. בפועל, המספרים האלה מראים שהארכיטקטורה מכוונת לפיתרון בעיות תוכנה אמיתיות ברמת מאגר ולא רק להשלמת שורת קוד בודדת, אם כי בעמוד יש הפניה להבהרה סביב אמינות המדידות שפורסמו.

מתאים ל

  • פתרון באגים בריפו

    חלון של 128K ומעקב אחרי קומיטים מתאימים לניתוח שגיאות שמתפרסות על פני כמה קבצים בפרויקט.

  • עבודה עם סוכני קוד

    התוצאות במבחני SWE-Bench מכוונות בדיוק לכלים שמפעילים שינויי קוד וכלים חיצוניים באופן אוטונומי.

  • סריקת היסטוריית קוד

    האימון על שינויים דינמיים הופך אותו למועמד טוב להבנת רפקטורינג והתפתחות לוגיקה ישנה במאגר.

איפה זה נופל

המודל מייצר קוד אבל לא מריץ אותו ולא בודק אם הוא עובד. בגלל זה הוא עלול לפלוט קוד שנראה אמין ומסודר לחלוטין אך מכיל באגים שקטים, מה שמחייב הרצה בסביבת בדיקות מבודדת. לפי התיעוד הוא גם מתקשה יותר מול ספריות פנימיות ופריימוורקים קנייניים שלא הופיעו בקוד פתוח. בנוסף, המודל אומן ותומך רשמית באנגלית בלבד, כך שלא כדאי לבנות עליו להנחיות או הערות בעברית.

שאלות
נפוצות

מה המשמעות של מנגנון ה־Loop?

הרשת עוברת פעמיים דרך אותן 80 שכבות ומבצעת חישוב חוזר על אותו המידע. זה נותן עומק חישובי שמקביל למודל גדול יותר בלי להכפיל את כמות הפרמטרים ששמורים בזיכרון, אבל מאריך את זמן החישוב בכל שלב.

אפשר להריץ אותו דרך ספריית transformers הרגילה?

הוא נתמך בספרייה אבל דורש קוד מותאם אישית שנטען דרך auto_map, והיוצרים מציינים גרסה מומלצת של transformers 4.56.0. בסביבות ייצור הם ממליצים על vLLM עם חלוקה לכמה כרטיסים.

איך מריצים

המשקלים שוקלים מעל 74 גיגה-בייט בפורמט bfloat16. כדי לטעון אותו תצטרכו לפחות 80 עד 100 גיגה-בייט של זיכרון גרפי, למשל שרת עם שמונה כרטיסי מסך בחלוקת עומסים דרך vLLM כפי שהיוצרים מדגימים בפקודות ההרצה. הרצה על תחנת עבודה ביתית או כרטיס בודד פשוט לא רלוונטית כאן בלי קוונטיזציה כבדה.

יש למודל הזה גם גרסת Instruct רגילה בלי מנגנון הלולאה וגרסת Thinking שכוללת תהליכי חשיבה מפורטים ומחזירה תשובות ארוכות יותר. אם אין לכם שרת ייעודי שממתין לזה, עדיף להמתין לשירות שמציע אותו כ־API או לבחור מודל קטן יותר במשפחה כמו גרסאות ה־7B וה־14B.

from transformers import pipeline

pipe = pipeline("text-generation", model="IQuestLab/IQuest-Coder-V1-40B-Loop-Instruct")
print(pipe("שלום"))

הקבצים

30 קבצים במאגר, 74.1 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון מוגדר כ־other ללא פירוט של תנאי השימוש החופשיים או המסחריים בכרטיס המודל. במצב כזה אי אפשר לדעת מראש אם מותר לשלב אותו במוצר מסחרי, להפיץ אותו מחדש או למכור שירותים שמבוססים עליו, וחובה לבדוק את קובץ הרישיון המקורי במאגר הגיטהאב לפני כל שימוש עסקי.

הרישיון המלא בעמוד המודל ↗