GPT
הוספת כלי
A

Agents-A1-Q4_K_M-GGUF

קוד פתוח

InternScienceapache-2.02026-07-01

  • gguf
  • quantized
  • moe
  • vlm
  • vision

גרסה מכווצת של מודל סוכנים מבוסס תערובת מומחים, שמיועדת להרצה מקומית. הוא נבנה מראש למשימות מורכבות של הפעלת כלים, חיפוש ממושך ופתרון בעיות מדעיות.

  • 20.6 GBמשקל הקבצים
  • 8,131הורדות בחודש
  • 146לייקים

מה זה

מדובר במודל 35B שמפעיל בכל רגע נתון רק חלק מהפרמטרים שלו, ארכיטקטורה שמסומנת כ־35B-A3B. הרעיון המרכזי מאחוריו הוא אימון ייעודי להתנהגות סוכנים דרך זיקוק ידע ממודלים מומחים בכמה שלבים, ולא רק כתיבת טקסט כללית.

במדדים שפורסמו הוא מציג יכולת גבוהה מאוד במעקב אחר הוראות מרובות אילוצים, עם ציון 94.82 ב־IFEval וציון 80.61 ב־IFBench שבהם עקף מערכות ענק. במשימות מדעיות מורכבות כמו FrontierScience-Research הוא קיבל 40.0 לעומת 26.7 של מודלים מובילים, מה שאומר שהוא מתמודד טוב יותר עם פירוק בעיות מחקר לשלבים והפעלת כלים מדעים.

מתאים ל

  • סוכן חיפוש ומחקר מדעי

    קיבל 40.0 ב־FrontierScience-Research וגובר על מודלים מתחרים בפירוק בעיות מחקר והפעלת ספריות מדעיות.

  • ביצוע הוראות מורכבות

    מתאים למערכות שדורשות דיוק מחמיר במבנה הפלט, בזכות תוצאה של 94.82 במדד IFEval.

  • אוטומציה עם הפעלת כלים

    נבנה ותומך ישירות בחיבור לפונקציות וקריאות API עם ציון 96.04 במבחן GAIA.

איפה זה נופל

המודל חלש משמעותית במשימות הנדסה וקוד לעומת מערכות ענק. במבחן MLE-Lite הוא מגיע ל־43.94 בלבד בזמן שמודלים גדולים חוצים את ה־72, וב־SciCode הוא נעצר ב־44.33. בנוסף, בחיפוש רשת רחב כמו BrowseComp הוא משיג 75.51, פער מורגש ממודלי קצה. כרטיס המודל לא מציג מידע על ביצועים בשפות שאינן אנגלית, ולכן אם המערכת שלכם נדרשת לעברית, חובה לבדוק אותו עצמאית לפני שמשלבים אותו בזרימת עבודה.

שאלות
נפוצות

האם המודל מתאים לפיתוח תוכנה וכתיבת קוד?

הוא יודע להריץ סקריפטים וכלים, אבל לא הייתי בוחר בו כסוכן פיתוח ראשי. בבנצ'מרקים הנדסיים כמו MLE-Lite הוא קיבל 43.94, תוצאה נמוכה בהרבה ממודלים ייעודיים לקוד.

איזה פרמטרים מומלץ להגדיר לו בזמן הדגימה?

יוצרי המודל ממליצים על טמפרטורה של 0.85, ערך top_p של 0.95, top_k מכוון ל־20 ו־presence_penalty של 1.1. הגדרות אלו מסייעות לו לתכנן מסלולי פעולה בלי להיתקע בלולאות.

איך מריצים

הקבצים בפורמט GGUF שוקלים 20.6 ג'יגה בייט בכימות Q4_K_M. להרצה מקומית מלאה על GPU תצטרכו כרטיס עם 24 ג'יגה בייט זיכרון וידאו, או לחלופין לפצל שכבות בין כרטיס גרפי קטן יותר לזיכרון ה־RAM של המחשב באמצעות מנועים שתומכים בפורמט.

בכרטיס המודל מופיעות פקודות הרצה למשקלי המקור באמצעות SGLang ו־vLLM עם הקצאת הקשר של עד 262,144 טוקנים ומנתחי פלט ייעודיים לכלים. אם אין לכם חומרה ייעודית עם מספיק זיכרון להחזיק הקשר ארוך כזה, הרצה מקומית תהיה אטית מאוד ועדיף לצרוך מודל כזה דרך תשתית ענן.

ollama run hf.co/InternScience/Agents-A1-Q4_K_M-GGUF:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

Q4_K_M21.2 GB Agents-A1-mmproj899.3 MB

הקבצים

10 קבצים במאגר, 20.6 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

המודל מופץ תחת רישיון apache-2.0. זהו רישיון קוד פתוח מתירני שמאפשר שימוש מסחרי, שינוי הקוד והפצה חופשית, בתנאי ששומרים על הודעת זכויות היוצרים המקורית והצהרת ויתור האחריות.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗