GPT
הוספת כלי
A

Agents-A1-4B-Q4_K_M-GGUF

קוד פתוח

InternScienceapache-2.02026-07-13

  • transformers
  • gguf
  • quantized
  • vlm
  • vision

גרסה מכווצת למודל קומפקטי שמכוון לפעולות סוכן, הפעלת כלים וחיפוש מורכב. הוא מתאים למי שרוצה להריץ סוכן אוטונומי מקומית בלי לתפוס כרטיס מסך מפלצתי.

  • 3.2 GBמשקל הקבצים
  • 177,062הורדות בחודש
  • 40לייקים

מה זה

הפרויקט הזה מנסה לפתור בעיה מוכרת של מודלים קטנים, חוסר היכולת לתכנן כמה צעדים קדימה ולתפעל כלים באופן אמין. מדובר במודל צפוף של ארבעה מיליארד פרמטרים שאומן בשיטת זיכוך מכמה מודלים מומחים, עם דגש על חיפוש ארוך טווח, הנדסה ומעקב אחרי הוראות.

במבחני ביצועים הוא מציג מספרים מפתיעים לגודלו. במבחן GAIA שבודק פתרון משימות מורכבות בעזרת כלים הוא מקבל 95.1 נקודות, ובמבחן מעקב ההוראות IFEval הוא מגיע ל־94.8, ציונים שעוקפים אפילו מודלים גדולים בהרבה בתצורת תערובת מומחים. המשמעות בשטח היא יכולת טובה מאוד בפירוק משימה לשלבים ותיקון טעויות תוך כדי ריצה.

מתאים ל

  • סוכן מקומי להפעלת כלים

    חיבור ישיר לממשקי תוכנה וקריאה לפונקציות בקובץ קטן שלא דורש חיבור לרשת חיצונית.

  • אוטומציה של איסוף מידע

    ביצוע משימות חיפוש רב־שלביות ברשת בזכות ציון של 66.8 במבחן BrowseComp.

  • בקר מעקב אחר הוראות

    סינון ואימות קלטים במערכות מורכבות לפי כללים נוקשים הודות לציון של 94.8 ב־IFEval.

איפה זה נופל

למרות הציונים הגבוהים בבדיקות של חיפוש ומעקב הוראות, משימות קידוד כבדות עדיין מוגבלות. במבחן LiveCodeBench-V6 הוא נעצר על 59.6 נקודות, הרחק מאחורי גרסת ה־35 מיליארד שמגיעה ל־76.2. בנוסף, מודל קטן שמריץ שרשראות פעולה ארוכות נוטה לפעמים להיכנס ללולאות כשכלי מחזיר שגיאה בלתי צפויה. אין בכרטיס המודל התייחסות ליכולות בשפות שאינן אנגלית, ולכן אם אתם בונים שירות שמיועד לעברית, חובה לבדוק מראש אם הוא עוקב אחרי פורמט הפקודות בלי להישבר.

שאלות
נפוצות

האם אפשר להריץ את המודל על מחשב נייד רגיל?

כן. הקובץ שוקל 3.2 גיגה־בייט בלבד, כך שכל מעבד מודרני עם 8 או 16 גיגה זיכרון פנימי יריץ אותו בקצב סביר. כדי לקבל זמני תגובה מהירים במיוחד לפעולות סוכן, מומלץ כרטיס מסך בסיסי או מחשב מק.

האם הוא יכול להחליף מודלים גדולים בכתיבת קוד?

לא. במשימות הנדסה ומבחני קידוד כמו LiveCodeBench הוא מפגר בבירור אחרי מודלים ייעודיים וגרסאות גדולות. הוא מתאים להפעלת סקריפטים וכלים, אבל לא לכתיבת מערכות תוכנה מורכבות מאפס.

איך מריצים

הקובץ שוקל 3.2 גיגה־בייט בכימות של ארבעה ביט, מה שאומר שאפשר להריץ אותו בקלות על מעבד גרפי ביתי צנוע של 6 עד 8 גיגה זיכרון, או אפילו על מעבדי אפל סיליקון דרך פרויקטים מתאימים. הוא בנוי לעבודה מול סביבות כמו vLLM או SGLang, עם תמיכה מובנית במפענחי חשיבה וקריאות לכלים.

אם אתם צריכים לפתוח את מלוא חלון ההקשר שלו, שמגיע עד 262 אלף טוקנים, תצטרכו להקצות זיכרון משמעותי למטמון. במקרה כזה, אם אין לכם חומרה ייעודית עם זיכרון רחב, עדיף להשתמש בשרת מרוחק במקום לחנוק את המחשב המקומי.

ollama run hf.co/InternScience/Agents-A1-4B-Q4_K_M-GGUF:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

Q4_K_M2.7 GB Agents-A1-4B-mmproj672.4 MB

הקבצים

9 קבצים במאגר, 3.2 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הקוד והמשקלים שוחררו תחת רישיון אפאצ'י 2.0. הרישיון הזה מתיר שימוש מסחרי מלא, שינוי של הקוד והפצה פנימית או חיצונית בתוך מוצרים. הדרישות היחידות הן שמירה על הודעת זכויות היוצרים והצהרה על שינויים שנעשו.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗