GPT
הוספת כלי
A

Apriel-1.6-15b-Thinker

קוד פתוח

ServiceNow-AImit2025-11-28

  • transformers
  • safetensors
  • llava
  • image-text-to-text
  • conversational

מודל חשיבה מולטימודלי של 15 מיליארד פרמטרים שמשלב עיבוד תמונה וטקסט עם יכולות קריאת פונקציות. הוא מכוון לביצועים חזקים במשימות ארגוניות תוך קיצוץ משמעותי בכמות הטוקנים שהוא מבזבז על מחשבה.

  • 15Bפרמטרים
  • 262,400טוקנים בהקשר
  • 27.7 GBמשקל הקבצים
  • 48,540הורדות בחודש

מה זה

מדובר במודל שמריץ שרשרת חשיבה מלאה לפני שהוא פולט תשובה סופית, אבל בגרסה הזו אימנו אותו באמצעות למידת חיזוק לעצור מוקדם ולא לחפור סתם. לפי המדידות, הוא חותך מעל 30 אחוז מטוקני החשיבה לעומת הגרסה הקודמת שלו ומגיע לציון 57 במדד Artificial Analysis. המבחנים שלו מראים חוזק יוצא דופן בהפעלת כלים ובמשימות מורכבות, עם 63.5 בבנצ'מרק BFCL v3 ו־69 ב־Tau2 Telecom, שזה גבוה משמעותית ממודלים סגורים גדולים ממנו בהרבה.

בצד התמונה הוא נשען על ארכיטקטורת Llava ומוציא ציונים יציבים של 79.9 ב־MathVista ו־72 ב־MMMU, מה שהופך אותו לרלוונטי לניתוח דיאגרמות ותרשימים טכניים. בנוסף, הכניסו לטוקנייזר שלו תגיות ייעודיות לזיהוי קריאות כלים והפרדה ברורה של התשובה הסופית, מה שפותר המון כאבי ראש של כתיבת רגקסים בזמן פענוח הפלט בקוד שלכם.

מתאים ל

  • בוטים לתמיכה והפעלת כלים

    מצטיין בהפעלת פונקציות מורכבות במערכות שירות עם ציון 69 ב־Tau2 וחסכון בטוקנים.

  • ניתוח תרשימים וגרפים

    מתאים לחילוץ נתונים מדוחות ויזואליים הודות לציון 89.85 במבחן CharXiv Descriptive.

  • פתרון בעיות מתמטיות

    מתאים לחישובים מורכבים בזכות ציון 88 ב־AIME 25 ושלבי חשיבה מובנים מראש.

איפה זה נופל

במשימות פיתוח מורכבות הוא מציג חולשה ברורה, עם ציון של 23 בלבד ב־SWE Bench Verified ו־14 ב־Terminal Bench. לא הייתי בונה עליו כסוכן עצמאי לכתיבת קוד שלם במערכת. חלון ההקשר שלו מדווח אמנם כרחב, אבל במבחן ההקשר הארוך של AA LCR הוא מקבל ציון 36 בלבד, וקופץ ל־50 רק אם מפעילים טכניקת DCA. בנוסף, היוצרים מצהירים מראש שהביצועים החזקים הם באנגלית, כך שבשפות אחרות כמו עברית צפויה ירידה באיכות.

שאלות
נפוצות

האם הוא מתאים לשימוש כסוכן אוטונומי לפתרון באגים בקוד?

הוא פחות מתאים לזה. התוצאה שלו ב־SWE Bench Verified עומדת על 23 אחוז בלבד. מודלים מסחריים ייעודיים עושים עבודה טובה בהרבה במשימות תכנות ארוכות.

איך מטפלים בשלבי החשיבה כשרוצים רק את התשובה הסופית למשתמש?

הטוקנייזר כולל תג מיוחד בשם BEGIN FINAL RESPONSE. כל מה שנכתב לפניו אלה שלבי המחשבה הפנימיים, וכל מה שאחריו זו התשובה שצריך להציג למשתמש.

איך מריצים

המשקל הגולמי של הקבצים עומד על 27.7 גיגה־בייט בפורמט bfloat16. כדי להריץ אותו מקומית בלי כימות תצטרכו כרטיס מסך בודד עם 32 גיגה־בייט זיכרון לפחות, ובשביל לנצל הקשרים ארוכים עדיף כרטיס של 48 או 80 גיגה־בייט. יש לו תמיכה רשמית דרך Transformers, אימג' דוקר ייעודי ל־vLLM עם מפענח חשיבה מובנה, ומי שרוצה הרצה פשוטה יכול למשוך אותו דרך Ollama.

אם אין לכם שרת עם חומרה מתאימה זמינה, הוא מוצע כמודל ענן מנוהל ב־Together AI. זה פתרון שעדיף משמעותית על החזקת שרת פרטי אם השימוש שלכם הוא בגלי תעבורה משתנים ולא קבועים.

from transformers import pipeline

pipe = pipeline("image-text-to-text", model="ServiceNow-AI/Apriel-1.6-15b-Thinker")
print(pipe("שלום"))

הקבצים

18 קבצים במאגר, 27.7 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

המודל משוחרר ברישיון MIT מלא. אפשר להשתמש בו לצרכים מסחריים, לשנות אותו, להפיץ אותו ולהטמיע אותו במוצרים סגורים שלכם בלי הגבלות, כל עוד משאירים את הצהרת זכויות היוצרים המקורית של ServiceNow.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש

הרישיון המלא בעמוד המודל ↗