GPT
הוספת כלי
C

cogito-v1-preview-qwen-14B

קוד פתוח

deepcogitoapache-2.02025-03-31

  • transformers
  • safetensors
  • qwen2
  • text-generation
  • conversational

גרסת 14B של Cogito מציעה שילוב בין מענה ישיר למצב חשיבה עמוקה באותו מודל. היא פונה למי שמחפש יכולות קוד והפעלת כלים במשקל בינוני.

  • 15Bפרמטרים
  • 131,072טוקנים בהקשר
  • 27.5 GBמשקל הקבצים
  • 1,429הורדות בחודש

מה זה

מדובר במודל שפת הוראות המבוסס על ארכיטקטורת Qwen2 עם כמעט 15 מיליארד פרמטרים. הייחוד המרכזי שלו הוא המבנה ההיברידי. הוא מסוגל לענות מיד כמו מודל סטנדרטי, או לעצור ולבצע רפלקציה עצמית וחשיבה מעמיקה לפני יצירת הטקסט, בהתאם להגדרה בפרומפט או בטוקנייזר.

האימון נעשה בשיטת Iterated Distillation and Amplification, מתוך כוונה לשפר ביצועים במשימות תכנות, מדעים, ומעקב אחר הוראות ביותר מ־30 שפות. המפתחים מציגים עליונות במבחני Livebench מול דגמים מקבילים בגודל זה, הן מול גרסאות רגילות של Llama ו־Qwen והן מול מודלי חשיבה כמו Deepseek R1 המזוקקים או QwQ. המודל כולל גם תמיכה מובנית בהפעלת כלים, כולל קריאות מקבילות ומרובות.

מתאים ל

  • פיתוח סקריפטים וקוד

    המודל עבר אופטימיזציה למשימות תכנות ויכול לחשוב לפני כתיבת הקוד כדי למנוע טעויות לוגיות.

  • הפעלת כלים וסוכנים

    תמיכה מובנית בקריאות לפונקציות יחידות או מקבילות מאפשרת שילוב עם מערכות חיצוניות.

  • משימות ניתוח מעמיק

    הפעלת מנגנון החשיבה העצמי מסייעת בפתרון בעיות STEM והוראות מורכבות הדורשות בדיקה פנימית.

איפה זה נופל

המודל מוגדר כגרסת preview, מה שמעיד על מוצר שעדיין נמצא בשלבי בדיקה ואינו בהכרח יציב לייצור. כרטיס המודל מציג תמונות מגרפי מבחנים ללא פירוט מספרי מדויק של התוצאות בטקסט עצמו. בנוסף, חלון הקשר של 128k ידרוש משאבי זיכרון עצומים שלא יתאימו לחומרה ביתית, ואיכות התמיכה ביותר מ־30 שפות, כולל עברית, לא מפורטת ודורשת בדיקה עצמאית לפני הטמעה.

אותה משפחה

cogito-v1-preview-qwen יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

cogito-v1-preview-qwen-32B1,072

שאלות
נפוצות

איך מפעילים את מצב החשיבה המעמיקה במודל?

אפשר לעשות זאת בשתי דרכים פשוטות. הראשונה היא הוספת המשפט Enable deep thinking subroutine להנחיית המערכת, והשנייה היא הגדרת הפרמטר enable_thinking=True בעת שימוש בתבנית השיחה של הטוקנייזר.

האם המודל מתאים לשימוש מסחרי במוצר סגור?

כן, רישיון apache-2.0 מאפשר שימוש מסחרי מלא, כולל שילוב במוצרים קנייניים. התנאי העיקרי הוא שמירה על הצהרת הרישיון המקורית של הפרויקט.

איך מריצים

כדי להריץ אותו בפורמט bfloat16 המקורי תצטרכו להוריד 27.5 גיגה-בייט של משקלים. בפועל דרוש כרטיס מסך עם לפחות 32 גיגה-בייט זיכרון כדי להחזיק את המודל ולשמור מקום לחישובי הקשר, במיוחד אם מנצלים את החלון שתומך בעד 128k טוקנים.

ההפעלה נעשית ישירות דרך ספריית transformers בפייתון. במצב רגיל המודל פועל ישירות, וכדי להפעיל את מנגנון החשיבה יש להוסיף הוראת מערכת ספציפית או להגדיר את הדגל בטוקנייזר. אם אין ברשותכם חומרת שרת מתאימה, החזקת מודל בגודל כזה עלולה להיות יקרה ואיטית ביחס לשימוש ב־API חיצוני.

from transformers import pipeline

pipe = pipeline("text-generation", model="deepcogito/cogito-v1-preview-qwen-14B")
print(pipe("שלום"))

הקבצים

20 קבצים במאגר, 27.5 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

המשקלים והקוד משוחררים תחת רישיון apache-2.0. זהו רישיון פתוח שמתיר שימוש מסחרי חופשי, שינוי של הקוד והפצה מחדש, כל עוד שומרים על הודעת זכויות היוצרים ומציינים שינויים שנעשו.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗