GPT
הוספת כלי
G

GLM-Z1-Rumination-32B-0414

קוד פתוח

zai-orgmit2025-04-13

  • transformers
  • safetensors
  • glm4
  • text-generation
  • conversational

גרסת חשיבה עמוקה בקוד פתוח שמכוונת למחקר ממושך וכתיבת דוחות מורכבים. היא משלבת הפעלת כלי חיפוש וגלישה בזמן החשיבה כדי לפצח שאלות פתוחות.

  • 33Bפרמטרים
  • 131,072טוקנים בהקשר
  • 61.8 GBמשקל הקבצים
  • 599הורדות בחודש

מה זה

המודל הזה נשען על בסיס של 33 מיליארד פרמטרים שעבר אימון ראשוני על 15 טריליון טוקנים, ומשם המשיך לחיזוק ייעודי בלמידת חיזוק למשימות חשיבה. היוצרים שלו מכוונים ישירות ליכולות בסגנון דיפ ריסרץ של OpenAI, כשהרעיון המרכזי כאן הוא שהייה ארוכה יותר בתהליך המחשבה לפני הפקת תשובה סופית.

בניגוד למודלי הסקה רגילים שרק מחשבים צעדים בראש, הגרסה הזו כוללת מנגנוני הפעלת פונקציות מובנים לחיפוש, לחיצה על תוצאות, פתיחת קישורים וסיום איסוף המידע. המטרה היא לתת מענה לשאלות מחקר רחבות שדורשות איסוף נתונים חיצוני ולא רק פתרון מתמטי סגור בתוך חלון ההקשר.

מתאים ל

  • כתיבת דוחות השוואה

    הוא מאומן לנתח שאלות פתוחות ורחבות תוך שילוב עובדות ממספר מקורות מידע.

  • סוכן מחקר אוטונומי

    הוא כולל פקודות מובנות לחיפוש ברשת, כניסה לקישורים ואיסוף נתונים עצמאי.

  • פתרון בעיות לוגיות

    אימון החיזוק שעבר מקנה לו יכולת להעמיק בחישובים ושלבי הנמקה ארוכים.

איפה זה נופל

הכרטיס מצהיר על תמיכה בשפות אנגלית וסינית בלבד, כך שעברית לא נמצאת ברשימת השפות הרשמית ולא נבדקה. בנוסף, המודל תלוי בחיבור מוצלח של כלי חיפוש חיצוניים כדי לבצע את פעולות החקירה בפועל. אם לא תחברו מערכת מתאימה שתספק תוצאות לקריאות החיפוש, הוא לא יממש את היתרון שלשמו נבנה.

שאלות
נפוצות

האם אפשר להריץ אותו על מחשב נייד רגיל?

לא. מדובר במודל של 33 מיליארד פרמטרים ששוקל 61.8 גיגה בייט בקבצים שלו. נדרש כרטיס גרפי ייעודי עם זיכרון גדול מאוד או שרת מתאים כדי להטעין אותו.

האם המודל יודע לחפש באינטרנט בכוחות עצמו?

הוא מחזיר קריאות מובנות לפונקציות חיפוש, לחיצה ופתיחת כתובות, אך התשתית שלכם צריכה להריץ את החיפוש בפועל ולהחזיר לו את התוצאות.

איך מריצים

כדי להריץ אותו מקומית צריך לפרוק 61.8 גיגה בייט של משקלים בפורמט bfloat16, מה שמחייב חומרה עם זיכרון וידאו גדול מאוד או חלוקה על פני כמה מאיצים. תצטרכו את ספריית transformers מגרסה 4.51.3 ומעלה, ושימוש בטעינה עם מיפוי התקנים אוטומטי.

אם אין לכם שרת ייעודי זמין, קריאה לשירות מרוחק תחסוך את עלויות החומרה וההחזקה. זה נכון במיוחד אם אתם רק בודקים את יכולות החיפוש והמחקר שלו ולא צריכים את המידע שמור לחלוטין ברשת הפנימית שלכם.

from transformers import pipeline

pipe = pipeline("text-generation", model="zai-org/GLM-Z1-Rumination-32B-0414")
print(pipe("שלום"))

הקבצים

24 קבצים במאגר, 61.8 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הפרויקט פורסם תחת רישיון MIT. זהו רישיון מתירני שמאפשר שימוש חופשי, שינוי קוד, הפצה ושילוב במוצרים מסחריים ללא תשלום תמלוגים, בכפוף לשמירת הודעת זכויות היוצרים המקורית.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש

הרישיון המלא בעמוד המודל ↗