DeepSeek-R1-Distill-Qwen-32B-Japanese

מה זה

חברת סייבראייג'נט לקחה את מודל ההסקה המזוקק של דיפסיק שמבוסס על קוון, והתאימה אותו ספציפית לשפה היפנית. הבסיס המקורי כבר מביא יכולות פתרון בעיות ומתמטיקה חזקות, אבל בדרך כלל מודלים כאלה מתקשים לשמור על ניסוח טבעי והבנה תרבותית ביפנית. ההתאמה הזו נועדה לגשר בדיוק על הפער הזה בלי לאבד את מנגנון ההסקה המובנה.

המשקלים יושבים על ארכיטקטורת קוון עם שלושים ושניים מיליארד פרמטרים ושישים וארבע שכבות. המפרסם לא צירף ציוני בנצ'מרק או תוצאות מדידה מספריות בכרטיס, כך שאין נתון רשמי שמראה כמה דיוק הוא הרוויח או איבד לעומת מודל המקור.

מתאים ל

• הסקה ולוגיקה ביפנית

  ניתוח בעיות מורכבות ומתמטיקה הדורשות חשיבה שלב אחר שלב ביפנית שוטפת.

• צ'אטבוטים לשוק היפני

  מענה לפניות משתמשים עם הבנת הקשר מקומי עמוק ויכולת ניסוח מדויקת.

• עיבוד מסמכים ארוכים

  קריאה ותמצות של טקסטים ארוכים ביפנית בזכות חלון הקשר נרחב במיוחד.

איפה זה נופל

הכרטיס לא מספק שום מידע על נתוני האימון, תהליך הסינון או הערכות איכות, מה שאומר שאתם בודקים אותו בעצמכם על עיוור. מודל היעד הוא יפנית בלבד. אם תפנו אליו בעברית, אין שום ערובה שתקבלו פלט הגיוני או יציב, וכנראה שהוא פשוט יענה בג'יבריש או יחזור ליפנית ואנגלית. בנוסף, חלון הקשר עצום דורש זיכרון מסיבי שלא באמת שמיש במלואו על רוב התשתיות המקומיות.

איך מריצים

המשקל הכולל של הקבצים מגיע לשישים ואחד גיגה בייט בדיוק bfloat16, כך שצריך כרטיסי מסך עם זיכרון משמעותי רק כדי לטעון אותו לזיכרון בלי שייפול. אם תרצו לנצל חלק ניכר מתוך מאה שלושים ואחד אלף הטוקנים של חלון ההקשר, דרישות הזיכרון יזנקו עוד יותר.

קוד ההרצה מסתמך על ספריית טרנספורמרס הרגילה של פייתון עם חלוקת עומסים אוטומטית בין המעבדים הגרפיים. אם אין לכם שרת ייעודי עם מספיק זיכרון וידאו, החזקה עצמית של המודל הזה תהיה כבדה ויקרה, ובמקרים כאלה עדיף לחפש ספק חיצוני.

pip install -U huggingface_hub
hf download cyberagent/DeepSeek-R1-Distill-Qwen-32B-Japanese

הקבצים

22 קבצים במאגר, 61.0 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00001-of-00014.safetensors4.9 GB
• model-00004-of-00014.safetensors4.9 GB
• model-00005-of-00014.safetensors4.9 GB
• model-00006-of-00014.safetensors4.9 GB
• model-00007-of-00014.safetensors4.9 GB
• model-00008-of-00014.safetensors4.9 GB
• model-00009-of-00014.safetensors4.9 GB
• model-00010-of-00014.safetensors4.9 GB
• model-00011-of-00014.safetensors4.9 GB
• model-00012-of-00014.safetensors4.9 GB
• model-00013-of-00014.safetensors4.9 GB
• model-00003-of-00014.safetensors4.9 GB
• model-00002-of-00014.safetensors4.9 GB
• model-00014-of-00014.safetensors2.1 GB
• tokenizer.json11.4 MB
• model.safetensors.index.json63.2 KB
• tokenizer_config.json6.8 KB
• README.md5.2 KB
• .gitattributes1.6 KB
• config.json746 B
• special_tokens_map.json485 B
• generation_config.json181 B

הרישיון

המודל שוחרר תחת רישיון MIT, שזה הרישיון הכי מתירני שיש. מותר להשתמש בו לצרכים מסחריים, לשנות אותו, להפיץ אותו ולשלב אותו בקוד סגור. התנאי היחיד הוא שמירת הודעת זכויות היוצרים המקורית של היוצרים.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש

הרישיון המלא בעמוד המודל ↗