Cydonia-24B-v4.3-GGUF
קוד פתוחTheDrummerרישיון לא דווח2025-11-08
גרסת GGUF למודל 24B שמיועד בעיקר לסיפורים ומשחקי תפקידים ללא יישור תאגידי כבד. המפתח כיוון לכתיבה ספרותית, יוזמה עלילתית ופחות סירובים, על בסיס Mistral v7 Tekken.
- 89.3 GBמשקל הקבצים
- 22,063הורדות בחודש
- 91לייקים
מה זה
מדובר בכיוונון של מודל בגודל 24B שמיועד לחובבי משחקי תפקידים, כתיבה יוצרת ונרטיב חופשי. היוצר מצהיר במפורש שהוא לא ניסה לפתור בעיות היגיון מורכבות או לבנות מערכת עסקית זהירה, אלא לתת מענה למי שמחפש פרוזה עשירה ויוזמה עלילתית. המודל בנוי כך שהוא מקדם את העלילה ומביא אלמנטים חדשים שלא הוזכרו מפורשות בפרומפט, במקום רק לענות לשאלות בצורה יבשה.
הוא משתמש בטוקנייזר של Mistral v7 Tekken ותומך במצב חשיבה באמצעות תגיות thinking, אבל מסוגל לעבוד בלעדיהן. הדגש כאן הוא על שמירה על קול ייחודי לדמויות שונות, יכולת לנהל שיחות מרובות משתתפים, ועמידות מסוימת לשינויי הקשר ארוכים. המפתח גם מציין שהגרסה הזו עשויה להיות מעט יותר חיובית או לסרב לפעמים בהשוואה לקודמות, אך בתמורה מציעה שיפור בכתיבה.
מתאים ל
- משחקי תפקידים ודמויות
שומר על אופי שונה לכמה דמויות בשיחה אחת ולא דורש דוגמאות שיחה רבות כדי להיכנס לתפקיד.
- כתיבת סיפורת ופרוזה
מייצר התפתחויות עלילתיות עצמאיות שלא נכתבו מראש בהנחיה ומספק ניסוחים ספרותיים.
- הרצה מקומית גמישה
קבצי GGUF מאפשרים להריץ מודל 24B על חומרה ביתית מתאימה עם או בלי שימוש במצב חשיבה.
איפה זה נופל
המודל הזה לא נועד לעבודה מדויקת, לפתרון בעיות קשות או למשימות קוד. היוצר עצמו מזהיר שהגרסה הנוכחית עשויה לפעמים לסרב לפניות או להפגין נטייה חיובית מדי. מעבר לזה, בעלילות מורכבות תיתכנו בעיות קלות של סיבתיות או חוקי פיזיקה, כך שלא כדאי לסמוך עליו במקומות שדורשים אמינות מוחלטת.
אותה משפחה
Cydonia יצא ב־11 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן, והשאר בעמוד המפרסם.
שאלות
נפוצות
האם המודל דורש תגיות thinking כדי לפעול טוב?
לא. הוא תומך בהפעלת תגיות חשיבה אם אתם מעדיפים את זה, אבל עובד בצורה מלאה ותקינה גם בלעדיהן בהתאם לתבנית של מיסטרל.
האם הוא מתאים לשימוש כעוזר אישי או לניתוח נתונים?
לא מומלץ בכלל. המודל מכוון ספציפית לכתיבה ספרותית, בידור ויצירתיות, והמפתח מצהיר שיכולות פתרון בעיות ואינטליגנציה כללית לא היו בעדיפות.
איך מריצים
כדי להריץ מודל של 24 מיליארד פרמטרים בפורמט GGUF נדרש כרטיס מסך עם זיכרון וידאו מכובד. בקוונטיזציה בינונית תצטרכו לפחות 16 עד 24 גיגה בייט זיכרון כדי לטעון אותו יחד עם הקשר עבודה סביר, או שתאלצו לחלק את השכבות בין המעבד לכרטיס המסך ולספוג ירידה בקצב היצירה.
אם אין לכם חומרה ייעודית מקומית, עדיף לגשת אליו דרך שירותים חיצוניים כמו OpenRouter שמחזיקים אותו ומאפשרים לשלם לפי טוקנים בלי לתחזק שרת.
ollama run hf.co/TheDrummer/Cydonia-24B-v4.3-GGUF:Q4_K_M
איזו גרסה
אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.
הקבצים
8 קבצים במאגר, 89.3 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.
הרישיון
הרישיון לא דווח בעמוד המודל. במצב כזה אסור להניח שמותר להשתמש בו לצרכים מסחריים, וכל שימוש כזה כרוך בסיכון משפטי עד שהמפתח יפרסם תנאים ברורים.