Cydonia-24B-v4.3

מה זה

מדובר במודל שמבוסס על ארכיטקטורת Mistral עם 40 שכבות, שעבר כוונון ייעודי למטרות בידור, כתיבה עלילתית ומשחקי תפקידים. היוצר שלו מבהיר מראש שהמטרה כאן אינה פתרון בעיות, תכנות או דיוק לוגי, אלא היכולת לבנות סיפור, לגלם דמויות שונות בו זמנית ולשמור על סגנון כתיבה עשיר.

בניגוד למודלים של חברות גדולות שנוטים לסירובים ולחזרתיות יתר, המודל הזה אמור להפגין יוזמה בעלילה, להכניס אלמנטים חדשים שלא הוזכרו מפורשות ולשמור על אופי עקבי של כמה דמויות בשיחה. המודל תומך בטוקנייזר Tekken של Mistral ומסוגל לפעול עם או בלי תגיות חשיבה בהתאם לצורך.

מתאים ל

• משחקי תפקידים מרובי דמויות

  הוא יודע להפריד היטב בין קולות שונים ולשמור על אופי עקבי של כמה דמויות במקביל בשיחה.

• כתיבת פרוזה וסיפורת

  מייצר התפתחויות עלילתיות באופן עצמאי בלי להסתמך רק על הוראות צמודות של הכותב.

• ניסויי כתיבה ללא צנזורה רכה

  מאפשר לבדוק תרחישים ספרותיים פחות שגרתיים בלי שהמודל יטיף מוסר או יסרב לשתף פעולה.

איפה זה נופל

היוצר מציין בעצמו שהמודל הזה עשוי לסרב לבקשות מסוימות או להפגין נטייה חיובית יותר בהשוואה לגרסאות קודמות. כמו כן, בגלל שהדגש הושם על יצירתיות ולא על נכונות, הוא מועד לכשלים בהבנת חוקי פיזיקה בסיסיים, בלבול סיבתיות או ערבוב פרטים קטנים בעלילות מורכבות. הוא אינו מתאים בשום אופן לחילוץ עובדות, מחקר, כתיבת קוד או משימות שדורשות דיוק מתמטי.

אותה משפחה

Cydonia יצא ב־11 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן, והשאר בעמוד המפרסם.

איך מריצים

המשקל המקורי מגיע ב־19 קבצים בנפח כולל של 43.9 גיגה-בייט, כך שהרצה שלו בדיוק מלא דורשת כרטיס מקצועי עם לפחות 48 גיגה זיכרון גרפי. בפועל, רוב המשתמשים מריצים גרסאות מכווצות בפורמט GGUF או EXL3, שם אפשר להסתפק בכרטיס בודד של 16 או 24 גיגה זיכרון.

המודל כולל חלון הקשר עצום של 131,072 טוקנים. אם תרצו לנצל הקשרים ארוכים במיוחד, תצטרכו להקצות זיכרון נוסף למטמון, ולכן למי שאין מחשב ייעודי מתאים עדיף לשקול שימוש דרך ספקי API חיצוניים שתומכים בו.

pip install -U huggingface_hub
hf download TheDrummer/Cydonia-24B-v4.3

הקבצים

19 קבצים במאגר, 43.9 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00004-of-00010.safetensors4.9 GB
• model-00007-of-00010.safetensors4.9 GB
• model-00005-of-00010.safetensors4.8 GB
• model-00008-of-00010.safetensors4.8 GB
• model-00006-of-00010.safetensors4.8 GB
• model-00009-of-00010.safetensors4.8 GB
• model-00003-of-00010.safetensors4.8 GB
• model-00002-of-00010.safetensors4.8 GB
• model-00001-of-00010.safetensors4.8 GB
• model-00010-of-00010.safetensors3.9 GB
• tokenizer.json17.1 MB
• tokenizer_config.json198.1 KB
• model.safetensors.index.json29.9 KB
• special_tokens_map.json21.4 KB
• README.md8.5 KB
• chat_template.jinja2.7 KB
• .gitattributes1.6 KB
• config.json637 B
• generation_config.json164 B

הרישיון

המודל פורסם ללא הגדרת רישיון בכרטיס המודל. המשמעות היא שאין הרשאה ברורה ומפורשת לשימוש מסחרי, הפצה מחדש או הטמעה בתוך מוצר, וכל שימוש כזה כרוך בסיכון משפטי עד שהמפתח יבהיר את תנאי הרישוי.

הרישיון המלא בעמוד המודל ↗