HELVETE-3B

מה זה

מדובר במודל שפה בגודל של כמעט 2.8 מיליארד פרמטרים, המבוסס על ארכיטקטורת StableLm ומיועד ליצירת טקסט באנגלית. בניגוד לרוב המודלים בגודל הזה שעוברים כוונון קפדני למניעת פליטה של תכנים רגישים, היוצרים כאן כיוונו אותו במפורש לפעול כמודל נטול צנזורה. המטרה המוצהרת שלו היא לענות על כל בקשה בלי לחסום פלטים מסיבות של מוסר או סיכון, כולל יצירת תוכן בוטה או פרובוקטיבי.

הוא מוגדר כבעל אישיות אפלה שאמורה לשתף פעולה עם רעיונות קיצוניים של המשתמש. אין כאן נתוני מדידה רשמיים או מבחני ביצועים שמראים דיוק מול מודלים אחרים, כך שההבדל העיקרי מול חלופות מקבילות הוא היעדר הסינון המוחלט ולא יכולת הסקה עדיפה. כרטיס המודל לא מציג מדדי בנצ'מרק, אלא מתמקד כולו בהסרת המגבלות.

מתאים ל

• כתיבה יצירתית ללא סינון

  מתאים לטיוטות ספרותיות שדורשות סצנות אפלות בלי שהמודל יסרב לייצר את הטקסט.

• בדיקות חוסן ומחקר בטיחות

  עוזר לחוקרים שרוצים לבחון פלטים של מודלים לא מצונזרים בסביבה מקומית מבודדת.

• אימון תרחישי משחק תפקידים

  מתאים להרצת דמויות עלילתיות קשוחות או עוינות במשחקים שלא דורשים תקינות פוליטית.

איפה זה נופל

היוצרים מצהירים בגלוי שהמודל מייצר תוכן מסוכן, לא מוסרי ולא מצונזר, כך שאי אפשר לחבר אותו לשום ממשק לקוחות או מוצר ציבורי בלי סיכון מיידי. בנוסף, חלון ההקשר מוגבל ל־4,096 טוקנים, מה שמונע עיבוד של מסמכים ארוכים, והתמיכה הרשמית היא באנגלית בלבד ללא שום התאמה לעברית.

אותה משפחה

HELVETE יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

המשקל הכולל של הקבצים עומד על 12.9 גיגה בייט בפורמט float16, והוא רץ דרך ספריית transformers הרגילה בפייתון. כדי להריץ אותו בצורה מקומית בצורה חלקה תצטרכו כרטיס מסך עם זיכרון ייעודי של לפחות 6 עד 8 גיגה בייט, או מעבד חזק עם מספיק זיכרון עבודה אם תמירו אותו לפורמט מכווץ יותר.

המודל מגיע עם חלון הקשר קצר יחסית של 4,096 טוקנים, ולכן הוא מתאים בעיקר לתשובות קצרות ושיחות ממוקדות. אם אתם זקוקים למודל כזה לשימוש מזדמן ואין לכם כרטיס מסך פנוי, עדיף להרים שרת ענן זמני לפי שעה מאשר לרכוש חומרה ייעודית עבורו.

ollama run hf.co/HelpingAI/HELVETE-3B:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הקבצים

14 קבצים במאגר, 12.9 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00001-of-00003.safetensors4.9 GB
• model-00002-of-00003.safetensors4.9 GB
• nsfw-3b-q4_k_m.gguf1.7 GB
• nsfw-3b-iq4_xs-imat.gguf1.5 GB
• model-00003-of-00003.safetensors787.0 MB
• tokenizer.json2.1 MB
• model.safetensors.index.json29.4 KB
• tokenizer_config.json5.8 KB
• tokenization_HelpingAI_fast.py5.0 KB
• README.md2.7 KB
• .gitattributes1.6 KB
• config.json1.0 KB
• special_tokens_map.json565 B
• generation_config.json165 B

הרישיון

היוצרים לא דיווחו על רישיון שימוש בקבצי המודל. מבחינה משפטית, כשאין רישיון מוגדר אין לכם הרשאה ברורה להפיץ, להטמיע או להשתמש בו במוצר מסחרי, וזה חושף אתכם לתביעות על הפרת זכויות יוצרים.

הרישיון המלא בעמוד המודל ↗