Huihui-GLM-4.7-Flash-abliterated

מה זה

הבסיס כאן הוא מודל שפותח במקור על ידי zai-org, שעבר תהליך של הסרת מנגנוני סירוב וצנזורה ישירות מהמשקולות שלו. הוא בנוי בארכיטקטורת תערובת מומחים עם 47 שכבות ומתמחה באנגלית ובסינית, כשהמטרה העיקרית של היוצרים הייתה לייצר הדגמת היתכנות גולמית שמבטלת את הסירובים המובנים בלי להסתמך על כלים ייעודיים כמו טרנספורמר-לנס.

היתרון המרכזי מול מודלים רגילים בגודל הזה הוא חוסר העכבות שלו. הוא יענה על שאלות שכל מודל מסחרי סטנדרטי ידחה מיד בגלל מדיניות בטיחות, ובנוסף הוא מציע חלון הקשר עצום של יותר ממאתיים אלף טוקנים שמאפשר לנתח מסמכים ארוכים מאוד בבת אחת.

מתאים ל

• מחקר על מנגנוני בטיחות

  מאפשר לבדוק תגובות מודל ללא מגבלות סירוב פנימיות.

• בדיקות חוסן פנימיות

  מייצר תרחישי קיצון ותכנים קשים בסביבה מבוקרת.

• עיבוד מסמכי ענק באנגלית

  מנצל חלון של מעל 200 אלף טוקנים לניתוח טקסט שלם.

איפה זה נופל

היוצרים עצמם מודים שמדובר במימוש גולמי וניסיוני לחלוטין. בגלל שהסירובים הוסרו, המודל עלול לפלוט תוכן פוגעני, שגוי או רעיל בלי שום מנגנון הגנה, כך שאי אפשר לחבר אותו למערכות ציבוריות בלי בקרה ידנית קפדנית. בנוסף, הוא מתועד רשמית רק לאנגלית ולסינית, ולכן לא מומלץ לבנות עליו לפרויקטים בעברית.

איך מריצים

כדי להריץ את הדבר הזה מקומית אתם צריכים חומרה רצינית. מדובר בתיקייה של מעל חמישים ושמונה ג'יגה בייט של קבצי משקולות גולמיים, כך שכרטיס מסך ביתי בודד פשוט לא יספיק כאן ותצטרכו מערך עם נפח זיכרון וידאו משמעותי, או שרת ייעודי.

היוצרים מציינים שאפשר להריץ אותו ישירות דרך אולאמה באמצעות הפקודה שלהם מגרסה מסוימת. אם אין לכם את הברזלים המתאימים לנהל קבצים בהיקף כזה, עדיף בהחלט להשתמש במודל מרוחק דרך ממשק תכנות ולא לנסות להרים אותו על תחנת עבודה רגילה.

from transformers import pipeline

pipe = pipeline("text-generation", model="huihui-ai/Huihui-GLM-4.7-Flash-abliterated")
print(pipe("שלום"))

הקבצים

56 קבצים במאגר, 58.2 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00047-of-00048.safetensors2.5 GB
• model-00001-of-00048.safetensors1.4 GB
• model-00048-of-00048.safetensors1.3 GB
• model-00011-of-00048.safetensors1.3 GB
• model-00012-of-00048.safetensors1.3 GB
• model-00013-of-00048.safetensors1.3 GB
• model-00014-of-00048.safetensors1.3 GB
• model-00015-of-00048.safetensors1.3 GB
• model-00016-of-00048.safetensors1.3 GB
• model-00017-of-00048.safetensors1.3 GB
• model-00018-of-00048.safetensors1.3 GB
• model-00019-of-00048.safetensors1.3 GB
• model-00020-of-00048.safetensors1.3 GB
• model-00021-of-00048.safetensors1.3 GB
• model-00022-of-00048.safetensors1.3 GB
• model-00023-of-00048.safetensors1.3 GB
• model-00024-of-00048.safetensors1.3 GB
• model-00025-of-00048.safetensors1.3 GB
• model-00026-of-00048.safetensors1.3 GB
• model-00027-of-00048.safetensors1.3 GB
• model-00028-of-00048.safetensors1.3 GB
• model-00029-of-00048.safetensors1.3 GB
• model-00030-of-00048.safetensors1.3 GB
• model-00031-of-00048.safetensors1.3 GB
• model-00032-of-00048.safetensors1.3 GB
• model-00033-of-00048.safetensors1.3 GB
• model-00034-of-00048.safetensors1.3 GB
• model-00035-of-00048.safetensors1.3 GB
• model-00036-of-00048.safetensors1.3 GB
• model-00037-of-00048.safetensors1.3 GB
• model-00038-of-00048.safetensors1.3 GB
• model-00039-of-00048.safetensors1.3 GB
• model-00040-of-00048.safetensors1.3 GB
• model-00041-of-00048.safetensors1.3 GB
• model-00042-of-00048.safetensors1.3 GB
• model-00043-of-00048.safetensors1.3 GB
• model-00044-of-00048.safetensors1.3 GB
• model-00045-of-00048.safetensors1.3 GB
• model-00046-of-00048.safetensors1.3 GB
• model-00002-of-00048.safetensors1.3 GB

הרישיון

המודל מופץ תחת רישיון MIT, מה שאומר מבחינה משפטית חופש כמעט מוחלט. מותר להשתמש בו לצרכים מסחריים, לשנות אותו ולהפיץ אותו, כל עוד שומרים על הודעת זכויות היוצרים המקורית ולוקחים בחשבון שהמפתחים לא לוקחים שום אחריות על נזקים.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש

הרישיון המלא בעמוד המודל ↗