gguf-editor

מה זה

הכלי מקבל קובצי GGUF ממאגרים בהאגינג פייס, קורא את נתוני המטא דאטה ששמורים בתוכם, ופולט קובץ מעודכן או קישור להורדה. אפשר לערוך שדות קיימים, למחוק נתונים, או להוסיף שדות חדשים לפי הגדרות מותאמות אישית.

מאחורי הקלעים הקוד משתמש בהזרמת נתונים דרך שרת FastAPI עם HuggingGGUFstream, כך שאין צורך לטעון את כל משקלי המודל לזיכרון כדי לשנות ערך בודד. הממשק כולל לשונית עזרה עם דוגמאות מובנות להמחשת סוגי שדות, מטריצת נתונים לתצוגה, ותמיכה בטוקנים ובמערכים. ברשימת המודלים שמקושרים לסביבה רשום openai-community/gpt2.

מתאים ל

• שינוי טוקנים מיוחדים

  עדכון הגדרות של טוקני התחלה וסיום במודל ישירות במטא דאטה.

• תיקון פרמטרים שגויים

  עריכת ערכים מספריים או שמות ארכיטקטורה בקובץ בלי להמיר הכל מחדש.

• בדיקת מבנה קובץ GGUF

  צפייה מהירה בטבלת השדות והמפתחות שנשמרו בתוך המודל.

איפה זה נופל

זה לא כלי לאימון מודלים או להרצה של שיחות טקסט, והוא לא מאפשר לשנות את משקלי הטנזורים עצמם. מי שמצפה לבדוק שם ביצועים של מודל יתאכזב, כי כל מה שקורה כאן הוא קריאה וכתיבה של שדות הגדרה. בנוסף, חומרת המעבד החלשה וההסתמכות על חיבור רשת למאגרים עלולות לגרום להשהיות בטעינת מבנה של קבצים כבדים במיוחד.

איך משתמשים

בוחרים ענף ומאגר בעזרת מנגנון החיפוש המובנה, או מתחברים לחשבון האגינג פייס כדי לגשת לקבצים פרטיים. בוחרים את המפתח שרוצים לשנות מתוך התפריט, מקלידים את הערך החדש כטקסט, מספר או בוליאני, ולוחצים על כפתור ההורדה. הכל רץ על חומרת cpu-basic בסיסית, כך שפעולות עריכה פשוטות מתבצעות מהר יחסית כי הן נוגעות רק לחלק של המטא דאטה ולא למשקלים עצמם.

הרישיון

הקוד פתוח ברישיון MIT, שמאפשר שימוש חופשי, שינוי והפצה לכל צורך. הקבצים והשינויים תלויים במאגרים שמהם הם נמשכים ובהרשאות החשבון שלכם.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש

הרישיון המלא ב־Hugging Face ↗