mergekit-gui

מה זה

מדביקים הגדרות בפורמט YAML, מזינים טוקן גישה אישי של Hugging Face, ובוחרים שם למאגר החדש. בצד הקוד רצה ספריית MergeKit של Arcee, שיודעת לקחת שכבות ומשקלים ממודלים קיימים ולחבר ביניהם לפי ההוראות בקובץ. הממשק מכיל דוגמאות מוכנות של קובצי קונפיגורציה בסיומת yaml, כך שאפשר לראות איך מוגדרים החיבורים לפני שמריצים.

בסיום התהליך מקבלים מודל ממוזג שמועלה אוטומטית לחשבון שלכם, עם אפשרות לסמן אותו כפרטי כדי שלא ייחשף לכולם. המערכת כוללת חלונית לוגים חיה שמאפשרת לעקוב אחרי ריצת המיזוג בזמן אמת, כולל הודעה כשההעלאה מסתיימת בהצלחה.

מתאים ל

• שילוב מודלים בלי שרת

  חיבור מודלי שפה קיימים למודל אחד ישירות לחשבון בלי צורך להגדיר סביבת עבודה מקומית.

• בדיקת תצורות YAML

  התנסות בקובצי הגדרות מוכנים מתוך הדוגמאות כדי לראות איך למזג שכבות בצורה נכונה.

• יצירת מודל פרטי

  מיזוג גרסאות והעלאתן ישירות כמאגר פרטי בתוך הפרופיל שלכם בלחיצת כפתור אחת.

איפה זה נופל

הבעיה המיידית היא שהכלי תקוע על שגיאת מערכת ולא פעיל כרגע. מעבר לכך, אפשרות ההעלאה לארגון קהילתי חסומה אם הבעלים לא הגדיר טוקן ייעודי, ומחיקת מאגרים מתבצעת אם תהליך המיזוג נכשל באמצע. אי אפשר להריץ מיזוגים מורכבים שחורגים מהמכסה החינמית של הזמן המוקצה למעבד הגרפי.

איך משתמשים

בוחרים דוגמה או כותבים קובץ הגדרות, מזינים טוקן ושם למאגר, ולוחצים על כפתור Merge. הריצה מתבססת על מכונת a100-large ומנצלת מנגנון Zero GPU, כך שיש תלות במכסות זמניות ובזמינות החומרה ברשת. כרגע מדווחת שגיאת ריצה כללית בעמוד, כך שהממשק לא יגיב עד שהיוצרים יאתחלו אותו מחדש.

הרישיון

הקוד מופץ ברישיון apache-2.0 שמאפשר שימוש חופשי, שינוי והפצה, גם לצרכים מסחריים. המשקלים שנוצרים והמודל הסופי מועלים ישירות לחשבון האישי שלכם, וכפופים לרישיונות המקוריים של המודלים שאותם בחרתם למזג.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא ב־Hugging Face ↗