OpenVINO/export

מה זה

בוחרים מזהה של מודל קיים מתוך Hugging Face, מסמנים אם המאגר החדש יהיה פרטי ואם לדרוס קבצים קיימים, והמערכת מייצרת עותק מומר. התוצאה נשמרת ישירות לחשבון שלכם תחת השם של המודל המקורי בתוספת הסיומת openvino, כולל כרטיס מודל מעודכן ודוגמת קוד לשימוש חוזר.

מאחורי הקלעים רצה ספריית optimum-intel יחד עם מנהל המשימות של optimum. הקוד מזהה אוטומטית את סוג המשימה והספרייה של המודל המקורי, טוען אותו באמצעות מחלקת ה־AutoModel המתאימה, ומייצא את המשקלים לפורמט מותאם ל־OpenVINO. אם המודל כבר הומר בעבר או שהמשימה שלו לא נתמכת ברשימה הפנימית, הפעולה נעצרת ומוחזרת שגיאה.

מתאים ל

• המרת מודל שפה לאינטל

  הופכים מודל קיים לתואם OpenVINO בלחיצת כפתור ושומרים אותו בחשבון שלכם.

• הכנת משקלים לחומרה מקומית

  מייצאים קבצים מוכנים מראש כדי להריץ אותם על מעבדי אינטל בלי תלות בסביבת המרה מקומית.

• שמירה אוטומטית כמאגר פרטי

  ממירים מודלים ישירות לתוך מאגר פרטי חדש בחשבון המשתמש שלכם ברשת.

איפה זה נופל

הכלי מוגבל אך ורק למשימות שמוגדרות במילון הפנימי של האפליקציה. מודל עם ארכיטקטורה חדשה או משימה שאינה מזוהה ייכשל מיד. בנוסף, חומרת המעבד החלשה של הסביבה לא מתאימה למודלים עצומים, ואין כאן בדיקה מעמיקה של דיוק המודל לאחר ההמרה אלא רק ייצוא טכני נטו. אם כבר קיים מאגר באותו שם ולא סימנתם דריסה ידנית, התהליך ייעצר מיד.

איך משתמשים

אי אפשר להשתמש בכלי בלי להתחבר קודם לחשבון Hugging Face דרך כפתור הכניסה, שכן הוא חייב הרשאות ליצירת מאגרים עבורכם. לאחר ההתחברות מחפשים את המודל הרצוי, בוחרים אם לסמן דריסה או מאגר פרטי, ולוחצים על הפעלה. האפליקציה רצה על חומרת מעבד בסיסית, cpu-basic. זה אומר שמודלים כבדים ייקחו זמן ניכר להורדה, המרה והעלאה מחדש, וייתכנו עיכובים משמעותיים בהתאם לגודל הקבצים.

הרישיון

הקוד עצמו מופץ תחת רישיון apache-2.0, שמאפשר שימוש חופשי ושינוי. המשקלים שנוצרים והמאגר החדש כפופים לרישיון של המודל המקורי שממנו ביצעתם את ההמרה, ויש לבדוק את תנאי המקור לפני שימוש מסחרי.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא ב־Hugging Face ↗