ultrascale-playbook

מה זה

אין כאן תיבת טקסט שזורקים אליה פרומפטים ואין פלט שנוצר בזמן אמת. אתם מקבלים אתר סטטי שמרכז ידע מעשי ושיטות עבודה של צוות nanotron לאימון מודלים בקנה מידה עצום, מבוסס על תהליכי בנייה ב־npm ופיצול מקטעי HTML.

התוכן עצמו מחולק למקטעים שנטענים בזמן ריצה כדי לשמור על גודל עמוד נמוך מ־1MB, לצד רכיבים קבועים שנבנים מראש לתוך הקוד. הדגש הוא על קריאה ועיון בטכניקות עבודה עם אשכולות חישוב, בלי להריץ שום מודל מאחורי הקלעים ברמת הדפדפן.

מתאים ל

• לימוד אימון באשכולות GPU

  מעבר על עקרונות ושיטות עבודה לאימון מודלי שפה על פני שרתי עיבוד מרובים.

• עבודה מקומית עם המדריך

  משיכת הקוד והרצתו על המחשב שלכם כדי לערוך, להוסיף מקטעים ולקרוא אופליין.

• הטמעת מקטעי HTML

  שימוש בתבנית הפיתוח של הפרויקט לבניית דפי הדרכה מהירים ששוקלים מעט.

איפה זה נופל

השם עלול לבלבל, כי לא מאמנים כאן שום מודל בפועל ואין פה ממשק לניהול קלאסטרים או כפתור שמריץ קוד על שרת חיצוני. זה מדריך כתוב בלבד, בלי שרת GPU שמחובר אליו מאחור.

אם אתם מחפשים כלי שמחשב אוטומטית חלוקת זיכרון לפי מפרט החומרה שלכם, תצטרכו לחפש במקום אחר או לבנות את זה בעצמכם מתוך הטקסט. הריצה המקומית דורשת סביבת Node.js מסודרת והורדה של נכסים כבדים דרך Git LFS.

איך משתמשים

פותחים את הקישור בדפדפן ומתחילים לקרוא, בלי צורך בחשבון, בלי הרשמה ובלי שום תור שממתינים בו. הדף סטטי לחלוטין ולכן הוא עולה מיד, תלוי רק במהירות שבה הדפדפן שלכם מושך את מקטעי ה־HTML השונים.

מי שרוצה לשנות את התוכן או לעבוד מקומית צריך למשוך קבצי LFS בגיט, להתקין תלויות דרך npm run build ו־npm run dev, ולבדוק בקונסול אילו מקטעים זמינים לעריכה בתיקיית המקור לפני יצירת קובצי ההפצה.

הרישיון

הפרויקט מופץ תחת רישיון apache-2.0. הרישיון הזה מתיר שימוש מסחרי, שינוי של הקוד והפצה מחדש, כל עוד שומרים על תנאי הרישיון וציון המקור. אתם לא מעלים לכאן שום תוכן אישי, כך שאין שום סיכון לפרטיות של קבצים פרטיים.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא ב־Hugging Face ↗