nanochat-d32
קוד פתוחkarpathymit2025-10-16
פרויקט צדדי של אנדריי קארפתי שמיועד למי שרוצה לפרק לגורמים מודל שיחה קטן מקצה לקצה. אם אתם מחפשים קוד נקי לבדיקות והבנה של ארכיטקטורה, זה המקום להתחיל בו.
- 6.8 GBמשקל הקבצים
- 10,251הורדות בחודש
- 94לייקים
מה זה
מדובר במשקלים של פרויקט nanochat שקארפתי העלה ישירות מהניסויים שלו, בלי המעטפת המלוטשת הרגילה של האגינג פייס. המודל שוקל 6.8 גיגה בייט ומיועד למחקר, ניסויים והבנה עמוקה של תהליך האימון והכוונון לשיחה. אין כאן דוחות ביצועים מסודרים, ציוני בנצ'מרק או מדידות רשמיות בכרטיס המודל, אלא הפניה לדיון גיטהאב שבו מוסברים הפרטים הטכניים.
ההבדל העיקרי בינו לבין משקלים מסחריים מוכנים הוא הגישה המינימליסטית. הוא לא מנסה להתחרות בענקים אלא לתת לכם מודל שקל להריץ, לבדוק ולשנות את הקוד שלו מאפס בלי שכבות של ספריות כבדות באמצע.
מתאים ל
- לימוד ארכיטקטורת שיחה
מתאים למי שרוצה ללמוד איך מאמנים ומכווננים מודל שיחה דרך קוד מינימליסטי ופתוח לחלוטין.
- ניסויי התאמה אישית
משקל קל שמאפשר להריץ אימוני המשך או שינויים מהירים על חומרה ביתית סבירה בלי עלויות עתק.
- הרצה מקומית ומחקר
טוב לבדיקות אופליין ובחינה ישירה של משקלי מודל בלי תלות בספריות עוטפות ומורכבות מדי.
איפה זה נופל
ההעלאה הזו מוגדרת על ידי היוצר עצמו כעבודה מחוספסת ולא גמורה. אין תמיכה מובנית בתשתיות הרגילות של האגינג פייס, מה שאומר שאי אפשר פשוט לטעון אותו בפקודה אחת סטנדרטית. אין נתונים על יכולות שפה מעבר לאנגלית, ואין עליו מבחני בטיחות או עמידות. להכניס דבר כזה למוצר בלי לבדוק כל פלט בעצמכם זה סיכון מיותר.
שאלות
נפוצות
אפשר לטעון אותו עם ספריית transformers כרגיל?
לא ישירות. היוצר ציין במפורש שההעלאה אינה מותאמת עדיין לתשתית הרגילה, ויש לסדר את הקבצים ידנית בתיקיות ייעודיות.
האם המודל מתאים לשימוש ישיר בעברית?
אין בכרטיס המודל מידע על תמיכה בעברית, ובמודלים ניסיוניים מסוג זה סביר להניח שהטוקנייזר והאימון כוונו בעיקר לאנגלית.
איך מריצים
כדי להריץ אותו תצטרכו לעבוד ידנית, בדיוק כמו שקארפתי הגדיר בהודעה שלו. מורידים את ששת הקבצים ומסדרים אותם במבנה תיקיות ספציפי בתוך תיקיית הקאש, כולל פיצול של קובצי הטוקנייזר והמשקלים למיקומים שונים. מבחינת חומרה, קבצים בנפח כזה דורשים כרטיס מסך עם לפחות שמונה עד שתים עשרה גיגה בייט זיכרון כדי לעבוד בצורה סבירה.
אם אתם צריכים צ'אט יציב ומהיר לאפליקציה אמיתית בלי להתעסק בניתוב קבצים בקוד, פשוט תפנו לכל ממשק מסחרי קיים. המודל הזה שווה את המאמץ רק כשאתם רוצים לחקור את הקוד הפנימי של nanochat.
pip install -U huggingface_hub hf download karpathy/nanochat-d32
הקבצים
6 קבצים במאגר, 6.8 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.
הרישיון
רישיון MIT נותן לכם חופש כמעט מוחלט. מותר להשתמש במודל לצרכים מסחריים, לשנות אותו, להפיץ אותו ולשלב אותו בכל תוכנה, כל עוד אתם משאירים את הצהרת זכויות היוצרים המקורית.
- שימוש מסחרי
- שינוי הקוד
- הפצה מחדש