NuExtract-1.5-tiny

מה זה

מדובר בכיוונון של Qwen2.5-0.5B שמיועד למשימה אחת בלבד: חילוץ מידע מובנה. אתם מעבירים לו טקסט ותבנית JSON ריקה, והוא מחזיר את הנתונים כשהם ממולאים. המודל בנוי כך שהוא כמעט ולא ממציא או מנסח מחדש, אלא גוזר את המילים המדויקות כפי שהן מופיעות במקור.

היתרון המרכזי כאן הוא שילוב של גודל וקונטקסט. המודל שוקל 954 מגה-בייט בלבד, אבל תומך בחלון הקשר של 32,768 טוקנים. הוא יודע לעבוד במספר שפות אירופיות, ביניהן אנגלית, צרפתית, ספרדית, גרמנית, פורטוגזית ואיטלקית. אם אתם צריכים רק לחלץ שדות מקובץ בלי לנתח או לקבל תשובות יצירתיות, הגודל הזעיר שלו נותן עבודה נקייה מאוד בלי משקל עודף.

מתאים ל

• עיבוד חשבוניות וקבלות

  שליפת סכומים, שמות ספקים ותאריכים ישירות לתוך סכמת JSON מוגדרת מראש.

• חילוץ פרטים ממסמכים ארוכים

  ניצול חלון של 32,768 טוקנים כדי לסרוק חוזים באנגלית ולשלוף סעיפים ספציפיים.

• פייפליין מקומי במכשיר קצה

  משקל של פחות מג'יגה מאפשר הרצה מהירה מקומית באופליין בלי לפגוע בפרטיות.

איפה זה נופל

המודל מוגבל אך ורק לטקסט המקורי ולא יודע לסכם, לתרגם או לעשות מניפולציות על המידע. אם המידע לא כתוב מפורשות במסמך, הוא פשוט לא ישלוף אותו. בנוסף, רשימת השפות הנתמכות מוגדרת וסגורה לאנגלית ולכמה שפות אירופיות. עברית לא נכללת ברשימה הזו, ולכן לא הייתי בונה עליו לחילוץ מטקסטים בעברית לפני בדיקה יסודית של התוצאות.

איך מריצים

בגלל שמדובר בפחות מחצי מיליארד פרמטרים, כל מעבד סביר או כרטיס מסך בסיסי לחלוטין מריצים אותו בלי להרגיש. אין צורך בשרתים ייעודיים יקרים, והוא נכנס בקלות לזיכרון של מחשב נייד רגיל. חובה להגדיר טמפרטורה קרובה לאפס, כי בערכים גבוהים יותר כמו ברירות המחדל של כלים דוגמת Ollama, המודל מאבד את הדיוק בחילוץ.

ליוצרים יש גם גרסת 3.8B שמבוססת על ארכיטקטורה אחרת. אם הטקסטים שלכם מורכבים במיוחד ויש לכם שרת מתאים, שווה לבדוק אותה. אבל עבור משימות קבועות של חילוץ שדות, אין סיבה לשלם על API חיצוני כשאפשר להרים את הגרסה הזו מקומית באפס עלות שוטפת.

pip install -U huggingface_hub
hf download numind/NuExtract-1.5-tiny

הקבצים

16 קבצים במאגר, 954 MB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model.safetensors988.1 MB
• tokenizer.json7.0 MB
• vocab.json2.8 MB
• merges.txt1.7 MB
• fewshot_bench.png152.1 KB
• english_bench.png127.8 KB
• multilingual_bench.png104.9 KB
• english_bench.pdf21.7 KB
• finetuned_gains.pdf17.6 KB
• tokenizer_config.json7.4 KB
• README.md6.2 KB
• .gitattributes1.5 KB
• config.json729 B
• special_tokens_map.json616 B
• added_tokens.json605 B
• generation_config.json117 B

הרישיון

רישיון MIT חופשי לחלוטין. מותר להשתמש בו לצרכים מסחריים, לשנות אותו, לשלב אותו במוצר סגור ולהפיץ אותו הלאה, בלי תמלוגים או דרישות לפתיחת הקוד. התנאי היחיד הוא שמירה על הצהרת זכויות היוצרים המקורית בתוך הקבצים.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש

הרישיון המלא בעמוד המודל ↗