NuExtract

מה זה

מדובר בהתאמה ייעודית של phi-3-mini של מיקרוסופט, שאומנה על דאטה סינתטי סגור במטרה אחת בלבד: חילוץ מידע מובנה. במקום מודל שיחה כללי שמנסה להיות יצירתי, מקבלים כאן כלי ממוקד שמחזיר תשובות לפי סכמה שאתם מגדירים מראש. המודל פועל בצורה חילוצית בלבד, כלומר כל פיסת מידע שהוא פולט חייבת להופיע מילה במילה בתוך הטקסט המקורי שהזנתם.

היוצרים שלו מציעים גם גרסאות נוספות במשקלים שונים, כמו גרסת 0.5B קלה או גרסת 7B כבדה יותר, כדי לאפשר גמישות בין מהירות לביצועים. עם זאת, היוצרים עצמם מציינים במפורש שהגרסה הזו מיושנת וכבר קיימת גרסה עדכנית יותר בשם 1.5 שכדאי לבדוק.

מתאים ל

• חילוץ פרטים מחשבוניות

  שליפת שמות ספקים, מחירים ותאריכים מתוך מסמכים קצרים באנגלית ישר למבנה נתונים מסודר.

• עיבוד קורות חיים

  המרת קובצי טקסט של מועמדים לשדות קבועים של ניסיון, תפקידים והשכלה בלי להמציא נתונים.

• הזנת לידים להודעות

  קריאת פניות באנגלית ומשיכת פרטי קשר, שמות חברות וצרכים מוגדרים ישירות לתוך ה־CRM.

איפה זה נופל

המגבלה הכי קריטית כאן היא אורך הקלט: הכרטיס דורש להזין טקסטים של פחות מ־2000 טוקנים, כך שמסמכים ארוכים או חוזים שלמים ייחתכו או ייכשלו. בנוסף, המודל אומן ותומך רשמית רק באנגלית, כך שאין מה לבנות עליו לחילוץ נתונים בעברית. מאחר שהוא רק מחלץ ולא מייצר, הוא לא יודע לסכם, לנרמל תאריכים או להסיק מסקנות שלא כתובות במפורש.

איך מריצים

כדי להריץ אותו אצלכם תצטרכו לפחות 16 גיגה זיכרון בכרטיס מסך עבור המשקלים המקוריים, שתופסים כרגע מעל 14 גיגה בפורמט float32. זה גודל שמחייב חומרה ייעודית אם רוצים זמני תגובה הגיוניים בייצור, אלא אם מבצעים קוונטיזציה לפורמטים קלים יותר.

אם יש לכם שרת מקומי עם מעבד גרפי מתאים ואתם מחויבים לפרטיות מלאה של המידע, שווה להרים אותו לבד. לעומת זאת, אם מדובר בעומס נמוך או בפרויקט צד, קריאה למודל גדול יותר דרך שירות ענן תחסוך את כאב הראש של תחזוקת השרת.

from transformers import pipeline

pipe = pipeline("text-generation", model="numind/NuExtract")
print(pipe("שלום"))

הקבצים

16 קבצים במאגר, 14.2 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00002-of-00004.safetensors5.0 GB
• model-00001-of-00004.safetensors5.0 GB
• model-00003-of-00004.safetensors4.9 GB
• model-00004-of-00004.safetensors394.0 MB
• tokenizer.json1.8 MB
• tokenizer.model499.7 KB
• result_ft.png152.1 KB
• result.png144.7 KB
• model.safetensors.index.json16.3 KB
• README.md4.0 KB
• tokenizer_config.json3.4 KB
• .gitattributes1.5 KB
• config.json986 B
• special_tokens_map.json479 B
• added_tokens.json334 B
• generation_config.json214 B

הרישיון

הרישיון הוא MIT, וזה אומר חופש כמעט מוחלט. מותר להשתמש בו לצרכים מסחריים, לשנות אותו, להטמיע אותו במוצרים סגורים ולהפיץ אותו הלאה, כל עוד משאירים את הצהרת זכויות היוצרים המקורית בקוד.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש

הרישיון המלא בעמוד המודל ↗