gliner2-large-v1

מה זה

במקום לתחזק כמה מודלים נפרדים לזיהוי ישויות, לסיווג ולשליפת קשרים, הקוד כאן מאחד את הכל תחת ממשק מבוסס סכמה. אתם מגדירים בהרצה אילו שדות וישויות לחפש לצד תיאור קצר לכל שדה, והוא מחזיר מבנה נתונים מסודר. המודל שייך למשפחת מודלי אנקודר דו-כיווניים, עם כ־486 מיליון פרמטרים בפועל, מה שמציב אותו בנקודת איזון נוחה בין דיוק למהירות.

היתרון המרכזי מול שימוש במודלי שפה גנרטיביים גדולים הוא יעילות ודטרמיניסטיות. הוא לא מייצר טקסט חופשי אלא מנתח ומחלץ ישירות מתוך הקלט, מה שמונע הזיות ומאפשר להריץ אותו בקצב גבוה על חומרה מקומית רגילה בלי להסתבך עם פייפליינים מורכבים.

מתאים ל

• חילוץ ישויות רפואיות

  מיפוי תרופות, מינונים וסימפטומים מתוך רשומות רפואיות באנגלית ישירות למבנה מוגדר.

• סיווג טקסט מרובה תוויות

  תיוג היבטים מרובים של משוב לקוחות או חוות דעת מוצר בריצה מהירה אחת.

• ניתוח מסמכים פיננסיים

  שליפת נתונים מובנים מחוזים ומדוחות בשפות נתמכות ללא דליפת מידע לרשת.

איפה זה נופל

הבעיה הבולטת ביותר לקורא המקומי היא היעדר תמיכה בעברית. המודל מוגדר ומאומן רק על אנגלית, צרפתית וספרדית, ולכן ניסיון להריץ אותו על טקסט בעברית כנראה ייכשל לחלוטין. בנוסף, יש אי-התאמה בתיעוד שפרסמה החברה לגבי גודל המודל, כשבחלקים שונים נכתב 205, 340 או 486 מיליון פרמטרים, מה שמחייב לבדוק בפועל את צריכת הזיכרון אצלכם לפני שמעלים אותו לפרודקשן.

איך מריצים

מתקינים את ספריית gliner2 בפיפ וטוענים את המשקלים, שתופסים סך הכל 1.8 גיגה-בייט בדיסק. בזכות הגודל הצנוע, אפשר להריץ אותו ישירות על מעבד רגיל בלי לקנות כרטיס מסך ייעודי, אם כי מאיץ גרפי כמובן יקצר את זמני התגובה בעיבוד אצוות גדולות.

אם כל מה שאתם צריכים זה מיצוי ישויות באנגלית, צרפתית או ספרדית בתוך תשתית מאובטחת, אין שום סיבה לשלם לספקי ענן לפי טוקנים. עדיף לפנות למודל גדול בענן רק כשיש צורך בהבנת שפות אחרות או בניתוח טקסטים ארוכים במיוחד שדורשים חלונות הקשר רחבים בהרבה.

pip install -U huggingface_hub
hf download fastino/gliner2-large-v1

הקבצים

12 קבצים במאגר, 1.8 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model.safetensors1.9 GB
• tokenizer.json8.7 MB
• image/GitHub.png4.4 MB
• spm.model2.5 MB
• GitHub_new.jpg858.0 KB
• README.md8.2 KB
• tokenizer_config.json3.2 KB
• special_tokens_map.json2.4 KB
• .gitattributes1.6 KB
• encoder_config/config.json825 B
• added_tokens.json230 B
• config.json226 B

הרישיון

הקוד והמשקלים שוחררו תחת רישיון אפאצ'י 2.0. הרישיון הזה מתיר שימוש מסחרי מלא, כולל שינוי הקוד, שילובו במוצרים סגורים והפצה פנימית או חיצונית, בתנאי ששומרים על הודעות זכויות היוצרים והרישיון המקורי.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗