Saul-7B-Instruct-v1

מה זה

הבסיס כאן הוא מיסטרל המוכר, אבל עם אימון המשך ייעודי של צוות חוקרים אקדמי יחד עם חברת Equall כדי לחזק את ההבנה המשפטית שלו. הרעיון הוא לתת מענה ספציפי לניתוח ויצירת טקסטים בתחום החוק, תחום שבו מודלים כלליים נוטים להמציא מונחים או לאבד את ההקשר המדויק.

המודל מגיע עם חלון הקשר של קרוב ל־33 אלף טוקנים, שזה הכרחי כשצריך לטעון חוזים ארוכים או פסקי דין שלמים. הוא עובד באנגלית בלבד ומיועד למשימות של שיחה, מענה לשאלות על מסמכים וניסוח סעיפים לפי הנחיות ברורות.

מתאים ל

• תמצות מסמכים משפטיים

  ניתוח חוזים ופסקי דין ארוכים באנגלית בתוך חלון הקשר רחב ותוך שימוש במינוח משפטי מתאים.

• ניסוח ראשוני לסעיפים

  יצירת טיוטות ראשוניות להסכמים לפי הנחיות מוגדרות מראש, כבסיס לעבודה של עורך דין.

• עיבוד מידע מקומי ומאובטח

  מענה על שאלות מתוך מסמכים רגישים שחייבים להישאר על השרת שלכם ולא להישלח לשירותי ענן.

איפה זה נופל

היוצרים מודים במפורש שבגלל הגודל שלו הוא מפגין ביצועים פחות יציבים וחזקים מחלופות של 70 מיליארד פרמטרים, והוא עלול לייצר פלט לא מדויק או חסר היגיון. בעולם המשפטי הזיות כאלה הן סכנה ממשית, כך שאי אפשר להסתמך עליו בעיניים עצומות או לתת לו לנסח מסמכים מחייבים בלי עין מקצועית שתבדוק כל מילה.

איך מריצים

המשקל המלא של הקבצים מגיע ל־27 גיגה בייט בדיוק מלא, אבל בסביבת ריצה טוענים אותו בדרך כלל ב־bfloat16. זה אומר שתצטרכו כרטיס מסך עם לפחות 16 עד 24 גיגה זיכרון כדי להחזיק את המודל ואת חלון ההקשר הארוך בלי להיחנק.

מריצים אותו בקלות דרך ספריית transformers הרגילה בעזרת פייפליין סטנדרטי של יצירת טקסט והתבנית של הצ'אט. אם אין לכם שרת ייעודי זמין ואתם לא כפופים לחובת סודיות מחמירה, כנראה שיהיה זול ומהיר יותר לצרוך מודל גדול דרך API מאשר לתחזק לו חומרה לבד.

from transformers import pipeline

pipe = pipeline("text-generation", model="Equall/Saul-7B-Instruct-v1")
print(pipe("שלום"))

הקבצים

15 קבצים במאגר, 27.0 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00004-of-00006.safetensors5.0 GB
• model-00003-of-00006.safetensors5.0 GB
• model-00001-of-00006.safetensors5.0 GB
• model-00002-of-00006.safetensors4.9 GB
• model-00005-of-00006.safetensors4.8 GB
• model-00006-of-00006.safetensors4.2 GB
• tokenizer.json1.8 MB
• tokenizer.model493.4 KB
• model.safetensors.index.json23.9 KB
• README.md3.1 KB
• .gitattributes1.5 KB
• tokenizer_config.json1.5 KB
• config.json653 B
• special_tokens_map.json551 B
• generation_config.json111 B

הרישיון

הרישיון הוא MIT, אחד הפתוחים והנוחים ביותר שיש. אפשר להשתמש בו לצרכים מסחריים, לשלב אותו במוצר סגור, לשנות את הקוד ולהריץ אותו איפה שרוצים, כשהדרישה היחידה היא לשמור על הודעת זכויות היוצרים המקורית.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש

הרישיון המלא בעמוד המודל ↗