GPT
L

Lily-Cybersecurity-7B-v0.2

קוד פתוח

segolilylabsapache-2.02024-01-11

  • transformers
  • safetensors
  • mistral
  • text-generation
  • cybersecurity

התאמה ייעודית של מיסטרל שמכוונת כולה לאבטחת מידע וסייבר. אם אתם צריכים עוזר טכני שמכיר מונחי תקיפה, הגנה ותקנים בלי צנזורות יתר, שווה לבדוק אותו.

  • 7.2Bפרמטרים
  • 32,768טוקנים בהקשר
  • 27.0 GBמשקל הקבצים
  • 858הורדות בחודש

מה זה

מדובר בכוונון עדין של מיסטרל 7B, שאומן במשך 24 שעות על כרטיס A100 בודד לאורך חמישה מחזורים. היוצרים השתמשו ב־22,000 זוגות נתונים ידניים מעולמות הסייבר, החל מניתוח נוזקות ובדיקות חדירה ועד לניהול סיכונים, קריפטוגרפיה ותגובה לאירועים. הדאטה עבר עיבוד נוסף דרך מודל שפה כדי להעניק לו סגנון דיבור מוגדר וקול ברור של מומחית אבטחה ידידותית.

הוא מיועד לתת מענה לשאלות עמוקות באבטחת מידע, תחום שבו מודלים כלליים לעיתים קרובות מסרבים לענות עקב מנגנוני בטיחות מחמירים. המודל שומר על חלון הקשר של 32,768 טוקנים, מה שמאפשר להזין לו נהלים ארוכים, דוחות תאימות או סקריפטים לניתוח בלי לאבד את ההקשר.

מתאים ל

  • עוזר מחקר לחוקרי אבטחה

    מענה מהיר על מושגי תקיפה ותרחישי חולשות בלי להיתקל בחסימות הבטיחות של מודלים מסחריים.

  • ליווי עמידה בתקני רגולציה

    התייעצות לגבי דרישות ממשל, ניהול סיכונים ותאימות ארגונית בזכות אימון רחב על תחומי GRC.

  • הסבר מושגים לצוותי SOC

    פירוק מונחים מורכבים בבדיקות חדירה ורשתות לשפה ברורה ונגישה עבור אנליסטים בתחילת הדרך.

איפה זה נופל

המודל אומן על גבי Mistral-7B-Instruct-v0.2 ויורש ממנו את כל ההטיות והמגבלות הטבעיות שלו. אין כאן מנגנון אימות עובדות מובנה, ומודל בגודל 7B עדיין נוטה להזיות טכניות, במיוחד כשמבקשים ממנו פקודות מדויקות או סקריפטים מורכבים. בנוסף, סגנון השיחה שהוטמע בו כולל נימה חברותית ודיבורית מאוד, שלא בהכרח מתאימה לכל דוח ארגוני או שילוב ישיר בתוך כלי אבטחה קיים.

שאלות
נפוצות

האם המודל תומך בשפה העברית?

המודל הוגדר ואומן באנגלית בלבד. הוא עשוי להבין מעט עברית בסיסית בזכות מודל הבסיס של מיסטרל, אבל כל ידע הסייבר הייעודי הוטמע באנגלית ולא מומלץ להסתמך עליו בעברית.

האם צריך חומרה ייעודית כבדה כדי לבדוק אותו?

אם מורידים את הקבצים המקוריים של 27 ג'יגה בייט בפורמט float32, כן. אבל המפתחים מספקים גרסאות GGUF קוונטיות, ואיתן אפשר להריץ אותו בקלות גם על מחשב נייד חזק בלי GPU יקר.

איך מריצים

המשקלים המקוריים שוקלים 27 ג'יגה בייט בגלל ייצוג float32, מה שאומר שכדי להריץ אותם כמו שהם בספריית transformers תצטרכו כרטיס מסך חזק מאוד עם לפחות 32 ג'יגה זיכרון וידאו. זה לא מעשי לרוב המפתחים על מחשב אישי.

בפועל עדיף להשתמש בגרסאות ה־GGUF שהמפתחים פרסמו בריפו נפרד, או להמיר ל־16 ביט ומטה. כך תוכלו להריץ אותו מקומית על כרטיסים צרכניים סבירים או במעבד, בלי לשלם על שרתי ענן ייעודיים.

from transformers import pipeline

pipe = pipeline("text-generation", model="segolilylabs/Lily-Cybersecurity-7B-v0.2")
print(pipe("שלום"))

הרישיון

רישיון apache-2.0 מתיר שימוש מסחרי מלא, שינוי של הקוד והמשקלים והפצה מחדש. אתם יכולים לקחת אותו, לשלב אותו במוצר שלכם או לשנות אותו כרצונכם, כל עוד אתם שומרים על הודעת זכויות היוצרים והרישיון המקורי.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗