GPT
הוספת כלי
S

secgpt

קוד פתוח

clouditeraapache-2.02023-11-15

  • transformers
  • safetensors
  • qwen2
  • text-generation
  • cybersecurity

מודל שפה של 15 מיליארד פרמטרים שמתמחה באבטחת מידע. הוא מיועד למי שצריך ניתוח לוגים, חקירת חולשות וסיוע בבדיקות חדירה בלי לשלוח נתונים רגישים החוצה.

  • 15Bפרמטרים
  • 32,768טוקנים בהקשר
  • 27.5 GBמשקל הקבצים
  • 264הורדות בחודש

מה זה

הפיתוח הזה מבוסס על סדרת Qwen ועבר אימון ייעודי על מאגר של מעל 5 טרה-בייט של נתוני אבטחת מידע, החל מדוחות חולשות ועד תעבורת רשת ודוגמאות קוד זדוני. הוא יודע לפענח שרשראות תקיפה, להציע תיקוני אבטחה לקוד, להסביר פקודות של כלי תקיפה ולענות על שאלות מקצועיות בתחום הרשתות וההגנה.

במבחני ביצועים מקצועיים כמו CISSP, גרסת 14B שלו השיגה 77.37 לעומת 71.09 במודל הבסיס של Qwen2.5, ובמבחן CS-Eval קיבלה 86.12. המדדים מראים שההתמחות באבטחה אכן משפרת את התשובות הטכניות בעולם הסייבר ביחס למודל גנרי, אבל במבחני שפה והיגיון כלליים כמו CEVAL ו־BBH הוא קיבל ציונים נמוכים יותר ממודל הבסיס. מדובר בכלי ממוקד מטרה שלא מתאים כמנוע שיחה כללי.

מתאים ל

  • ניתוח לוגים ותעבורה

    זיהוי חריגות ושרשראות תקיפה מתוך קובצי תיעוד ברשת הארגונית.

  • בדיקות חדירה וסימולציות

    ניתוח פקודות של כלי בדיקה, פירוק סקריפטים ובניית שלבי תקיפה לבדיקות חוסן.

  • סקירת קוד לאיתור חולשות

    בדיקת קטעי תוכנה למציאת כשלי אבטחה והצעת דרכים לתיקון הפגיעות.

איפה זה נופל

המודל תומך רק באנגלית ובסינית, ולכן אין מה לבנות עליו לניתוח טקסטים או דוחות בעברית. הירידה בציוני ההיגיון הכללי והשפה במבחנים כמו CEVAL (מ־68.57 בבסיס ל־59.45 כאן) מעידה על פגיעה מסוימת ביכולות שמחוץ לתחום הסייבר. בנוסף, קבצי המשקלים מחולקים לחמישים חלקים נפרדים, מה שמסרבל את תהליך ההורדה והניהול המקומי.

שאלות
נפוצות

האם המודל מבין ומייצר עברית?

הכרטיס מציין תמיכה באנגלית ובסינית בלבד. הוא אינו מאומן על עברית ולא מיועד לניתוח טקסטים מקומיים או ממשקים בשפה זו.

האם כדאי להעדיף אותו על פני מודל גנרי כמו Qwen2.5 המקורי?

זה משתלם רק אם המטרה העיקרית שלכם היא משימות סייבר נטו כמו חקר חולשות או פענוח לוגים. במשימות שדורשות היגיון כללי, מתמטיקה או שיחה רגילה, מודל הבסיס מפגין ציונים גבוהים יותר.

איך מריצים

כדי להריץ מודל של 15B ב־float16 עם משקל קבצים של 27.5 גיגה-בייט וחלון של 32K טוקנים, תצטרכו כרטיס גרפי עם לפחות 32 עד 40 גיגה-בייט של זיכרון ייעודי, או לחלק את העומס על פני כמה מעבדים. ההמלצה של היוצרים היא שימוש בשרת vLLM עם חלוקה לארבעה מעבדים גרפיים עבור תעבורה גבוהה וזמני מענה קצרים.

אם אתם רוצים רק לבדוק תאימות או לבצע שאילתות בודדות, פריסה עצמית על חומרה יקרה כזו תהיה בזבוז זמן, ועדיף להרים שרת ענן נקודתי לפי שעה עם vLLM רק למשך הבדיקות. אין למודל שירות ענן מנוהל רשמי בכרטיס, כך שכל הרצה דורשת תשתית משלכם.

from transformers import pipeline

pipe = pipeline("text-generation", model="clouditera/secgpt")
print(pipe("שלום"))

הקבצים

50 קבצים במאגר, 27.5 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הפרויקט מופץ תחת רישיון Apache 2.0. הרישיון מתיר שימוש מסחרי, שינוי של הקוד והפצה מחדש, בתנאי ששומרים על הודעות זכויות היוצרים והרישיון המקורי. היוצרים הוסיפו הבהרה שמשתמשים שמטמיעים את המודל במוצר מסחרי נושאים באחריות המלאה על הפלט והציות לחוק.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗