GPT
הוספת כלי
L

Llama-3.1-WhiteRabbitNeo-2-70B

קוד פתוח

WhiteRabbitNeollama3.12024-08-19

  • pytorch
  • llama
  • Llama-3
  • finetune

גרסה מכווננת לאבטחת מידע על בסיס מודל פתוח גדול, שמיועדת למשימות תקיפה והגנה בסייבר. פונים אליה כשצריכים הבנה מעמיקה של קוד וחולשות בלי לחסום פעולות אבטחה בסיסיות.

  • 131,072טוקנים בהקשר
  • 131 GBמשקל הקבצים
  • 1,780הורדות בחודש
  • 47לייקים

מה זה

מדובר בהתאמה ייעודית של ארכיטקטורת לאמה עבור אנשי סייבר, שמתמקדת ביכולות אופנסיביות ודיפנסיביות כאחד. היוצרים ייעדו אותה כגרסת תצוגה מקדימה כדי לבחון את היכולות של המודל בתחום האבטחה, לצד בדיקת ההשפעה של כלי כזה כשהוא נגיש לציבור. בניגוד למודלים כלליים באותו סדר גודל שנוטים לחסום שאלות טכניות על פריצה, כאן הכוונון נועד מראש לטפל בנושאים האלה ישירות.

הבסיס הטכני נשען על המבנה המוכר עם שמונים שכבות, מה שמאפשר לו לנתח לוגיקה מורכבת של קוד ולזהות תבניות תקיפה מוכרות. המפרסמים לא שיתפו בכרטיס תוצאות של מבחני ביצועים או השוואות מספריות מול מודלים אחרים, כך שקשה לדעת מראש עד כמה הוא מדויק בניתוח חולשות מורכבות לעומת הגרסה המקורית שעליה הוא נבנה. מה שבטוח הוא שהאימון שלו כוון ספציפית לתרחישי בדיקות חדירה וניתוח הגנתי.

מתאים ל

  • בדיקות חדירה אוטומטיות

    ניתוח תרחישי תקיפה וכתיבת סקריפטים ייעודיים לבדיקת עמידות של מערכות, בלי שהמודל יסרב לייצר פקודות בדיקה.

  • ניתוח חולשות בקוד

    מעבר על קבצי מקור ארוכים כדי לזהות פרצות אבטחה גלויות ולהציע תיקוני הגנה מידיים.

  • סימולציות הגנה וסייבר

    סיוע לצוותי הגנה בניתוח לוגים, הבנת מתקפות בזמן אמת והערכת מהלכים של תוקפים פוטנציאליים.

איפה זה נופל

הכרטיס מציג את המודל כגרסת תצוגה מקדימה בלבד, בלי שום נתוני בדיקה, מדדי ביצועים או שקיפות לגבי מערך הנתונים ששימש לאימון. היוצרים מסירים כל אחריות מנזק למערכות או אובדן מידע, ומחייבים אתכם לשפות אותם על כל תביעה שתיגרם מהשימוש. בנוסף, חלון ההקשר אמנם ענק, אבל הרצה באורך מלא דורשת כמויות זיכרון דמיוניות שלא ריאליות ברוב סביבות הפיתוח.

שאלות
נפוצות

האם המודל יסרב לכתוב סקריפטים של תקיפה?

הוא כוונן ספציפית למשימות סייבר התקפיות והגנתיות, ולכן הוא לא אמור לחסום בקשות טכניות לגיטימיות של בדיקות חדירה כמו מודלים כלליים. עם זאת, היוצרים מדגישים שכל האחריות לנזק או שימוש לרעה חלה על המשתמש בלבד.

מה הדרך הכי זולה לבדוק אותו בלי לקנות שרת?

היוצרים מציעים גישה למודל דרך אפליקציית הרשת שלהם וכן דרך פלטפורמת קינדו. זו הדרך הפשוטה והזולה ביותר לבחון את התוצאות שלו לפני שמורידים מעל מאה גיגה של קבצים ומבזבזים שעות של כרטיסי מסך יקרים.

איך מריצים

כדי להריץ אותו מקומית תצטרכו שרת עם לפחות שני כרטיסי A100 או H100 של 80 גיגה, כי קבצי המודל עצמם שוקלים 131 גיגה בפורמט bfloat16. אם אין לכם גישה לתשתית כבדה ויקרה כזו, אין טעם לנסות להרים אותו על תחנת עבודה רגילה.

במקום להסתבך עם הורדה של 38 קבצים והקצאת חומרה ייעודית, אפשר לגשת אליו דרך אפליקציית הרשת של היוצרים או דרך שירות קינדו שבו הוא זמין. מי שרוצה לשלב אותו בפיתוח יצטרך לבדוק פתרונות ענן שמחזיקים מופעים כאלה או להשתמש בחיבורי שירות קיימים.

pip install -U huggingface_hub
hf download WhiteRabbitNeo/Llama-3.1-WhiteRabbitNeo-2-70B

הקבצים

38 קבצים במאגר, 131 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון מתבסס על תנאי לאמה 3.1 לצד הרחבה והגבלות שימוש של היוצרים, שמסירים כל אחריות ומחייבים את המשתמש בשיפוי מלא על נזקים. מותר להשתמש בו מסחרית כל עוד עומדים במגבלות המקוריות של מטא, אך הניסוח המשפטי הנוקשה דורש בדיקה מעמיקה של צוות משפטי לפני הטמעה במוצר שמפיצים ללקוחות.

  • שימוש מסחרי עד 700 מיליון משתמשים
  • שינוי הקוד
  • חובת ייחוס

הרישיון המלא בעמוד המודל ↗