GPT
W

WhiteRabbitNeo-2.5-Qwen-2.5-Coder-7B

קוד פתוח

WhiteRabbitNeoapache-2.02024-09-28

  • transformers
  • safetensors
  • qwen2
  • text-generation
  • code

גרסה מכווננת לאבטחת מידע על בסיס מודל קוד של 7.6 מיליארד פרמטרים. היא מיועדת לעבודה בתחומי הסייבר ההתקפי וההגנתי בלי חסימות רגילות של מודלים כלליים.

  • 7.6Bפרמטרים
  • 32,768טוקנים בהקשר
  • 14.2 GBמשקל הקבצים
  • 1,560הורדות בחודש

מה זה

מדובר בהתאמה של Qwen 2.5 Coder שפותחה על ידי WhiteRabbitNeo לתחום אבטחת המידע. המודל מתמקד בכתיבה ובניתוח של קוד סייבר לשני הכיוונים, תקיפה והגנה. עם 28 שכבות וחלון הקשר של 32,768 טוקנים, יש לו מספיק מקום לנתח קבצי סקריפטים שלמים או לוגים ארוכים בלי לאבד את ההקשר.

המפתחים פרסמו אותו כגרסת תצוגה מוקדמת כדי לבחון את היכולות שלו ואת ההשפעה החברתית של כלי כזה. להבדיל ממודלים רגילים שמסרבים לענות על שאלות שמריחות כמו פריצה, כאן המטרה המוצהרת היא לאפשר תרחישי סייבר, אם כי לפי הכרטיס עדיין תצטרכו להנדס את הפרומפט כדי לעקוף סירובים מדי פעם.

מתאים ל

  • ניתוח חולשות בקוד

    חלון של 32K טוקנים מאפשר לסרוק קבצי קוד שלמים כדי לחפש באגים ופרצות אבטחה.

  • פיתוח סקריפטים להתקפה

    המודל אומן ספציפית לסייבר התקפי ויודע לייצר קוד פונקציונלי לבדיקות חדירה.

  • הגנת רשתות וניתוח לוגים

    בניית סקריפטים להגנה וניתוח מידע אבטחתי בעזרת מודל שמתמחה בקוד ובסייבר.

איפה זה נופל

היוצרים מציינים במפורש שהמודל עלול לסרב לבקשות. כדי להתמודד עם זה, הם מציעים לעקוף את מנגנון הסירוב באמצעות שתילת טקסט בתחילת תשובת העוזר. בנוסף, מדובר בתצוגה מקדימה בלבד, אין שום התחייבות ליציבות או להתאמה למטרה מסוימת, והמודל הוגדר רשמית רק לאנגלית.

שאלות
נפוצות

האם המודל מדבר עברית?

לא. המודל מוגדר ומאומן לשפה האנגלית בלבד, כך שלא כדאי לבנות עליו לפענוח פקודות או טקסטים בעברית.

מה עושים כשהמודל מסרב לענות על פרומפט של סייבר?

היוצרים ממליצים לשתול בתחילת תשובת העוזר משפט אישור קבוע, כמו שמוצג בסקריפט שלהם, שדוחף אותו להתחיל לייצר קוד ישירות.

כמה זיכרון כרטיס מסך נחוץ להרצה מקומית?

הקבצים שוקלים כ־14.2 גיגה בייט בדיוק מלא, כך שכרטיס עם 16 גיגה בייט יספיק בקושי, ומומלץ כרטיס של 24 גיגה בייט לעבודה חלקה.

איך מריצים

כדי להריץ 14.2 גיגה בייט של משקלים בפורמט bfloat16 מקומית, תצטרכו כרטיס מסך עם לפחות 16 עד 24 גיגה בייט זיכרון גרפי, תלוי בכמה מהקשר 32K תנצלו בפועל. המודל משתמש בספריית transformers ובפורמט ChatML, אז ההקמה בקוד מוכרת ופשוטה.

אם אין לכם חומרה כזו פנויה, החברה מציעה גישה אליו דרך ממשק רשת משלהם ובפלטפורמת Kindo.ai, מה שחוסך את כל כאב הראש של התקנה מקומית והקצאת משאבים יקרים.

from transformers import pipeline

pipe = pipeline("text-generation", model="WhiteRabbitNeo/WhiteRabbitNeo-2.5-Qwen-2.5-Coder-7B")
print(pipe("שלום"))

הרישיון

הרישיון המדווח הוא Apache 2.0, אבל היוצרים הוסיפו לו תנאי שימוש מגבילים וכתב ויתור רחב שמטיל עליכם אחריות בלעדית לכל נזק, אובדן מידע או תביעה שייגרמו בעקבות השימוש. אם אתם מתכננים לשלב אותו במוצר, קחו בחשבון את המגבלות והאחריות המשפטית הזו מעבר לרישיון הקוד הפתוח הרגיל.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗