Dolphin3-Cyber-8B-GGUF

קוד פתוח

RavichandranJllama3.12026-02-13

transformers
gguf
llama
text-generation
GGUF

גרסת GGUF שעברה הסרת מגבלות ואימון ייעודי לאבטחת מידע. מתאימה למי שצריך מודל מקומי שלא מסרב לכתוב סקריפטים התקפיים או לנתח חולשות.

131,072טוקנים בהקשר
64.8 GBמשקל הקבצים
45,101הורדות בחודש
179לייקים

מה זה

מדובר בהתאמה של Llama 3.1 8B שעברה תהליך כפול: קודם הסרת מנגנוני הסירוב של המודל המקורי, ולאחר מכן אימון LoRA של כ־42 מיליון פרמטרים על מאגרי נתונים בתחומי התקפה והגנה. המודל מתמקד בניתוח חולשות ווב, כתיבת אקספלויטים, בדיקות חדירה והקשחת שרתים, תחומים שבהם מודלים מסחריים רגילים נוטים לחסום את השיחה.

ההערכה של היוצר מחלקת את היכולות לפי תחומים, ולא במבחנים סטנדרטיים. על פי הדיווח שלו, המודל מפגין ביצועים טובים במיוחד בזיהוי חולשות ווב, ניתוח קוד ואבטחת רשתות, אך מתקשה יותר בניצול חולשות זיכרון מורכבות כמו היפ או בנושאי קריפטוגרפיה מתקדמים. בעולם האמיתי זה אומר שהוא יעזור לכם לסגור פערי ידע מהירים או לבנות שלד לסקריפט, אך לא ימציא התקפות מתוחכמות בעצמו.

מתאים ל

סקירת קוד לאיתור חולשות
זיהוי בעיות כמו הזרקות SQL ו־XSS בקטעי קוד קצרים, יחד עם הצעת תיקונים מתאימים.
עוזר לתרגילי CTF
קבלת כיוונים לניתוח בינארי בסיסי, כתיבת סקריפטים ב־Python ופתרון אתגרי רשת.
הקשחת מערכות הפעלה
יצירת צ'קליסטים מותאמים להגדרות חומת אש, ניהול הרשאות ועדכון מדיניות שרתים.

איפה זה נופל

הבעיה הבולטת ביותר היא אורך ההקשר. אף על פי שארכיטקטורת הבסיס תומכת בחלון רחב, שלב הכוונון העדין בוצע על 2,048 טוקנים בלבד, כך שדחיסת לוגים ארוכים או קבצי קוד כבדים תגרור ירידה מהירה באיכות התוצאות. בנוסף, המודל נוטה להזיות בפקודות של כלי בדיקה שונים ובפרמטרים מדויקים, מה שמחייב בדיקה ידנית של כל פקודה או סקריפט בסביבה מבודדת לפני הפעלה.

שאלות
נפוצות

האם המודל יסרב לכתוב סקריפטים התקפיים?

לא. המודל עבר תהליך הסרת מגבלות על בסיס גרסה מותאמת, ולכן הוא עונה ישירות על שאלות אבטחה התקפית ומייצר קוד ניצול ללא הודעות סירוב.

האם אפשר להריץ אותו עם חלון הקשר של 128K טוקנים?

הארכיטקטורה מאפשרת זאת, אך האימון הייעודי נעשה על 2,048 טוקנים בלבד. מעבר לטווח הזה עלול להוביל לפגיעה מהותית באיכות התשובות ולהזיות.

איך מריצים

בשביל להריץ אותו מקומית צריך מנוע שתומך בפורמט כמו Ollama או llama.cpp. גרסת Q4_K_M שוקלת 4.92 גיגה-בייט ורצה מצוין על כרטיסי מסך בסיסיים של 6 גיגה זיכרון גרפי, עם ביצועים שמגיעים ל־45 עד 55 טוקנים לשנייה בכרטיסים מודרניים. למי שאין כרטיס מסך ייעודי, גרסאות קטנות כמו Q2_K או Q3_K_M יכולות לעבוד על 8 גיגה-בייט זיכרון מעבד, אך באיטיות מורגשת של טוקנים בודדים לשנייה.

אם יש לכם מחשב סביר, אין סיבה לפנות ל־API חיצוני עבור 8B, במיוחד כשכל הפואנטה בכלי כזה היא לעבוד עם נתונים רגישים על הברזלים שלכם בלי להוציא מידע לרשת.

ollama run hf.co/RavichandranJ/Dolphin3-Cyber-8B-GGUF:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

F1616.1 GB Q8_08.5 GB Q6_K6.6 GB Q5_K_M5.7 GB Q5_05.6 GB Q5_K_S5.6 GB Q4_K_M4.9 GB Q4_K_S4.7 GB Q4_04.7 GB Q3_K_M4.0 GB Q2_K3.2 GB

הקבצים

14 קבצים במאגר, 64.8 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הפרויקט מבוסס על רישיון llama3.1 של מטא. הוא מתיר שימוש מסחרי ומחקר, בתנאי ששומרים על תנאי השימוש המקוריים ומציינים את מקור המודל. עם זאת, היוצר מציין שהשימוש מיועד לבדיקות מורשות בלבד, והפעלת מודל נטול מגבלות במוצר דורשת בדיקה משפטית של מדיניות השימוש המקובלת של מטא לגבי תוכן זדוני.

שימוש מסחרי עד 700 מיליון משתמשים
שינוי הקוד
חובת ייחוס

הרישיון המלא בעמוד המודל ↗