DeepHermes

מה זה

כותבים הודעה בתיבת הטקסט ומקבלים תשובה שמוזרמת בזמן אמת, בדיוק כמו בכל צ'אט מבוסס מודל שפה. הממשק חושף תפריט הגדרות נוסף עם פרמטרים שונים שניתן לשנות בעזרת סליידרים ותיבות טקסט, כמו אורך תשובה או מידת היצירתיות של הפלט.

מאחורי הקלעים רץ המודל NousResearch/DeepHermes-3-Llama-3-8B-Preview, גרסה מוקדמת שמבוססת על Llama 3 בגודל שמונה מיליארד פרמטרים. הקוד טוען את המודל ישירות מספרייית transformers של Hugging Face, ומשתמש בטכניקות דחיסה והזרמת טקסט כדי להציג את התשובה תוך כדי יצירה.

מתאים ל

• בדיקת המודל

  ניסיון מעשי עם גרסת התצוגה המקדימה של DeepHermes לפני שמורידים אותה מקומית.

• כתיבה ועריכת טקסט

  ניסוח פסקאות, תרגום רעיונות באנגלית וסיעור מוחות פתוח ישירות בדפדפן.

• ניסוי פרמטרים

  משחק עם משתני היצירתיות ואורך הפלט כדי לבחון איך הם משנים את התשובות.

איפה זה נופל

מדובר בגרסת Preview של מודל שמונה מיליארד פרמטרים, ולכן הוא מוגבל במשימות היגיון מורכבות ולא מייצג תוצר סופי ומלוטש. מכיוון שמדובר בממשק טקסט בסיסי, אין כאן תמיכה בהעלאת קבצים, חיפוש ברשת או הרצת קוד. בנוסף, מודל כזה לא אומן ייעודית לעברית ואי אפשר להסתמך עליו ביצירת טקסט מקומי מדויק.

איך משתמשים

מקלידים את הפנייה ולוחצים על שליחה. האפליקציה רצה על חומרת zero-a10g שמקצה כרטיס גרפי לפי דרישה, כך שמענה לוקח בדרך כלל שניות בודדות. כרגע המופע נמצא במצב שינה, מה שאומר שבכניסה הראשונה תצטרכו להמתין דקה או שתיים עד שהשרת יתעורר ויטען את המודל לזיכרון. אין צורך להתחבר לחשבון כדי לשלוח הודעה, אבל אם העומס הציבורי מפריע, יש כפתור מובנה לשכפול העמוד לסביבה פרטית משלכם.

הרישיון

הפרויקט מפורסם תחת רישיון apache-2.0, שמאפשר שימוש חופשי בקוד, שינוי שלו ואפילו הפצה מסחרית תחת תנאי הרישיון המקורי. לגבי המידע שאתם מקלידים, ההרצה נעשית על שרת שיתופי פומבי, ולכן עדיף לא להזין שום מידע רגיש, פרטי או מוגן בזכויות יוצרים.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא ב־Hugging Face ↗