Koboldcpp-Tiefighter

מה זה

אתם מקבלים כאן את ממשק KoboldAI Lite, שרץ מתוך קונטיינר דוקר ומאפשר להזין פרומפטים של טקסט חופשי, הוראות הפעלה, או להריץ שיחות ומשחקי תפקידים. הפלט הוא טקסט שנוצר על ידי המודל Tiefighter, בגרסה שעברה קוונטיזציה לפורמט GGUF כדי שתוכל לרוץ ביעילות.

מעבר לממשק הגרפי, אפשר להתחבר להדגמה הזאת גם בקוד. יש לה נקודות קצה שתואמות ל־API של KoboldAI או לזה של OpenAI, כך שתוכנות צד שלישי יכולות לשלוח בקשות ולקבל תשובות ישירות מהעמוד הזה.

מתאים ל

• כתיבה יוצרת וסיפורים

  מזינים התחלה של עלילה ומקבלים המשך ישיר או הנחיות לכתיבת סצנות בממשק ייעודי.

• משחקי הרפתקה וטקסט

  מנהלים אינטראקציה מבוססת תפקידים או בחירות עלילתיות במצב המובנה של המערכת.

• חיבור תוכנות ב־API

  משתמשים בקישור העמוד ככתובת API תואמת OpenAI או KoboldAI בתוך כלים חיצוניים.

איפה זה נופל

החומרה החלשה מגבילה מאוד את קצב העבודה ואת אורך ההקשר שאפשר לעבד בלי להמתין דקות ארוכות. מעבר לזה, המודל Tiefighter מתמקד בעיקר בכתיבה ומשחקי טקסט באנגלית, ולא מיועד למשימות קוד מורכבות או לעבודה אמינה בעברית.

איך משתמשים

נכנסים לעמוד ומתחילים להקליד, אין צורך בהרשמה או התחברות לחשבון. כל הנתונים שלכם בממשק נשמרים מקומית בדפדפן.

ההדגמה מוגדרת על חומרת cpu-basic בסיסית. זה אומר שמהירות ייצור הטקסט תהיה איטית למדי בהשוואה להרצה על כרטיס מסך, ואם כמה אנשים ישלחו בקשות במקביל, יורגש עיכוב נוסף.

הרישיון

הפרויקט מפורסם תחת רישיון agpl-3.0, שמחייב קוד פתוח תחת אותו רישיון לכל מי שמשתמש בו או משנה אותו. המידע שתזינו בממשק נשמר מקומית בדפדפן שלכם ולא נשלח לחשבון חיצוני.

הרישיון המלא ב־Hugging Face ↗