חדש תמונה, וידאו, קריינות ותמלול בקריאה אחת, בלי להריץ מודל. מנסים בלי שרת

GPT
API לכל המודלים הוספת כלי
S

Step-3.5-Flash — הדגמה

קוד פתוח

stepfun-aiapache-2.02026-02-06

  • docker

ממשק צ'אט שמריץ שיחות טקסט מול המודל Step-3.5-Flash דרך ה־API הרשמי. מתאים למי שרוצה לבדוק את יכולות המודל ולראות את תהליך החשיבה שלו במקביל לתשובה.

  • 199Bפרמטרים
  • 262,144טוקנים בהקשר
  • 371 GBמשקל הקבצים
  • —הורדות בחודש

מה זה

כותבים הודעת טקסט רגילה בצ'אט ומקבלים תשובה שמוזרמת בזמן אמת. המסך מחולק לשניים, כך שבצד שמאל רואים את תהליך החשיבה של המודל ובצד ימין את השיחה עצמה. הממשק כולל דוגמאות מובנות בלחיצה כדי להתחיל שיחה מהר בלי להקליד.

מאחורי הקלעים רץ קוד Streamlit שמתחבר לשרתי StepFun בעזרת מפתח API ופונה למודל בשם stepfun/step-3.5-flash:free. אפשר לכוונן שם פרמטרים טכניים כמו temperature, top_p וכמות מקסימלית של טוקנים, ולנהל שיחה מתמשכת שזוכרת הקשר של כמה סבבים.

מתאים ל

  • בדיקת יכולות המודל

    שולחים שאלות שונות כדי לראות את איכות התשובות וההיגיון של Step-3.5-Flash בחינם.

  • מעקב אחרי תהליך חשיבה

    צופים בעמודה השמאלית כדי לנתח איך המודל מפרק בעיות לפני שהוא מציג את התשובה הסופית.

  • ניסוי עם פרמטרי יצירה

    משנים את ערכי ה־temperature וה־top_p כדי לראות איך היצירתיות ואורך התשובה משתנים.

איפה זה נופל

הממשק בנוי על מפתח API של StepFun שצריך להיות מוגדר מראש בסביבה כדי שהוא יעבוד. בנוסף, הקוד פונה ספציפית לגרסת ה־free של המודל דרך ה־API, מה שעלול להביא למגבלות קצב או זמינות מצד השירות שלהם בלי קשר לחומרה ב־Hugging Face. אין פה אפשרות להעלות קבצים, תמונות או אודיו, רק טקסט נקי.

שאלות
נפוצות

האם השימוש בממשק עולה כסף?

הגישה לממשק ב־Hugging Face היא בחינם, והקוד מוגדר לגשת לגרסה החינמית של המודל ב־API. עם זאת, אם אתם מריצים עותק משלכם, תצטרכו להגדיר מפתח API רשמי מ־StepFun.

כמה זמן לוקח לקבל תשובה?

התשובות מוזרמות בזמן אמת כמעט מיד לאחר השליחה. מכיוון שהחישוב נעשה ב־API של StepFun ולא על ה־CPU המקומי, המהירות תלויה ישירות בעומס על השרתים שלהם.

האם אפשר להריץ את האפליקציה מקומית במחשב?

כן, הקוד דורש רק התקנה של streamlit ו־httpx בפייתון. מגדירים את מפתח ה־STEPFUN_API_KEY במשתני הסביבה ומריצים את הקובץ app.py בדפדפן.

במה הממשק שונה משימוש ישיר במודל עצמו?

הממשק הזה הוא רק מעטפת ויזואלית שמתקשרת עם שרתי StepFun. הוא לא מארח את משקולות המודל בעצמו, אלא מספק פריסה נוחה שמפרידה בין החשיבה לתוצאה.

איך מריצים

נכנסים לעמוד, בוחרים אחת מהדוגמאות או מקלידים שאלה בשדה הטקסט ולוחצים על שליחה. התשובה מתחילה לזרום מיד לתוך החלון. הממשק עצמו יושב על חומרת cpu-basic של Hugging Face, אבל העיבוד האמיתי של הטקסט לא קורה על השרת הזה אלא נשלח ישירות ל־API החיצוני של StepFun, כך שהמעבד המקומי משמש רק להצגת הדף.

pip install -U huggingface_hub
hf download stepfun-ai/Step-3.5-Flash

הקבצים

62 קבצים במאגר, 371 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הקוד פתוח תחת רישיון apache-2.0, שמאפשר שימוש חופשי ושינוי. עם זאת, התוכן שאתם שולחים והתשובות שנוצרות כפופים לתנאי השימוש ומדיניות הפרטיות של ה־API החיצוני של חברת StepFun, שאליו הטקסט מועבר ישירות.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗