חדש תמונה, וידאו, קריינות ותמלול בקריאה אחת, בלי להריץ מודל. מנסים בלי שרת

GPT
C

CoT-Lab

רץ בדפדפן

Intelligent-Internetmit2025-01-24

  • gradio
  • writing-assistant
  • multilingual

ממשק שמאפשר להתערב בשרשרת החשיבה של DeepSeek-R1 בזמן אמת. הוא מיועד למי שרוצה לעצור את המודל באמצע ההיגיון, לתקן אותו ולהמשיך יחד.

  • —הורדות בחודש
  • 55לייקים

מה זה

כותבים שאלה בתיבת הקלט, כמו הדוגמה להסבר בסיסי על מחשוב קוונטי שמופיעה בתיעוד, ולוחצים על הפעלה. במקום לקבל פלט גמור, רואים את שרשרת המחשבה נבנית לאט בתוך עורך טקסט ייעודי, לצד חלון הצ'אט.

המערכת מבוססת על המודל deepseek-ai/DeepSeek-R1 דרך קריאות API. הרעיון כאן הוא סנכרון קוגניטיבי, שליטה על קצב הזרמת הטוקנים ויכולת השהיה אוטומטית לפי מספר פסקאות, כדי לתת לכם זמן לקרוא ולעכל.

בכל רגע אפשר להשתלט על הטקסט, לשנות את הנימוקים של המודל, ולשלוח אותו בחזרה לחשוב על בסיס העריכות שלכם במקום לתת לו לרוץ לבד עד הסוף.

מתאים ל

  • לימוד מודרך של נושאים מורכבים

    מאטים את קצב פליטת הטוקנים כדי לעקוב צעד אחר צעד אחרי פתרון בעיה מתמטית או מדעית בלי לחטוף הצפה של מידע.

  • תיקון הנחות שגויות בזמן אמת

    עוצרים את תהליך ההסקה ברגע שהמודל פונה לכיוון לא נכון, משכתבים את הפסקה האחרונה, ונותנים לו להמשיך מהתיקון.

  • חקר שרשראות חשיבה

    בודקים איך שינוי קל בנימוקי הביניים משפיע על המסקנה הסופית שהמודל מפיק בתשובה הגלויה.

איפה זה נופל

האפליקציה הזו היא לא סביבת עבודה מלאה. המפתחים מציינים במפורש שיש ירידה בביצועים של ה־API הרשמי של דיפסיק, כך שהזרמת המחשבות עלולה להיתקע או לקרטע. בנוסף, חומרת השרת היא מעבד פשוט בלבד. אם תרצו עבודה יציבה ומהירה באמת עם מודלים מקומיים או מזוקקים, תצטרכו להוריד את הקוד ולהריץ אותו במחשב שלכם עם מפתחות גישה משלכם.

שאלות
נפוצות

האם השימוש באפליקציה הזו עולה כסף?

לא, הגישה לממשק הרשת פתוחה בחינם. עם זאת, אם תבחרו להריץ את הקוד אצלכם במחשב, תצטרכו לספק מפתח API משלכם לדיפסיק או לספק תואם, ושם התשלום הוא לפי תעריפי השימוש של אותו שירות.

האם אפשר להריץ את המערכת מקומית?

כן, הקוד זמין במאגר ציבורי ודורש פייתון בגרסה 3.11 ומעלה. כדי לעבוד עצמאית תצטרכו להגדיר קובץ סביבה עם כתובת שרת ומפתח מתאים, או לחבר מודל מזוקק שרץ על המחשב האישי.

במה זה שונה משיחה רגילה מול DeepSeek-R1?

בצ'אט רגיל המודל פולט את שרשרת המחשבה כמקשה אחת או מסתיר אותה, ואין לכם דרך להתערב באמצע. כאן מקבלים שליטה על הקצב ואפשרות לחתוך, לערוך ולכוון את ההיגיון הפנימי תוך כדי הריצה.

מה קורה לטקסט שמקלידים בממשק?

הנתונים נשלחים ישירות ל־API שמוגדר במערכת כדי לייצר את התשובות. הממשק שומר את היסטוריית השיחה בדפדפן לצורך המעקב, אך אין להעלות לשם מידע רגיש מכיוון שמדובר בהדגמה פומבית.

איך משתמשים

מקלידים הנחיה, מגדירים את מהירות ההזרמה בין 5 ל־50 טוקנים לשנייה, ובוחרים אם לעצור אוטומטית כל כמה פסקאות. לוחצים על כפתור הייצור, ועוצרים מתי שרוצים עם מקשי Shift ו־Enter כדי לערוך את המחשבה של המודל. לחיצה נוספת מחזירה לו את המושכות. האפליקציה רצה ברשת על חומרת מעבד בסיסית, מה שעלול ליצור זמני תגובה איטיים, במיוחד כשהקוד פונה לשרתי ה־API החיצוניים של דיפסיק שסובלים מעומסים.

הרישיון

הפרויקט מופץ תחת רישיון MIT של שנת 2024 על ידי ii.inc. הקוד פתוח לשימוש, שינוי והפצה, גם לצרכים מסחריים. התוכן שתקלידו נשלח החוצה דרך חיבורי ה־API המוגדרים ברקע, ולכן תנאי השימוש והפרטיות של שירותי הצד השלישי האלה חלים עליו.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש

הרישיון המלא ב־Hugging Face ↗