parakeet-v3-streaming

מה זה

מדברים למיקרופון ומקבלים תמלול שמתעדכן על המסך כל חצי שנייה. הטקסט מציג משפטים סגורים בצבע צהוב שלא ישתנו יותר, ומילים בתהליך עיבוד בצבע טורקיז. בנוסף מופיעים נתונים טכניים של זמני תגובה, צריכת זיכרון ומדדי ביטחון לכל מילה.

מאחורי הקלעים רץ המודל Parakeet TDT 0.6B של אנבידיה בגרסת ONNX, באמצעות ספריית parakeet.js והאצת חומרה של WebGPU בדפדפן. העיבוד מבוסס על חלון הולך וגדל עד 15 שניות לצורך שמירה על דיוק, ולאחר מכן מעבר לחלון נע שנועל משפטים קודמים ומתמלל רק את שתי השניות האחרונות.

מתאים ל

• בדיקת ביצועי WebGPU

  מדידת מהירות העיבוד של מודל שמע כבד ישירות בתוך הדפדפן על החומרה המקומית שלכם.

• תמלול פרטי באנגלית

  הקלטה ותמלול של פגישות או הכתבות קוליות בלי לחשוף שום מידע קולי לשרתים חיצוניים.

• בחינת אלגוריתם חלונות

  מעקב אחרי האופן שבו חלון נע מפריד בין משפטים סגורים לטקסט חי שעדיין מתעדכן.

איפה זה נופל

עברית לא נתמכת כאן בכלל, אלא רק 25 שפות אירופיות כמו אנגלית, ספרדית או רוסית. אם תנסו לדבר בעברית, המודל פשוט יפלוט הברות חסרות פשר. דפדפני Firefox ו־Safari מוגבלים וישתמשו בעיבוד איטי בהרבה דרך WASM במקום כרטיס המסך. הרצה בדפדפן מוגבלת מטבעה, והמחברים מציינים שמימוש פייתון מקומי על מחשב מק יכול לרוץ פי שישים מהר יותר.

איך משתמשים

לוחצים על כפתור הטעינה וממתינים להורדת משקולות המודל בנפח של בערך 2.5 גיגה בייט. זה לוקח דקה או שתיים בהפעלה הראשונה, ונשמר בזיכרון המטמון המקומי. אין צורך בחשבון, התחברות או תשלום. לאחר מכן מאשרים גישה למיקרופון, לוחצים על תחילת הקלטה ומתחילים לדבר. עם כרטיס מסך מודרני ב־Chrome או Edge מקבלים תוצאות ראשונות תוך פחות מחצי שנייה.

הרישיון

בקוד המקור המודגם מצוין רישיון MIT שמאפשר שימוש חופשי ופיתוח. בעמוד הראשי של המרחב לא דווח רישיון רשמי, אבל כל העיבוד נעשה מקומית על המחשב שלכם ואף קובץ שמע לא נשלח לרשת.

הרישיון המלא ב־Hugging Face ↗