TranslateGemma-WebGPU

מה זה

אתם מדביקים או מקלידים טקסט, בוחרים שפות מתוך 56 השפות הנתמכות, ומקבלים תרגום שמתעדכן מעצמו בזמן אמת, כחצי שנייה אחרי שמפסיקים להקליד. הממשק גם מייצר קישור שכולל את פרמטרי התרגום כדי שתוכלו לשתף אותו ישירות.

מאחורי הקלעים רץ המודל TranslateGemma של גוגל בגרסת 4B, שהותאם למשימות תרגום. כדי להריץ משקל כזה בדפדפן, היישום משתמש בספריית Transformers.js וב־ONNX Runtime Web דרך טכנולוגיית WebGPU. המשמעות היא שהמעבד הגרפי של המכשיר שלכם הוא זה שמבצע את כל החישובים בפועל, במקום שרת מרוחק שמעבד את הבקשות.

מתאים ל

• תרגום מסמכים חסויים

  תרגום חוזים, קוד או מידע פנימי כשהמדיניות של הארגון אוסרת שליחה של מידע לשרתי ענן חיצוניים.

• עבודה ללא חיבור רשת

  תרגום טקסטים בטיסות או באזורים בלי קליטה, מיד אחרי שהמודל נשמר פעם אחת במטמון המקומי.

• שיתוף תרגומים מהיר

  יצירת קישור ישיר שכולל את הטקסט והגדרות השפה לצורך פתיחה מיידית אצל משתמש אחר.

איפה זה נופל

מודל של 4 מיליארד פרמטרים כבד מאוד לדפדפנים, במיוחד במכשירים ניידים ישנים או במחשבים ללא כרטיס מסך נורמלי שיכולים להיתקע. ההורדה הראשונית צורכת נפח גלישה משמעותי, ודפדפנים שלא תומכים ב־WebGPU לא יוכלו להריץ את העסק כמו שצריך. בנוסף, מודלים פתוחים עדיין עלולים לייצר שגיאות הקשר בשפות פחות נפוצות, ולכן חובה לקרוא את התוצאה בעיניים ביקורתיות.

איך משתמשים

אין צורך בהרשמה, אין תורים ואין הגבלת שימוש. נכנסים לעמוד ומתחילים להקליד. הטעינה הראשונה תיקח זמן כי הדפדפן צריך להוריד את קובצי המודל של 4B ולשמור אותם בזיכרון המטמון המקומי. אחרי שהקובץ נשמר, הוא נטען מיד ואפשר לעבוד גם בלי חיבור לרשת. מהירות התרגום תלויה לגמרי בעוצמת כרטיס המסך שלכם ובתמיכה שלו ב־WebGPU.

הרישיון

הפרויקט מפורסם תחת רישיון apache-2.0. הרישיון מאפשר שימוש חופשי בקוד, כולל שימוש מסחרי והפצה מחדש. כל הטקסט שאתם מזינים נשאר אצלכם במכשיר ולא עובר לאף שרת.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא ב־Hugging Face ↗