Whisper_M2M100_BioGpt

מה זה

אתם מזינים טקסט או מקליטים קול דרך המיקרופון, ובוחרים שפת מקור. אם מדובר באודיו, המערכת מריצה תמלול באמצעות Whisper, שזמין בגרסאות medium או large. במידת הצורך, הטקסט עובר תרגום לאנגלית דרך אחד ממופעיו של M2M100, בגרסת 418M או 1.2B פרמטרים.

הטקסט באנגלית עובר לאחד מדגמי BioGPT, בהם הגרסה הרגילה, גרסת Large, מודל שעבר התאמה ל־PubMedQA או גרסה מקומית של היוצר. בסיום מתקבלים הפרומפט המעובד, הטקסט הרפואי שיוצר המודל ותרגום שלו חזרה לשפה המבוקשת. הדוגמה המובנית בממשק מתחילה עם המשפט COVID-19 is כדי לבדוק השלמת טקסט בסיסית.

מתאים ל

• השלמת טקסט ביו-רפואי

  הזנת משפט פתיחה רפואי וקבלת המשך טקסט מבוסס ספרות מדעית ישירות מדגמי BioGPT.

• תמלול ותרגום שאילתות קוליות

  הקלטת שאלה במיקרופון בשפה אחת, תמלולה והמרתה לאנגלית לצורך עיבוד רפואי.

• מענה על שאלות ממאמרי רפואה

  שימוש בגרסת BioGPT-Large-PubMedQA לצורך בדיקת תשובות לשאלות מחקר מוגדרות.

איפה זה נופל

הבעיה המרכזית היא שהחלל פשוט לא עובד במצבו הנוכחי בגלל תקלת ריצה. מעבר לזה, שרשור של שלושה מודלים נפרדים גורר שגיאות מצטברות, שבהן טעות בתמלול או בתרגום מטעה לחלוטין את מודל השפה הרפואי. לא כדאי להסתמך עליו לשום צורך רפואי אמיתי בלי בדיקה מעמיקה של התוצאות.

איך משתמשים

כרגע אי אפשר להריץ את ההדגמה בדפדפן כי היא מדווחת על שגיאת ריצה. כשהיא פועלת, נכנסים ללשונית הטקסט או האודיו, בוחרים את שילובי המודלים מהתפריטים ולוחצים על Predict. כל הצינור מוגדר לרוץ על מעבד גרפי t4-small, וטעינה של מספר מודלים כבדים ברצף יוצרת עומס מורגש על החומרה הזאת.

הרישיון

הפרויקט פורסם תחת רישיון MIT, שמאפשר שימוש חופשי, העתקה ושינוי של הקוד. המודלים שנטענים בפנים כפופים לתנאי הרישוי המקוריים של מיקרוסופט, מטא ו־OpenAI. המידע שתקליטו או תקלידו נשלח לעיבוד בממשק Gradio שיושב על השרת.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש

הרישיון המלא ב־Hugging Face ↗