falcon-11B

מה זה

מדובר במודל גולמי לחלוטין שאומן על יותר מחמישה טריליון טוקנים, כולל קוד וטקסט טכני, במטרה לשמש אבן בניין ולא כלי מוכן לשיחה. הוא מספק ארכיטקטורה שמבוססת על חישובי קשב מקביליים עם חלון הקשר של שמונה אלפים טוקנים, מה שמאפשר לו להחזיק מסמכים ארוכים יחסית לעומת הדור הקודם של הסדרה.

במבחני הביצועים הוא מציג תוצאות מעורבות. ציון של כמעט 83 בבדיקת הבנת שפה כללית מראה יכולת קריאה טובה, אבל ציון של כ־58 בבדיקות ידע רב־תחומי וציון של 53 במתמטיקה מבהירים שהוא ידרוש כיוונון עדין אגרסיבי לפני שיוכל לפתור בעיות מורכבות בעצמו. הוא שונה מרוב מה שנפוץ כרגע בכך שהוא מגיע ללא יישור מוקדם להוראות, כך שאי אפשר פשוט לפתוח מולו ממשק צ'אט ולצפות לתשובות מסודרות בלי לאמן אותו קודם.

מתאים ל

• בסיס לאימון מודל ייעודי

  משמש כחומר גלם להתאמה על מאגר נתונים פנימי של ארגון, בלי תלות במודלים מסחריים סגורים.

• השלמת טקסט טכני באנגלית

  מתאים להרחבת טקסטים ומסמכים ארוכים בזכות אימון על כמות גדולה של תוכן טכני וקוד.

• מחקר על ארכיטקטורת רשתות

  מספק נקודת מוצא טובה לחוקרים שרוצים לבחון שינויי משקלים על ארכיטקטורה של 11 מיליארד פרמטרים.

איפה זה נופל

זה מודל בסיס, ולכן הוא לא יודע לענות לשאלות כמו צ'אטבוט אלא פשוט מנחש את הטוקן הבא. עברית בכלל לא נמצאת ברשימת השפות שבהן הוא אומן, כך שהוא ייכשל בהבנה ובכתיבה מקומית. בנוסף, המפתחים מודים שהוא מכיל הטיות וסטריאוטיפים שנאספו מרחבי הרשת.

אותה משפחה

falcon יצא ב־7 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

הקבצים שוקלים קצת מעל עשרים גיגה־בייט בדיוק המקורי, מה שאומר שצריך לפחות כרטיס עם 24 גיגה זיכרון כדי לטעון אותו ולהריץ הסקת מסקנות בסיסית. הוא דורש פייתורץ' שתיים ומתאים לספריות הרצה כמו טקסט ג'נריישן אינפרנס.

אם אין לכם כרטיס תואם בענן או שרת מקומי חזק, להחזיק תשתית ייעודית רק בשבילו יעלה כסף מיותר. במצב כזה, פנייה לשירותי ענן לפי שימוש תהיה זולה ופשוטה בהרבה מאשר להרים שרתים כבדים לבד.

from transformers import pipeline

pipe = pipeline("text-generation", model="tiiuae/falcon-11B")
print(pipe("שלום"))

הקבצים

17 קבצים במאגר, 20.7 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00001-of-00005.safetensors5.0 GB
• model-00002-of-00005.safetensors4.9 GB
• model-00003-of-00005.safetensors4.9 GB
• model-00004-of-00005.safetensors4.9 GB
• model-00005-of-00005.safetensors2.4 GB
• tokenizer.json2.7 MB
• modeling_falcon.py76.7 KB
• model.safetensors.index.json31.5 KB
• configuration_falcon.py9.2 KB
• README.md8.8 KB
• tokenizer_config.json3.3 KB
• .gitattributes1.5 KB
• config.json1.4 KB
• special_tokens_map.json448 B
• generation_config.json113 B
• ACCEPTABLE_USE_POLICY.txt68 B
• LICENSE.txt67 B

הרישיון

החומרה במטא־דאטה מסומנת כלא ידועה, אבל בכרטיס המודל המפתחים מציינים רישיון עצמאי המבוסס על אפאצ'י שתיים יחד עם מדיניות שימוש מקובל. הפער הזה מחייב בדיקה משפטית של תנאי השימוש לפני שמשלבים אותו במוצר מסחרי.

הרישיון המלא בעמוד המודל ↗