Falcon3-10B-Instruct

מה זה

המודל הזה נבנה על בסיס הרחבת עומק של דגם שבעה מיליארד פרמטרים, ואומן על שני טרה טוקנים נוספים לצד כיוונון עדין על מיליון ומאתיים אלף דוגמאות של שיחה, בטיחות והפעלת כלים. המפתחים הגדילו כאן את חלון ההקשר לשלושים ושניים אלף טוקנים ושינו את מבנה הראשים כדי לשפר את מהירות ההסקה.

במבחני הביצועים הוא מציג יתרון בולט בעיקר במתמטיקה ברמה חמש ובמבחן הפעלת כלים, שם הוא עוקף מתחרים כמו ג׳מה שתיים ומיסטרל נמו שתים עשרה בי. עם זאת, במבחני שאלות ידע מורכבות כמו מדד ג׳י פי קיו איי הוא רושם עשר נקודה חמישים ואחת, תוצאה נמוכה יותר מחלק מהמתחרים בקטגוריה.

מתאים ל

• הפעלת פונקציות וסוכנים

  תוצאה של מעל תשעים אחוז במדד הפעלת הכלים הופכת אותו למועמד חזק לניתוב פקודות למערכות חיצוניות.

• פתרון בעיות מתמטיקה

  ציון גבוה במיוחד של עשרים וחמישה אחוזים במבחני מתמטיקה רמה חמש ביחס למודלים בגודל של עד שתים עשרה בי.

• כתיבה ובדיקת קוד באנגלית

  התמחות באימון על דאטה של קוד ותוצאה של שבעים וארבע נקודה שבע במדד איוול פלוס מאפשרות עבודה טכנית טובה.

איפה זה נופל

הכרטיס מציין תמיכה בארבע שפות בלבד, אנגלית, צרפתית, ספרדית ופורטוגזית. עברית לא נתמכת כאן בכלל, ולא כדאי לנסות להשתמש בו לטקסטים בעברית ללא אימון נוסף. בנוסף, במבחני איכות מעקב אחר הוראות כלליות באלפקה הוא משיג עשרים וארבע נקודה שבע בלבד, שזה נמוך משמעותית ממתחרים ישירים.

אותה משפחה

Falcon3 יצא ב־5 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

משקל המשקולות בדיוק ברירת המחדל מגיע לקרוב לעשרים גיגה בייט, כך שאי אפשר להריץ אותו בנוחות על כרטיס ביתי פשוט של שמונה או שנים עשר גיגה בלי קוונטיזציה. תצטרכו כרטיס עם לפחות עשרים וארבעה גיגה בייט זיכרון גרפי כדי לטעון אותו מלא ולהשאיר מקום לקונטקסט.

אם אתם צריכים רק בדיקה מהירה או שאין לכם שרת ייעודי זמין, החזקה עצמית של מודל כזה תעלה יותר בחומרה ובזמן תחזוקה. במקרה כזה משתלם יותר לפנות לנקודת קצה מנוהלת בענן שגובה לפי שימוש בפועל.

from transformers import pipeline

pipe = pipeline("text-generation", model="tiiuae/Falcon3-10B-Instruct")
print(pipe("שלום"))

הקבצים

13 קבצים במאגר, 19.2 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00002-of-00005.safetensors4.9 GB
• model-00001-of-00005.safetensors4.9 GB
• model-00003-of-00005.safetensors4.9 GB
• model-00004-of-00005.safetensors4.9 GB
• model-00005-of-00005.safetensors946.9 MB
• tokenizer.json9.8 MB
• tokenizer_config.json364.6 KB
• model.safetensors.index.json29.9 KB
• README.md12.5 KB
• .gitattributes1.5 KB
• special_tokens_map.json826 B
• config.json652 B
• generation_config.json113 B

הרישיון

הפרויקט מופץ תחת רישיון ייעודי של המכון בשם טי איי איי פלקון שתיים. ברישומי המאגר הוא מסומן כאחר, מה שאומר שזה אינו רישיון קוד פתוח סטנדרטי מסוג אפאצ׳י או אם איי טי. לפני שילוב שלו במוצר מסחרי צריך לבדוק ישירות את תנאי השימוש שהמכון הגדיר כדי לוודא שאין הגבלות מסחריות או דרישות דיווח.

הרישיון המלא בעמוד המודל ↗