Falcon LLM - Home

הסקירה

אתם נכנסים לאתר של TII באבו דאבי ומקבלים גישה למשפחת מודלים של קוד פתוח, ממשק צ'אט מקוון וסביבת בדיקה לראייה ממוחשבת בשם Falcon Perception. המודלים נעים בין גרסאות קלות של 7 מיליארד פרמטרים ועד למודל ענק של 180 מיליארד פרמטרים שאומן על 3.5 טריליון טוקנים. במקום מוצר קצה מוגמר עם ממשק ניהול למשרד, אתם מורידים משקלים של רשתות נוירונים או מתחברים אליהן ישירות בתשתית עצמאית שלכם. הארכיטקטורה משלבת מנגנוני Transformer מסורתיים לצד State Space Models כמו Mamba, מה שנועד לצמצם את צריכת הזיכרון בריצות ארוכות במיוחד.

זה עובד על ברזלים.

מה שמבדיל את הפיתוחים האלה ממה שחברות כמו Meta מציעות בקו של Llama הוא ההתמקדות המכוונת בשפות שאינן רק אנגלית, ובמיוחד ערבית קלאסית ומדוברת. מודל Falcon-H1-Arabic פותח במיוחד כדי להתמודד עם ניבים ערביים שונים, תחום שבו רוב המערכות המערביות מתקשות ומייצרות טעויות דקדוקיות קשות. במקביל, גרסאות כמו Falcon 3 מתוכננות לעבד לא רק טקסט ותמונות אלא גם וידאו ואודיו, תוך התאמה לעבודה על מחשבים ניידים ותשתיות מחשוב צנועות. מודל Falcon H1R 7B למשל מתמקד במשימות חשיבה מורכבות במתמטיקה, כתיבת קוד ומעקב אחרי הוראות מפורטות, והוא מתחרה ישירות במודלים קומפקטיים של Microsoft או NVIDIA.

כמה זה עולה ברישיונות

המודלים עצמם מוגדרים open-source וזמינים להורדה ללא תשלום כספי ישיר ליוצרים שלהם מאיחוד האמירויות. זה שווה את זה רק אם יש לכם שרתים מתאימים וידע טכני להרים אותם בעצמכם. אין כאן מסלול מנוי של 20 דולר לחודש וגם לא מדרגות תשלום לפי כמות משתמשים. החיסכון לכאורה במחיר הרישיון מתקזז מיד עם העלויות של חוות שרתים, כרטיסי מסך חזקים וחשבונות ענן שמגיעים לאלפי שקלים בחודש. אם המטרה שלכם היא לקבל כלי שעובד מיד בדפדפן בלי לגעת בשורת פקודה, תגלו מהר מאוד שהחינם הזה דורש השקעה כספית עקיפה משמעותית מאוד.

מבחינת תנאי השימוש, מותר לשלב את Falcon 180B במוצרים מסחריים, להטמיע אותו במערכות פנימיות של ארגונים ולגבות כסף מלקוחות קצה על שירותים שנבנו סביבו. מה שאסור באופן מפורש ללא הסכם מיוחד הוא לפעול כספק אירוח שמוכר גישה ישירה למודל משותף דרך API בתשלום. ספקי ענן יכולים להשכיר לכם שרת ייעודי שעליו תריצו את המודל, אבל אסור להם לקחת את המודל הגולמי ולמכור אליו גישה קבוצתית. ההבדל הזה קריטי למי שמתכנן להקים עסק שמבוסס רק על תיווך הגישה למודל לאחרים.

הרישיון פתוח אך מוגבל.

עברית, חומרה ומה שחסר

בכל מה שנוגע לשפה העברית, המצב כאן דורש זהירות רבה לפני שמתחייבים לפרויקט. האתר מפרט תמיכה רחבה באנגלית, שפות אירופאיות ודגש עצום על ערבית, אבל עברית לא מוזכרת בשום מקום בתיעוד הרשמי. למרות שערבית ועברית הן שפות שמיות דומות, מודל שלא אומן מראש על מאגרי טקסט עבריים איכותיים יתקשה מאוד בניסוחים מקומיים, סלנג ורגולציה ישראלית. לא הייתי משתמש בזה לניתוח מסמכים משפטיים מקומיים או לשירות לקוחות שמיועד לקהל ישראלי. תצטרכו להשקיע מאמץ באימון נוסף כדי לקבל תוצאות שמתקרבות לרמה המסחרית המקובלת בארץ.

הפער המשמעותי בין ההצהרות באתר לבין המציאות נוגע לדרישות החומרה של המודלים הגדולים. להריץ מודל של 180 מיליארד פרמטרים זה פרויקט הנדסי כבד, שדורש מערכות עם זיכרון גרפי עצום שלא קיים במחשבים רגילים. למרות שגרסת Falcon 3 מתיימרת לרוץ גם על מחשבים ניידים, הביצועים של דגמי ה-7B וה-11B במשימות מורכבות עדיין מוגבלים לעומת המודלים הענקיים. אם אין לכם צוות שמבין בלמידת מכונה ויודע לתחזק תשתית כזאת, הגישה לקוד הפתוח לא תיתן לכם יתרון מעשי על פני חלופות סגורות שמגיעות מוכנות לשימוש.

בסביבה עסקית רגילה, זה פשוט לא מתאים למי שמחפש פתרון מהיר שמתחבר בלחיצת כפתור לתוכנות המשרדיות שלו. זה מיועד לחברות טכנולוגיה, לצוותי פיתוח שרוצים שליטה מלאה במידע שלהם ולמי שחייב לשמור את כל הנתונים בתוך שרתים מקומיים בגלל דרישות אבטחה מחמירות. מי שצריך עוזר כתיבה למיילים או כלי אוטומציה פשוט יבזבז כאן זמן יקר.

• מחיר רישיוןקוד פתוח חינם
• תמיכה בעבריתלא מצוינת באתר
• דרישות חומרהשרתים ייעודיים כבדים