Lucy-128k

מה זה

מדובר במודל שמבוסס על Qwen3-1.7B ועבר אימון בלמידת חיזוק טהורה, בלי כוונון מונחה בכלל, לצד וקטורי משימה שנוצרו במכונה כדי לחדד תהליכי חשיבה. המטרה העיקרית שלו היא לשמש סוכן שמפעיל כלי חיפוש ברשת וגלישה בסיסית דרך פרוטוקול MCP, עם כלים כמו Serper ו־Crawl4AI.

הייחוד כאן הוא הביצועים ביחס לגודל. במבחן SimpleQA תחת מתודולוגיית MCP, המפתחים מציגים דיוק שעוקף מודל ענק כמו DeepSeek-v3. זה אומר שכאשר נותנים לו גישה לכלי חיפוש מתאימים, הוא יודע לשלוף עובדות ולסנן מידע טוב יותר ממודלים כבדים בהרבה שנשענים רק על הזיכרון הפנימי שלהם.

מתאים ל

• סוכן מחקר במכשיר נייד

  הוא קל מספיק לרוץ על מעבד טלפון ומכוון לביצוע שאילתות וסיכום תוצאות רשת.

• אוטומציית חיפוש ב־MCP

  עבר אופטימיזציה ישירה לפרוטוקול כלי החיפוש עם תמיכה ב־Serper.

• קריאת מסמכים ארוכים מקומית

  חלון של 128k טוקנים מאפשר להזין דפי אינטרנט שלמים בלי לחתוך מידע.

איפה זה נופל

המודל אומן ומוגדר רשמית רק עבור השפה האנגלית, כך שאין מה לבנות עליו לפעולות מורכבות בעברית. בנוסף, כל החוזק שלו נשען על חיבור לכלים חיצוניים. אם תנתקו אותו משרתי ה־MCP והחיפוש, מודל של 1.7 מיליארד פרמטרים עדיין מוגבל מאוד בידע העולם הפנימי שלו ויסבול מטעויות מהר מאוד.

אותה משפחה

Lucy יצא ב־3 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

המשקל הכולל עומד על 3.5 גיגהבייט בדיוק bfloat16, מה שאומר שכרטיס מסך בסיסי עם 6 עד 8 גיגהבייט זיכרון יריץ אותו בקלות. אם מכווצים אותו עוד קצת בפורמט של llama.cpp, אפשר להריץ אותו ישירות על מעבד של מחשב נייד או טלפון בלי להרגיש חנק בביצועים.

אפשר להרים אותו דרך vLLM או llama-server, אבל צריך לשים לב להגדרות ה־RoPE הייעודיות עם פקטור 3.2 כדי לנצל את כל ההקשר. אם אתם לא צריכים ריצה מקומית על הקצה לצורכי פרטיות או אופליין, קריאה ל־API של מודל ענן פשוט תחסוך לכם את תחזוקת שרתי ה־MCP והחיבור לרשת.

from transformers import pipeline

pipe = pipeline("text-generation", model="Menlo/Lucy-128k")
print(pipe("שלום"))

הקבצים

15 קבצים במאגר, 3.5 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model.safetensors3.4 GB
• lucy_demo.gif250.2 MB
• tokenizer.json11.4 MB
• vocab.json2.8 MB
• merges.txt1.7 MB
• training_args.bin8.3 KB
• tokenizer_config.json5.4 KB
• chat_template.jinja4.2 KB
• README.md3.8 KB
• .gitattributes1.7 KB
• config.json820 B
• added_tokens.json707 B
• special_tokens_map.json613 B
• .ipynb_checkpoints/generation_config-checkpoint.json230 B
• generation_config.json229 B

הרישיון

הרישיון הוא Apache 2.0 מלא. אפשר להשתמש בו במוצרים מסחריים, לשנות את הקוד והמשקולות, ולהפיץ אותו בחופשיות. התנאי היחיד הוא שמירה על הצהרת זכויות היוצרים והרישיון המקורי בקבצים.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗