המודלים של Liquid AI מחליטים בקצה בלי מילים
במקום להמתין שניות לטוקנים מענן יקר, משפחת open d1 מחזירה החלטות מובנות במילי-שניות ישירות על חומרת קצה, אבל יש לזה מחיר ברישיון ובביצועי תמונה.
- בדקו את d1-3B על חומרת ה-Jetson שלכם למשימות סיווג מהירות, אך אל תבנו עליו לעיבוד תמונה רציף לפני שווידאתם שזמני השיהוי עומדים במגבלות המערכת.
זרוע רובוטית שצריכה לעצור מול מכשול לא צריכה פסקה פואטית על מה שעומד מולה. היא פשוט צריכה לדעת אם לבלום או להמשיך, ועדיף שזה יקרה לפני שהיא פוגעת בקיר. רוב מי שמנסה לדחוף היום מודלי ראייה ושפה (VLM) למכשירי קצה מגלה מהר שהמחיר כבד. ייצור טקסט טוקן אחרי טוקן זולל זיכרון, דורש ענן או כרטיס גרפי מפלצתי, ומייצר זמני תגובה של שניות שלמות. ב-7 באוקטובר 2026, חברת Liquid AI הציגה גישה אחרת לגמרי בפוסט שפרסמה ב-Hugging Face.
בלי מילים מיותרות
הרעיון פשוט: להפסיק לייצר טקסט.
המודלים d1-3B ו-d1-omni-600M מוגדרים על ידי החברה כמודלי החלטה (Decision Models) שאינם יוצרים תוכן. במקום לפלוט תשובה מילולית צעד אחר צעד, הם מחזירים מבנה נתונים מוגדר מראש במעבר חישובי בודד (Single forward pass). אתם מעבירים קלט, מגדירים שאלת סיווג, בחירה או ניקוד, ומקבלים ערך מספרי או קטגוריה בבת אחת.
לפי נתוני החברה, המעבר הבודד מוריד את זמני השיהוי לרמות שחומרת קצה יכולה לסבול. על לוח NVIDIA Jetson AGX Thor, המודל d1-3B מחזיר תשובה לשאלה בודדת ב-16 מילי-שניות. על Jetson AGX Orin מדובר ב-26 מילי-שניות, ועל לוח חלש וזול יחסית כמו Jetson Orin Nano הזמן עומד על 50 מילי-שניות. אם שואלים שלוש שאלות במקביל על אותו קלט, התוספת בזמן היא פי 1.3 בלבד, למשל 20 מילי-שניות ב-Thor. התשובה מגיעה במעבר חישובי יחיד, בלי להמתין לפליטת טוקנים מייגעת. מבחינת ארכיטקטורה, זה חוסך את כל מנגנון ה-KV cache המנופח שחונק מעבדים משובצים.
Unlike our generative models, decision models don't produce tokens but answer in a single forward pass.ההכרזה הרשמית של Liquid AI
תמונה אחת משנה את התחשיב
על הנייר, 50 מילי-שניות נשמעות כמו חלום לכל מפתח מערכות משובצות או רובוטיקה. אבל כאן בדיוק מסתתרת האותיות הקטנות של חומרת קצה. הנתונים המהירים האלה מתייחסים לקלט טקסטואלי קצרצר בלבד. ברגע שמכניסים לתמונה תמונה אמיתית, הקפיצה בזמנים חדה מאוד.
לפי טבלאות הביצועים שפרסמה Liquid AI, עיבוד של תמונה בודדת ברזולוציה בסיסית של 384 פיקסלים ב-Jetson Orin Nano מעלה את השיהוי מ-50 מילי-שניות ל-202 מילי-שניות. ב-Jetson AGX Orin הזמן עולה ל-83 מילי-שניות, וב-Thor ל-35 מילי-שניות. זה עדיין מהיר בהרבה ממודל VLM יוצר, אבל זה כבר לא משהו שאפשר להריץ בקצב של מצלמת וידאו מלאה בלי לחנוק את המעבד.
המצב נהיה קיצוני עוד יותר כשההקשר גדל. במצב של הקשר באורך 3.4K טוקנים, השיהוי על Jetson Orin Nano מזנק ל-1,640 מילי-שניות. שניה וחצי להחלטה בודדת. גם על לוח ה-AGX Orin החזק מדובר ב-560 מילי-שניות. אם אתם בונים מצלמת אבטחה חכמה או רובוט תעשייתי, תצטרכו לחשוב טוב על גודל הקלט שאתם דוחפים למודל בכל פריים, כי השיהוי מזנק עד פי 30 ביחס לטקסט קצר.
| חומרה | שאלה בודדת | 3 שאלות | תמונה 384 פיקסלים | מצב ארוך (3.4K טוקנים) |
|---|---|---|---|---|
| Jetson AGX Thor | 16 ms | 20 ms | 35 ms | 220 ms |
| Jetson AGX Orin 64 GB | 26 ms | 35 ms | 83 ms | 560 ms |
| Jetson Orin Nano | 50 ms | 73 ms | 202 ms | 1,640 ms |
| Apple M5 Pro | 30 ms | 41 ms | 62 ms | 640 ms |
שני מודלים, שני מסלולים
משפחת d1 decision model family מציעה כרגע שתי אפשרויות שונות מהיסוד. הדגם המוביל הוא d1-3B, שמבוסס על מודל הבסיס LFM2.5-VL-3B של החברה. הוא בנוי בארכיטקטורת מפענח בלבד (Decoder-only), מיועד לעיבוד טקסט ותמונות, ומציג ציון ממוצע של 82.9 בשבעה מבחני טקסט פומביים, תוך שהוא עוקף את מודל Decider 4B.
הדגם השני הוא d1-omni-600M, מודל קטן בהרבה שנועד למכשירים עם מגבלת מקום חמורה. הוא מאומן על גבי LFM2.5-Encoder-350M, מקודד דו-כיווני (Bidirectional encoder), ומשלב מקודדי ראייה ושמע נפרדים כדי לתמוך בשלושת המודוסים. הוא מקבל טקסט ותמונה, או לחלופין טקסט ושמע. החברה מדגישה שמדובר בגרסת מחקר ראשונית בלבד (Experimental), ואינה מפרסמת עבורו נתוני שיהוי רשמיים על חומרה כלשהי.
לא הייתי ממהר לבנות על דגם האומני למוצר אמיתי לפני שיש נתוני שיהוי כלשהם. בינתיים הוא בעיקר הצהרת כוונות.
רישיון ומבחנים חסרים
לפני שאתם משלבים את המשקלים במוצר מסחרי, יש שני מוקשים שחייבים להכיר. הראשון הוא חוסר שקיפות בביצועי המולטימדיה. למרות שהמודלים מוגדרים כמולטימודליים, Liquid AI לא פרסמה שום מבחן ביצועים פומבי עבור עיבוד תמונה או שמע. בדוח מוסבר כי המדד שבו השתמשו כולל בדיקות ראייה פרטיות בלבד, ושמבחני החלטה לשמע הם עדיין בעיה פתוחה במחקר. איכות ההחלטות הוויזואליות נשענת כרגע על הצהרות פנימיות של החברה בלבד.
המוקש השני הוא הרישיון. המשקלים לא שוחררו תחת רישיון פתוח מתירני כמו Apache 2.0 או MIT, אלא תחת רישיון ייעודי של החברה בשם LFM Open License v1.0. רישיונות מסוג זה כוללים בדרך כלל מגבלות שימוש מסחריות והגבלות על אימון מודלים מתחרים. בישראל פועלות עשרות חברות בתחומי הרובוטיקה, הרחפנים והביטחון שמפתחות על גבי מודולי NVIDIA Jetson, ועבורן שימוש ברישיון מותאם דורש בדיקה משפטית קפדנית לפני הטמעה במערכות מבצעיות. בנוסף, המודלים לא נבדקו כלל בעברית, כך שמי שבונה על עיבוד פקודות מקומי בשפת הקודש ייאלץ לבדוק את זה לבד.
איך לבדוק את זה עכשיו
אם אתם רוצים לראות איך הדבר הזה עובד לפני שמורידים גיגה-בייטים של משקלים, Liquid AI העלתה סביבת הדגמה פתוחה בשם System One Arcade בפלטפורמת Hugging Face. אפשר לבדוק שם סיווג טקסטים ומענה על שאלות מובנות ישירות מהדפדפן.
להרצה מקומית תצטרכו להתקין גרסה עדכנית של ספריית transformers מגרסה 5.14 ומעלה. בנוסף, מכיוון שהמודל משתמש בארכיטקטורה לא סטנדרטית, טעינת הקוד דורשת להפעיל במפורש את הדגל trust_remote_code=True ב-AutoModel. זה אומר שאי אפשר פשוט לזרוק את המודל לתוך שרתי היסק נפוצים כמו vLLM או Triton בלי לכתוב התאמות ייעודיות. אם השיהוי של מודלי שפה חונק את מערכת הקצה שלכם, שווה להוריד את המשקלים של d1-3B ולמדוד זמנים על החומרה שלכם, רק אל תצפו ממנו לנהל שיחה.
מה שואלים על זה
- Multimodal open d1 decision models for the edgehuggingface.co · המקור
- d1 decision model familyliquid.ai · מקושר מההודעה
- d1-3Bhuggingface.co · מקושר מההודעה
- d1-omni-600Mhuggingface.co · מקושר מההודעה
- System One Arcadehuggingface.co · מקושר מההודעה
30 עובדות בכתבה נבדקו אחת־אחת מול המקורות המקושרים ומול חיפוש ברשת ב־9 באוקטובר 2026. מה שלא אומת הוסר או מסומן כטענה של החברה. הכתיבה נעשתה בעזרת AI מהמקורות האלה בלבד, בעריכה ובאחריות של סלבה מלנדוביץ׳. טעות? כתבו לנו.