AnythingLLM

הסקירה

אתם מורידים קובץ התקנה יחיד למחשב שלכם, מפעילים אותו, ומקבלים עוזר שעובד כולו על החומרה המקומית בלי לפנות לשרתים חיצוניים. ההבטחה המרכזית פה פשוטה מאוד. שום מידע לא יוצא מהמחשב, אין צורך בחשבון משתמש, ואין שום מפתחות API שצריך להזין או לקנות מראש. רוב כלי הצ'אט בשוק דורשים חיבור רציף לענן ומשלמים להם לפי טוקנים. כאן מודל השפה רץ ישירות על המעבד או כרטיס המסך שלכם. זה אומר שאתם מוגבלים אך ורק בכוח המחשוב שיש לכם בבית או במשרד, לטוב ולרע.

ההתקנה לא דורשת התעסקות עם תלויות תוכנה מורכבות, והיא זמינה למערכות macOS, Windows וגם Linux.

התוכנה מציעה תכונה של חיבור מסמכים, שבה כל קובץ שאתם מעלים הופך לחלק ממאגר הידע של הסוכן המקומי. בניגוד לכלים ששולחים את הדוחות הפיננסיים או החוזים הרגישים שלכם לשרת מרוחק לעיבוד, כאן כל הפירוק והחיפוש נעשים במכשיר עצמו. בנוסף לכך יש פה כלי שמתמלל ומסכם פגישות בזמן אמת בלי להכניס בוט לשיחה. הוא מקשיב מקומית לכל פלטפורמת שיחות שתפעילו, וברגע שניתקתם הוא מפיק סיכום מלא ומשימות לביצוע. זה נוח, אבל דורש מהמחשב שלכם להתמודד עם עיבוד קול וטקסט במקביל בלי להיחנק.

מה קורה למחשב שלכם

האתר מציע בחירת מודל אוטומטית לפי מפרט החומרה שלכם, או בחירה ידנית מתוך מודלים שונים שמתאימים למכשיר. מה שבאמת מפריע כאן הוא שאין באתר פירוט מדויק של דרישות החומרה המינימליות להרצת מודלים כבדים באמת. אם יש לכם מחשב ישן או חלש, התוכנה אמנם תעלה אבל המודלים יגיבו לאט מאוד. מעבר לזה, האתר כולו מוגש באנגלית ואין בו שום התייחסות לתמיכה בעברית. היכולת שלכם לקרוא מסמכים בעברית או לנהל שיחה שוטפת תלויה לחלוטין במודל הספציפי שתורידו פנימה, ולא במעטפת של התוכנה.

זה לא תמיד חלק.

יש בתוכנה גם יכולות שנקראות Magic Echo, שכוללות הכתבה חכמה שמבינה מה מוצג על המסך שלכם ומשלימה טקסטים בהקשר הנכון. זה נשמע נהדר על הנייר, אך בפועל זה אומר שאתם מפעילים עוד תהליכי רקע מקומיים שמתחרים על אותם משאבי זיכרון. מי שבונה על עבודה משרדית חלקה צריך לקחת בחשבון שריבוי משימות כזה עלול להאט תוכנות אחרות. בנוסף, קיים כלי להתאמת כלים אישיים וחיבור ל־API של מפתחים, לצד מנוע הרצת תהליכים ברקע, חיפוש ברשת וסריקת אתרים. מדובר בחבילה רחבה, אבל כדאי לכם לבדוק אותה קודם עם משימה אחת פשוטה.

מחיר, רישוי וקוד פתוח

מבחינת כסף, מדובר בפרויקט קוד פתוח תחת רישיון MIT עם מעל 65 אלף כוכבים ב־GitHub ומעל 5 מיליון משיכות ב־Docker. התוכנה הבסיסית להורדה למחשב מוצעת בחינם לגמרי, בלי תשלום חודשי ובלי עלויות על טוקנים. הנתונים מציגים אפשרות להתקנה עצמית עבור ארגונים על גבי שרתים פרטיים לתמיכה בריבוי משתמשים. החומר מציין שיש גם מסלול בתשלום, אך המחירון שלו, תנאי התשלום וההבדלים המדויקים מול הגרסה החינמית אינם מפורטים באתר הראשי. לרוב הקוראים, גרסת שולחן העבודה החינמית היא כל מה שצריך כדי להתחיל לעבוד.

לא הייתי משתמש בזה לפרויקטים שדורשים מענה מהיר של צוות שלם בלי שיש לכם שרת ייעודי חזק.

הכלי הזה פונה ישירות למי שפרטיות המידע שלו קריטית, כמו עורכי דין, רופאים או מתכנתים שלא מורשים להוציא קוד החוצה. אם אתם עובדים בחברה עם מדיניות אבטחה קפדנית, העובדה ששום פסיק לא עולה לענן היא יתרון עצום שמבטל סיכוני דליפת מידע. מצד שני, הוא ממש לא מתאים למי שמחפש פתרון קל בלחיצת כפתור בלי לחשוב על זיכרון RAM או כרטיסי מסך. מי שרגיל לביצועים של שרתים מפלצתיים בענן עלול להתאכזב מקצב יצירת המילים של מודל מקומי קטן.

החופש מעלויות שוטפות אמיתי.

• מחיר בסיסחינם בקוד פתוח
• תלות בענןללא שרתים חיצוניים
• פירוט מסלול בתשלוםלא מוצג באתר