מודל של 27.8 מיליארד פרמטרים ששוקל פחות מ-6 ג'יגה-בייט ורץ על לפטופ. אם המתמטיקה הזאת מחזיקה בקנה מידה, חצי מהתקציבים שמושקעים היום בענן נראים פתאום מנופחים.
🔗 קישור למוצר: Bonsai של PrismML ב-Hugging Face
בשנתיים האחרונות התרגלנו לרעיון שבינה מלאכותית טובה היא בינה מלאכותית שגרה במקום אחר — בחוות שרתים, מאחורי API, על חשבון החשמל של מישהו אחר. מעבדת AI אמריקאית קטנה בשם PrismML מנסה לשבור בדיוק את ההנחה הזאת, והמספרים שהיא פרסמה בחמישי הופכים את זה מסיפור אקדמי לסיפור עסקי.
המודל החדש נקרא Bonsai 2 27B: מודל שפה מולטימודאלי של 27.8 מיליארד פרמטרים, שנבנה כדחיסה של Qwen3.8 27B — מודל הקוד הפתוח הפופולרי של עליבאבא. הגרסה של PrismML שוקלת 5.9 ג'יגה-בייט, קטנה פי תשעה מהמקור בדיוק מלא ושומרת על 98.2% מהביצועים המצרפיים שלו במדדים. על כרטיס RTX 5090 היא מגיעה לכ-143 טוקנים לשנייה, והיא שוחררה תחת רישיון Apache 2.0 — כלומר גם לשימוש מסחרי. כפי שדיווח TechCrunch, זו ההשקה שהופכת את PrismML משם שמסתובב בפורומים של מפתחים לשחקן שכדאי לשים עליו עין.
הטריק הוא בייצוג המשקולות. במקום מספרים בדיוק של 16 ביט, המשקולות במטריצות של Bonsai 2 הן טרנאריות — כל אחת מהן היא רק אחד משלושה ערכים, מינוס אחד, אפס או פלוס אחד, בבסיס מסובב קבוע, עם מקדמי סקייל בדיוק FP16 לכל קבוצה. הדור הראשון של המשפחה היה אגרסיבי אפילו יותר: Bonsai 8B, שהושק באפריל, היה מודל 1-ביט אמיתי מקצה לקצה — כל המשקולות, כולל שכבות ה-embedding, ה-attention וראש הפלט, הן פלוס אחד או מינוס אחד, בלי טלאים בדיוק גבוה. התוצאה שם: 8.2 מיליארד פרמטרים בתוך 1.15 ג'יגה-בייט במקום כ-16 ג'יגה, ציון ממוצע של 70.5 על חבילת מדדים שכוללת MMLU, GSM8K, HumanEval ו-IFEval — מעל Llama 3.1 8B — ו-44 טוקנים לשנייה על אייפון 17 Pro Max. כלומר: מודל בגודל 8B ששפוי לגמרי, בכיס, בלי חיבור לאינטרנט.
מאחורי החברה עומדת חבורה מקלטק. PrismML יצאה ממצב סטלת' ב-1 באפריל 2026, והוקמה על ידי המתמטיקאי באבאק חסיבי יחד עם סאהין לאלה, אומיד פולדזנדי ורזה סאדרי. היא גייסה עד כה 16.25 מיליון דולר בסבבי SAFE וסיד מ-Khosla Ventures, מ-Cerberus Capital ומקלטק עצמה, ובין היועצים שלה נמצא יון סטויקה — ממקימי Databricks ומנהל מעבדת Sky Computing בברקלי. וינוד קושלה, שהקרן שלו הובילה את הסבב, תיאר את הטכנולוגיה כפריצת דרך מתמטית וטען שהתחרות האמיתית ב-AI תהיה על כמה אינטליגנציה מפיקים מכל יחידת אנרגיה ועלות — לא על מי מחזיק את מספר הפרמטרים הגדול ביותר. זו בדיוק התזה שהחברה מוכרת.
קריאה שלנו: ישראל היא מהמקומות שבהם הבשורה הזאת שווה יותר מאשר בעמק הסיליקון. אין כאן שפע של חוות שרתים לאימון והרצה בקנה מידה, עלויות החשמל לא הולכות לכיוון הנכון, והגישה למעבדים הגרפיים הנחשקים עוברת דרך תור בינלאומי שלא אנחנו מנהלים. אקוסיסטם שהחוזקה שלו היא דווקא חומרה, שבבים וקצה — חברה כמו Hailo הישראלית בנתה עסק שלם על הרצת מודלים על מכשירים במקום בענן — מרוויח ישירות מכל שיפור בצפיפות האינטליגנציה. נוסף לזה יש כאן שכבה שלמה של תחומים שבהם מידע פשוט אסור שיעזוב את המכשיר: ציוד רפואי, ביטחון, רובוטיקה, מוצרי אנטרפרייז שנמכרים ללקוחות רגולטוריים באירופה. עד עכשיו התשובה למי שביקש מודל טוב על המכשיר הייתה "תתפשר על מודל קטן ומטומטם יותר". מודל 27B שנכנס לשש ג'יגה משנה את שיחת המכירה הזאת.
ובכל זאת, כמה סימני שאלה שווה להשאיר פתוחים. ביצועים מצרפיים הם ממוצע, ואובדן של 1.8% בממוצע יכול להסתיר נפילה חדה במשימה ספציפית — הסקה ארוכת הקשר, קוד מסובך, זרימות אגנטיות שבהן טעות אחת מתגלגלת. בנצ'מרקים גם לא מודדים את מה שקורה אחרי שלוש שעות שימוש אמיתי. ועוד לא ראינו מוצר צרכני גדול שנשען על מודל 1-ביט בייצור. PrismML פרסמה שני דורות בחצי שנה וזה קצב מרשים בכל קנה מידה; השאלה היא לא אם הדחיסה עובדת במעבדה, אלא מי יהיה הראשון שיעז לבנות עליה מוצר שמשלמים עליו — ומה יקרה לו בפעם הראשונה שמשתמש ישאל שאלה שלא מופיעה באף טבלה.
