501 מיליארד פרמטרים, רישיון Apache 2.0 והבטחה לחיסכון של פי 3-4 בחישוב. השאלה היא מה יישאר מהמספרים כשהמשקולות באמת ייצאו החוצה.
במשך שנה וחצי נשמעה במערב אותה תלונה: המודלים הפתוחים הטובים באמת מגיעים מסין. DeepSeek, Qwen ו-Z.ai קבעו את הקצב, ואילו התשובה האמריקאית נשארה בעיקר הבטחה. עכשיו Reflection, סטארטאפ מברוקלין שהוקם ב-2024 בידי חוקרים לשעבר של DeepMind, מנסה לסגור את הפער עם חשיפת Beam, המודל הראשון שלה.
לפי החברה, Beam הוא מודל Mixture-of-Experts דליל עם 501 מיליארד פרמטרים בסך הכול, מהם רק 23 מיליארד פעילים בכל שלב. הוא אומן על 23.8 טריליון טוקנים, יש לו חלון הקשר של מיליון טוקנים והוא מיועד בעיקר לקוד, הסקה ועבודת סוכנים. הרישיון הוא Apache 2.0, מהמתירניים שיש.
הטענה המרכזית היא ש-Beam מגיע בבנצ'מרקים של הסקה מתקדמת לרמה של GLM-5.2 של Z.ai, ועוד עוקף את המודלים הפתוחים המערביים הקיימים. כל זאת תוך שימוש בפי 3-4 פחות חישוב בהסקה. בקוד ובמשימות סוכנים החברה מציגה אותו כמתקרב ל-Qwen 3.8-Max. שימו לב לניסוח: אלה נתונים שפרסמה Reflection עצמה. המשקולות, הדו"ח הטכני וכרטיס המודל אמורים לצאת רק בהמשך החודש, אחרי red-teaming והערכות אחרונות. עד אז אף אחד מבחוץ לא יכול לבדוק.
ההסקה היא הנקודה הכלכלית. אימון הוא הוצאה חד-פעמית, אבל הסקה עולה כסף בכל שאילתה. מודל שמספק איכות דומה בשליש עד רבע מהחישוב משנה את החשבון גם לסטארטאפ שמריץ סוכן קוד וגם למשרד ממשלתי שמריץ את המודל על שרתים משלו.
המודל הוא רק חלק מהסיפור. Reflection מכוונת אותו ואת המודלים הבאים שלה לארגונים ולמדינות, והמוצר שהיא רוצה למכור הוא "מפעלי AI": מערכת מקומית ומותאמת שמוסדות בונים בעצמם, על ידי אימון מודלי Reflection על המידע הקנייני שלהם. לפי הדיווחים החברה כבר בוחנת את הרעיון עם קבוצת Shinsegae הדרום קוריאנית, בגיבוי ממשלות ארה"ב וקוריאה. הרעיון קרוב מאוד לחזון של ג'נסן הואנג מ-Nvidia, שאחת התומכות הגדולות של החברה, לצד Sequoia ו-Lightspeed. הדיווחים מדברים על גיוס של כ-4.7 מיליארד דולר בשווי 25 מיליארד.
הקריאה שלנו: זה ניתוח, לא דיווח. לישראלי יש כאן שני דברים לשים לב אליהם. הראשון הוא הדאגה לריבונות מידע, שמוכרת היטב מגופי ביטחון, בנקים וקופות חולים. ארגון שלא רוצה לשלוח נתונים רגישים ל-API בחו"ל ולא רוצה להישען על מודל סיני מקבל כאן אופציה שלישית, אם הביצועים יעמדו בהבטחה. השני הוא שמודל פתוח ברישיון Apache הוא חומר גלם נוח לחברות ישראליות שבונות מוצרי AI ארגוניים והתאמות מקומיות, כולל עברית, אם כי איכות העברית של Beam לא נבדקה ואין לנו עליה מידע.
בינתיים Beam הוא מצגת טובה עם מספרים נועזים. הפרמטר היחיד שבאמת קובע הוא מה שקורה כשהמשקולות עולות לרשת והקהילה מריצה אותן על המשימות שלה. אם הטענה על פי 3-4 פחות חישוב תחזיק, Reflection תקבל את מקומה בשולחן. אם לא, נקבל עוד מודל פתוח בשוק שכבר מלא בהם.
