בינה מלאכותית

מודל קוד שרץ על הלפטופ, ושרוב העבודה עליו נעשתה על ידי AI. האם זה כבר שיפור עצמי?

מודל קוד שרץ על הלפטופ, ושרוב העבודה עליו נעשתה על ידי AI. האם זה כבר שיפור עצמי?
תקציר

סטארט-אפ שגייס 650 מיליון דולר כדי לבנות בינה מלאכותית שמשפרת את עצמה הוציא מוצר ראשון. הוא חינמי, והוא רץ אצלכם על המחשב.

📌 תקציר: Recursive, בהובלת ריצ'רד סוצ'ר, פרסמה את Flint, מודל קוד פתוח שרץ מקומית על מחשב נייד. לדברי החברה, מערכת המחקר האוטומטית שלה עזרה כמעט בכל שלב בבנייתו. נתוני הביצועים הם של החברה עצמה טרם אומתו בבדיקה עצמאית.

אם מישהו חיפש הוכחה לכך שהמירוץ ל"בינה מלאכותית שמשפרת את עצמה" יצא מהמצגות, הנה מועמד. סטארט-אפ בשם Recursive הוציא את Flint, מודל קוד חינמי שמיועד לרוץ על מחשב נייד. לדברי החברה, הוא נבנה ברובו על ידי מערכת המחקר האוטומטית שלה.

Recursive נוסדה ב-2023 ויצאה מהסתר במאי השנה עם גיוס של 650 מיליון דולר לפי שווי של 4.65 מיליארד דולר. את הסבב הובילו קרן GV של אלפבית וגרייקרופט. בראש החברה עומד ריצ'רד סוצ'ר, ועימו עוד כמה שמות מוכרים מעולם המחקר. המטרה המוצהרת שלה היא AI שמסוגל לשפר את הקוד של עצמו. Flint הוא המוצר הראשון שלה שאפשר באמת להוריד ולהפעיל.

Flint הוא מודל מסוג mixture-of-experts עם 40 מיליארד פרמטרים בסך הכול. בכל משימה מופעלים רק כ-2.5 מיליארד מהם, ולכן הוא קל מספיק כדי לרוץ מקומית. לפי בדיקות החברה, הוא מגיע לכ-131 טוקנים בשנייה על מקבוק פרו עם שבב M4 Pro. הוא מופץ ב-Hugging Face ברישיון Apache 2.0, כלומר מותר להשתמש בו ולשנות אותו בחופשיות. הוא עובד גם בלי חיבור לרשת, הקוד לא יוצא מהמחשב, ואין חשבון טוקנים לשלם.

החברה מספרת שמערכת המחקר שלה, Eureka Machine, השתתפה כמעט בכל שלב בפיתוח, וששוק צוות קטן סיים את המודל בפחות מארבעה חודשים. היא מדגישה שהמערכת פועלת בפיקוח אנושי, כך שלא מדובר ב-AI שבנה את עצמו לבד.

נתוני הביצועים באים מ-Recursive עצמה. לפי החברה, ב-SWE-Bench Verified, מבחן שבודק תיקון באגים אמיתיים בקוד, Flint עוקף מודלים אחרים מתחת ל-50 מיליארד פרמטרים. אין לנו בדיקה של מעבדה עצמאית. ויל נייט מ-Wired דיווח שהמודל עמד בכל בקשות הקוד שלו, אבל החברה עצמה מודה ש-Flint דורש יותר הכוונה מעוזרי הקוד המשלמים הגדולים, והיא ממליצה לפרק משימות גדולות לצעדים קטנים.

גם הניסוח "נבנה ברובו על ידי AI" דורש זהירות. אין כאן מודל שמשפר את עצמו בלולאה סגורה. יש כלי מחקר אוטומטי שמאיץ עבודה של בני אדם. זה מרשים, אבל זה לא הקפיצה שהמושג "שיפור עצמי רקורסיבי" מבטיח.

ומה זה אומר לקורא הישראלי? מודל קוד פתוח וחזק מספיק שרץ על לפטופ משנה את החשבון עבור סטארט-אפים, צוותי פיתוח וחברות שלא רוצות לשלוח קוד קנייני לענן. זה נכון במיוחד בישראל, שבה הרבה מפתחים עובדים בארגוני ביטחון, פינטק וסייבר עם דרישות סודיות קפדניות. זו הערכה שלנו ולא ממצא של Recursive: אם הביצועים יחזיקו מעמד גם מחוץ למעבדה של החברה, המשמעות היא פחות תלות בחשבונות API יקרים.

בינתיים כדאי לקחת את Flint לסיבוב על פרויקט אמיתי ולבדוק בעצמכם. מה שחשוב יותר הוא אם החברה שגייסה יותר מחצי מיליארד דולר תצליח לעבור מלפטופ אחד חסכוני למודל שבאמת משפר את עצמו. את זה אף אחד עוד לא הוכיח.

שוקי הון עכשיו

ת"א 35 ▼ 2.1%
S&P 500 ▼ 1.8%
נאסד"ק ▼ 2.9%
ביטקוין ▲ +0.2%