בינה מלאכותית

סטארטאפ מוכר גישה ל-AI בלי מעצורים, וטוען שזה דווקא ישפר את האבטחה

סטארטאפ מוכר גישה ל-AI בלי מעצורים, וטוען שזה דווקא ישפר את האבטחה
תקציר

בעוד רגולטורים מתווכחים על גבולות הבינה המלאכותית, חברה אחת כבר מוכרת מנוי חודשי לגרסה שבכלל אין לה גבולות.

📌 תקציר: הסטארטאפ Abliteration.ai מציע גישה מסחרית, דרך API ואתר, למודלים פתוחים שהוסרו מהם מנגנוני הסירוב - בטענה שצוותי אבטחה זקוקים לאותם כלים שיש לתוקפים. החברה כבר גובה תשלום על גרסה מבוססת GLM, ומעוררת ויכוח על הגבול בין הגנה להפצת סיכון.

🔗 קישור למוצר: Abliteration.ai

יש רעיון שחוזר כל כמה חודשים בעולם ה-AI: אם תוקפים ישתמשו בכלים בלי מעצורים בכל מקרה, אולי עדיף שגם המגינים יחזיקו באותם כלים, בלגיטימיות ובאור יום. זו בדיוק ההצדקה שמאחורי Abliteration.ai, סטארטאפ שהפך טכניקה טכנית שולית לעסק לכל דבר: הסרת מנגנוני הסירוב ממודלי שפה פתוחים, ומכירת הגישה אליהם כשירות.

השם של החברה שאול מהשיטה עצמה - אבליטרציה, טכניקת הנדסת-ייצוג שמאתרת בתוך שכבות ההפעלה של המודל את ה"כיוון" המתמטי שאחראי על סירוב לבקשות, ומנטרלת אותו ישירות במשקלים. חשוב להבין מה זה לא: זו לא הוספת יכולת חדשה למודל, אלא הסרת המכשול שמנע ממנו להשתמש ביכולת שכבר הייתה שם. חברות כמו Z.ai (שמפתחת את משפחת GLM) משחררות משקלים פתוחים לציבור, ו-Abliteration.ai לוקחת אותם, מנקה אותם מסירובים, ומארחת אותם לשימוש דרך דפדפן או API.

הלקוחות המוצהרים, לפי הדיווח, הם בעיקר חברות red-teaming קטנות באירופה ובבריטניה שעוזרות לבנקים, לחברות תעופה ולגופי תשתית קריטית לבחון את החוסן הסייברי שלהם - כלומר לתקוף את עצמן לפני שמישהו אחר יעשה זאת. מבחינת מודל עסקי, החברה כבר לא בשלב ניסיוני: היא גובה כ-5 דולר למיליון טוקנים על גרסה מבוססת GLM, ולאחרונה השיקה גרסה חדשה מבוססת GLM-5.3 שמדורגת גבוה בבנצ'מרקים של יכולות סוכנים, עם - כך היא טוענת - יכולות ניצול סייבר כפולות בהשוואה לגרסה הקודמת.

הבעיה היא שאותה יכולת שמאפשרת לצוות אבטחה לדמות תקיפה, מאפשרת בדיוק באותה קלות לתוקף אמיתי לבקש הדרכה מפורטת ליצירת נשק, לכתיבת קוד זדוני, או לעקיפת מנגנוני הגנה - ודיווחים אחרים על כלי הסרת-מעצורים דומים כבר תיעדו מקרים שבהם המודלים סיפקו הוראות לייצור חומרים מסוכנים. מייסד החברה, כמצוטט בדיווח, עומד מאחורי הטענה שדמוקרטיזציה של הגישה למודלים חסרי-מעצורים היא בעצם ההגנה הכי טובה שיש - כי אם רק גורמים עוינים מחזיקים בכלי, המגינים תמיד יפגרו אחריהם.

מה שמעניין כאן מנקודת מבט ישראלית הוא שהוויכוח הזה לא תיאורטי בכלל: ישראל היא אחת ממעצמות הסייבר ההגנתי בעולם, עם חברות כמו Check Point, CyberArk ו-Wiz שמעסיקות אלפי אנשי red-team ו-threat intelligence שכבר משתמשים בכלים "אפורים" כאלה בעבודה השוטפת. ההבדל בין Abliteration.ai לבין כלים פליליים ידועים כמו WormGPT או FraudGPT, שצצו בפורומים חשוכים כדי לשרת פושעי רשת בלבד, הוא בעיקר במיתוג: כאן יש חברה עם אתר, תמחור שקוף ולקוחות ארגוניים - אבל הטכנולוגיה שמתחת למכסה המנוע כמעט זהה. זה בדיוק מה שהופך את הסיפור למבחן מקרה מעניין לרגולטורים: איפה עובר הגבול בין "כלי אבטחה לגיטימי" לבין "תשתית לפשיעת סייבר", כשההבדל היחיד הוא מי מחזיק בכרטיס האשראי?

בינתיים אין תשובה רגולטורית ברורה, לא בארה"ב ולא באירופה, לשאלה אם מכירת גישה למודל חסר-מעצורים כשירות B2B צריכה להיות מותרת, מפוקחת או אסורה. Abliteration.ai הימרה שהתשובה תהיה "מותרת ורווחית" - ולפי שעה, אף אחד לא עצר אותה.

אהבתם? עקבו אחרינו

כל עדכוני ה-AI הכי חמים, ישר לפיד שלכם

שוקי הון עכשיו

ת"א 35 ▲ +0.8%
S&P 500 ▲ +1.1%
נאסד"ק ▲ +1.4%
ביטקוין ▲ +5.1%