בתמונה למעלה: מייסדי Deepchecks פיליפ טנור (מימין) ושיר חורב
חברת Deepchecks התל אביבית הכריזה על מערכת לבדיקת הביצועים והתיפקוד של מערכות בינה מלאכותית (AI), והודיעה שהיא מוציאה את המערכת לשימוש חופשי במתכונת של קוד פתוח. ההכרזה נעשתה עם השלמת גיוס הון בהיקף של 14 מיליון דולר, אשר הובל על-ידי קרן Alpha Wave Ventures ובהשתתפות Hetz Ventures ו-Grove Ventures. החברה הוקמה בסוף 2019 על-ידי המנכ"ל פיליפ טנור, והטכנולוגית הראשית שיר חורב, אשר הכירו אחד את השני בתוכנית תלפיות של צה"ל ועבדו ביחד בפיתוח אלגוריתמים ביחידה 8200. בין השאר היא השתתפה בתוכנית ההאצה של אינטל, Intel Ignite.
הטכנולוגיה של Deepchecks מיועדת להתמודד עם אחד האתגרים הקשים של שימוש במערכות בינה מלאכותית, החל מאלגוריתמים לעיבוד תמונה, תוכנות אנליטיקס עבור תחזוקה מונעת, ניתוח מידע מחיישנים וכלה במערכות גדולות כמו ChatGPT: כיצד ניתן לבדוק ולאמת אותם, כדי למנוע קבלת תוצרים. האתגר כל-כך קשה מכיוון שהיעילות של תוכנות בינה מלאכותית תלויה בבסיס הנתונים שעליו היא התאמנה ובמודל היישום שהוא מרכיב תוכנה שקשה מאוד לעקוב אחר הפעילות הפנימית בתוכו. למעשה, רוב מערכות הבינה המלאכותית הן "קופסה שחורה" עבור המפתחים והמשתמשים.
מדובר בצורך דחוף, תחום הבינה המלאכותית צומח בשיעוק חסר-תקדים: על-פי ההערכות שונות הוא יסתכם בשנת 2023 בכ-26 מיליארד דולר – אבל צפוי להגיע להיקף של 226 מיליארד דולר כבר בשנת 2030. קיימות מספר דרכים לבדוק ולאמת מערכת בינה מלאכותית. אחד מהמלכים הראשונים הוא בדיקת בסיסי בסיס הנתונים שעליו היא אומנה, דוגמת תמונות, מודלי הערכת סיכון להלוואות, הערכת השווי העסקי של לקוח וכדומה, כדי לוודא שהן לא מייצר הטיות (Bias) סמויות. בנוסף, יש צורך לבדוק את מודל הבינה המלאכותית או הרשת הנוירונית עצמה והתאמן למשימה, ולבצע הדמייה של פעילות המערכת ושל התוצרים מול בסיסי נתונים שהם שונים מבסיסי נתונים שעליהם המערכת אומנה.
חברת Deepchecks פיתחה מודולי בדיקה וניטור של מערכות בינה מלאכותית המאפשרים לבדוק אותן, לאמת את תקפותן וגם לבצע הדמייה מהירה של פעילותן. החברה פועלת במתכונת כפולה: מתן הכלים הבסיסייים חינם באמצעות אתר GitHub, כדי לבנות קהילת קוד פתוח ולהרגיל את השוק לפתרון, ומתן פתרון ייעודי ברמת אינטגרציה גבוהה ללקוחות בתשלום. בבלוג שפירסם באתר החברה, סיפר המנכ"ל רוט שהחברה שיחררה לשוק כלי לבדיקת מושדלי לימוד מכונה בינואר 2022, ועד היום הורידו אותה יותר מ-650,000 משתמשים. רוט: "ההצלחה הזאת הפכה את testing ML לחלק בלתי נפרד מסביבת ה-AI. כעת אנחנו עובדים לשלב הבא ומכריזים על הזמינות להורדה של מערכת הניטור שלנו למודלי לימוד מכונה".