הקוד עבד מצוין – אבל ה־AI שכח לבדוק מי בכלל רשאי להיכנס
29 יולי, 2026
בדיקת חדירות של סיגניה חשפה כיצד אפליקציה פיננסית שפותחה ברובה באמצעות Claude העניקה גישה למידע רגיש על בסיס מזהה משתמש בלבד. מקרה שממחיש את האתגר של עידן פיתוח התוכנה באמצעות AI
[בתמונה: איליה רבינוביץ', סמנכ"ל ייעוץ אבטחת סייבר בסיגניה. צילום: גל להב]
הבינה המלאכותית מסוגלת לכתוב קוד במהירות חסרת תקדים, אך האם היא גם יודעת לכתוב קוד מאובטח? בחברת הסייבר הישראלית סיגניה (Sygnia) סבורים שהתשובה מורכבת יותר. החברה חשפה השבוע מקרה שבו אפליקציה פיננסית שפותחה ברובה באמצעות מודל השפה Claude הכילה חולשת אבטחה לוגית חמורה, שאפשרה למשתמשים בעלי הרשאות בסיסיות לגשת למידע אישי ופיננסי רגיש של משתמשים אחרים.
הפרצה נחשפה במהלך בדיקת חדירות שביצעה סיגניה עבור מוסד פיננסי המנהל נכסים בשווי מיליארדי דולרים. האפליקציה נועדה לפתור בעיה עסקית נפוצה: לאפשר ללקוחות שנטשו את תהליך ההרשמה לחזור לנקודה שבה הפסיקו, עוד לפני שיצרו שם משתמש וסיסמה.
אלא שבניסיון לספק חוויית משתמש חלקה, נוצר מנגנון בעייתי. לפי סיגניה, האפליקציה הנפיקה אסימוני גישה (Access Tokens) על סמך מזהה משתמש ייחודי (GUID) בלבד, מבלי לוודא שמבקש הגישה הוא אכן בעל החשבון. המשמעות הייתה שכל מי שהצליח להשיג GUID תקף יכול היה לקבל גישה למידע רגיש, ובהם מספרי זיהוי (SSN), סטטוס בקשות אשראי, פרטי קשר ומידע על שותפים פיננסיים.
בסיגניה מדגישים כי לא מדובר בבאג תכנותי קלאסי, אלא בכשל לוגי עמוק יותר. הקוד עבר קומפילציה, פעל כמתוכנן ואף כלל מנגנוני אבטחה שנראים מרשימים על הנייר – בהם תוקף מוגבל לטוקנים, Rate Limiting, רישום אירועים (Logging) ו-Audit Trail. אולם כל אותם מנגנונים לא פתרו את הבעיה המרכזית: המערכת כלל לא אימתה האם המשתמש זכאי לקבל את הטוקן מלכתחילה.
"ההבדל בין קוד עובד לקוד מאובטח גדול מכפי שנדמה", מסבירים בסיגניה. לטענת החברה, מודלי שפה מצטיינים בכתיבת קוד תקין מבחינה פונקציונלית, אך מתקשים להבין מודלי הרשאות, גבולות אמון (Trust Boundaries) ולוגיקת אבטחה מורכבת. לכן, גם קוד שנראה איכותי ועובר את כל הבדיקות הבסיסיות עלול להכיל חולשות מהותיות.
באופן אירוני, גם איתור הפרצה נעשה באמצעות בינה מלאכותית. חוקרי סיגניה הזינו חלקים מהקוד למודל שפה אחר וביקשו ממנו לבחון האם ניתן להנפיק אסימון גישה מבלי להוכיח בעלות על החשבון. לדברי החברה, המודל זיהה במהירות את מסלול התקיפה האפשרי והמחיש כיצד גם תוקפים שאינם מומחי אבטחה יכולים כיום להיעזר ב-LLMs כדי לחשוף חולשות לוגיות מורכבות.
בסיגניה מכנים את התופעה "דמוקרטיזציה של חולשות". אם בעבר איתור כשלים מסוג זה דרש מומחיות עמוקה באבטחת אפליקציות, כיום די בגישה לקוד ובמודל שפה מתקדם כדי לשאול את השאלות הנכונות ולקבל הכוונה למסלולי תקיפה אפשריים.
לדברי החברה, מדובר גם באתגר עבור כלי אבטחה מסורתיים. בעוד שכלי Static Application Security Testing (SAST) יעילים בזיהוי חולשות מוכרות כמו SQL Injection או Cross-Site Scripting, הם מתקשים לזהות כשלים הנובעים מהיגיון עסקי שגוי או מהחלטות ארכיטקטוניות – בדיוק מסוג הפגיעויות שעלולות להיווצר כאשר פיתוח מתבצע במידה רבה באמצעות AI.
בסיגניה מדגישים כי הבעיה אינה עצם השימוש במודלי שפה, אלא ההסתמכות עליהם ללא בקרה אנושית מספקת. לדבריהם, ככל שיותר ארגונים יאמצו פיתוח מבוסס AI, כך יידרשו גם תהליכי אבטחה חדשים שיבחנו לא רק אם הקוד עובד – אלא גם אם הוא בטוח.
פורסם בקטגוריות: חדשות