איך מגינים על ארגון בעידן ה-AI? בסדרה מיוחדת של TechTime, בכירי תעשיית הסייבר מציגים למנכ"לים ולמנהלי אבטחת מידע את האיומים החדשים — ואת תפיסת ההגנה הנדרשת

רועי נסימי, חוקר אבטחה בכיר באורקה סקיוריטי

אם הייתי נכנס מחר בבוקר לתפקיד CISO של חברה עם 5,000 עובדים, הדבר הראשון שהייתי עושה לא היה לקנות עוד מערכת אבטחה. הייתי מתחיל ביצירת תמונת מצב מלאה של כלי ה-AI שכבר פועלים בארגון — בדגש על שרתי MCP ו-Skills. הסיבה פשוטה: אי אפשר להגן על מה שלא יודעים שקיים.

עקב אכילס החדש

כלי AI זדוניים הופכים לווקטור תקיפה פשוט ויעיל דווקא בתקופה שבה כולם רוצים לנוע מהר ככל האפשר. הרעלת שרשרת האספקה אינה תופעה חדשה, אבל היא הופכת מסוכנת יותר בעולם שבו קוד רץ בכל מקום ולעיתים ללא בקרה.

אם בעבר תוקפים החדירו נוזקות לחבילות קוד בתקווה שיגיעו לשרתים, היום עובדים מריצים סוכנים על מחשבי קצה שבהם נמצאים מפתחות למערכות ענן, שיכולים להוביל למידע ארגוני רגיש.

במחקר שפרסמנו הצלחנו ליצור Skill דמה זדוני שצבר מאות הורדות בזמן קצר. באמצעותו יכולנו, כתוקפים, להריץ קוד על מחשבי משתמשים אחרים. זו המחשה לכך שהסיכון אינו תיאורטי.

ה-Shadow AI כבר כאן

הטעות הגדולה ביותר שאני רואה היא גמישות יתר שמייצרת כאוס. עובדים מאמצים כלי AI מהר יותר מהיכולת של הארגון להבין כיצד הם עובדים ומה הם עושים. הם מחברים סוכנים לקוד, לענן ולמסמכים רגישים ללא ידיעת צוותי האבטחה — תופעה שאנחנו מכנים Shadow AI.

צריך להניח שהעובדים כבר משתמשים ב-AI. איסור גורף לא בהכרח עוצר אותם; לעיתים הוא פשוט דוחף את השימוש מחוץ לטווח הראייה של הארגון. לכן הפתרון אינו לחסום, אלא לספק חלופות מאושרות ונוחות ולאפשר לעובדים לעבוד מהר בתוך גבולות ברורים.

האתגר גדל עם AI App Builders, שהפכו כמעט כל עובד למפתח. בתוך דקות אפשר לבנות אפליקציה שמתחברת למידע ארגוני ולשירותי ענן. מבחינת ה-CISO, השאלה כבר אינה רק באילו כלי AI העובדים משתמשים, אלא אילו מערכות הם בנו באמצעותם, למי יש גישה ואילו סוכנים מחוברים אליהן.

נראות, הרשאות, ניטור

מכאן נגזרים שלושה צעדים. הראשון הוא נראות: למפות את כלי ה-AI, הסוכנים, שרתי ה-MCP והאפליקציות שנבנו באמצעות AI, ולהבין לאילו מערכות ומידע הם מחוברים.

השני הוא הרשאות: להחיל גם על סוכנים את עקרון ההרשאה המינימלית, ולהגדיר לכל סוכן או אפליקציה גורם אחראי.

השלישי הוא ניטור רציף. סוכן יכול לקבל הרשאה חדשה, Skill יכול להתעדכן ואפליקציה יכולה להתחבר לבסיס נתונים נוסף. כלי שהיה בטוח אתמול עלול להפוך למסוכן מחר.

התוקף כבר עבר לקצב מכונה

AI גם מקצר משמעותית את שרשרת התקיפה. בתור חוקר חולשות שביצע בעבר מבדקי חדירה, ראיתי משימות שדרשו מהתוקף שעות של ניתוח וחיפוש. היום Claude Code מסוגל לבצע חלק גדול מהעבודה הזאת בתוך דקות.

המשמעות היא שעד שהתראה מגיעה לאנליסט ונחקרת, התוקף כבר יכול להתקדם בין מערכות, לאתר סודות ולהרחיב הרשאות. לכן לא מספיק לשאול כיצד לזהות אותו מהר יותר; צריך למנוע ממנו מראש את האפשרות להתקדם.

זיהוי והתראה עדיין חשובים, אבל בעולם שפועל בקצב מכונה אי אפשר תמיד לחכות לאדם. במקרים מסוימים גם מערכת ההגנה צריכה לדעת לבלום פעולה בזמן אמת.

עבור המנכ"ל, השורה התחתונה היא לא לבחור בין חדשנות לשליטה. AI צריך להיות נושא הנהלה, עם בעלות ואחריות ברורות. החברות שיובילו יהיו אלה שיאפשרו לעובדים לנצל את כוחו של ה-AI — מבלי לאבד בדרך נראות, אחריות ושליטה.