איך מגינים על ארגון בעידן ה-AI? בסדרה מיוחדת של TechTime, בכירי תעשיית הסייבר מציגים למנכ"לים ולמנהלי אבטחת מידע את האיומים החדשים — ואת תפיסת ההגנה הנדרשת

גיא טיטונוביץ', מייסד ומנכ"ל CHEQ

כל עולם הזהויות נבנה על הנחת יסוד אחת: שבצד השני של האינטראקציה נמצא בן אדם. שם משתמש, סיסמה ואימות דו-שלבי נועדו לוודא שאדם הוא מי שהוא טוען שהוא. ההנחה הזאת קורסת לנגד עינינו.

אנחנו נכנסים לעידן שבו חלק עצום מהאינטראקציות הדיגיטליות יבוצעו על ידי סוכני AI שפועלים בשם בני אדם — מחפשים, משווים מחירים, ממלאים טפסים ואפילו מבצעים רכישות. המשמעות היא שארגונים צריכים ללמוד לא רק מי נמצא מולם, אלא מה נמצא מולם.

"מי אתה?" כבר לא מספיק

ניהול הזהויות חייב להשתנות מהשורש. במקום לשאול רק "מי אתה?", צריך לענות בזמן אמת על שלוש שאלות: האם הישות שמולי היא אדם, בוט או סוכן AI; בשם מי היא פועלת; ומה הכוונה שלה.

גם לסוכנים עצמם צריך להיות מודל זהות והרשאות, עם שרשרת האצלה ברורה: מי שלח אותם, מה מותר להם לעשות ואיזה מוניטין הם צברו לאורך זמן.

ארגון שלא יידע להבדיל בין סוכן לגיטימי שקונה עבור לקוח אמיתי לבין בוט עוין שמתחזה אליו יפסיד פעמיים: גם את הלקוח וגם את הקרב על האבטחה.

האיום נמצא בדלת הכניסה

צוותי אבטחה יודעים היום היטב מה קורה בתוך הרשת הארגונית, אבל הם כמעט עיוורים למה שמתרחש בחזית הדיגיטלית — באתרים, באפליקציות, בטפסים וב-API-ים.

תחשבו על שוד בנק: השודד נכנס דרך הסניף, המקום שבו הכסף פוגש את הקהל הרחב. הוא לא הולך למשרדי התאגיד שמחזיק בבנק. הסניף הדיגיטלי של הארגון הוא האתר והאפליקציה — ושם פועלים רבים מהאיומים החדשים.

גם דרך הזיהוי צריכה להשתנות. תקיפה שמיוצרת באמצעות AI יכולה להיות פולימורפית — כל מופע שלה נראה אחרת. לכן צריך לעבור מזיהוי המבוסס רק על חתימות וחוקים לזיהוי של התנהגות וכוונה.

וכשהתוקף אוטונומי, גם התגובה צריכה להגיע במהירות מכונה. מודל שבו אנליסט אנושי מאשר כל פעולה פשוט לא שורד את קצב האירועים. ה-SOC של השנים הקרובות יפעיל יותר סוכני הגנה אוטונומיים, והאנליסט יעבור בהדרגה ממי שמכבה שריפות למי שמנהל את המערך.

הסכנה: מציאות שלא קיימת

האיום שמדברים עליו מעט מדי בעיניי הוא דווקא זיהום הדאטה. לא מתקפה אחת גדולה, אלא הצפה שקטה של האינטרנט בישויות סינתטיות.

צבאות של בוטים וסוכנים יכולים לפתוח חשבונות, למלא טפסים ולייצר לידים, קליקים ומעורבות שנראים אנושיים לחלוטין. התוצאה היא שה-CRM מתמלא באנשים שלא קיימים, האנליטיקס מתאר קהל שלא קיים, והחלטות עסקיות מתקבלות על סמך מציאות מזויפת. גרוע מכך, ה-AI הארגוני עלול להתאמן על דאטה שנוצר בעצמו בידי AI אחר.

ככל שארגונים יפתחו את הדלת לסוכנים לגיטימיים שפועלים בשם לקוחות, יגדל גם התמריץ של תוקפים להתחזות דווקא אליהם.

מה צריך לעשות מחר בבוקר?

אם הייתי נכנס מחר לתפקיד CISO של חברה עם 5,000 עובדים, לפני תקציבים וכלים הייתי ממפה את הדלת הראשית הדיגיטלית של הארגון: אתרים, אפליקציות, טפסים ו-API-ים.

הייתי שואל שאלה פשוטה: כמה מהתנועה שם אנושית, כמה אוטומטית וכמה ממנה כבר מגיעה מסוכני AI.

אי אפשר להגן על מה שלא רואים. בעולם החדש, ארגונים יצטרכו להתייחס גם לישויות לא-אנושיות כאזרחיות מן המניין של מערך הזהויות — עם הרשאות, אחריות ויכולת לדעת מי שלח אותן ומה מותר להן לעשות.

השלב הבא כבר נראה באופק: אימות סוכנים. כפי ש-SSL הפך לסטנדרט שבלעדיו דפדפן אינו סומך על אתר, יגיע עולם שבו עסק לא יוכל לסמוך על סוכן בלי לדעת מי הוא ובשם מי הוא פועל.