אנתרופיק

חשיבותה של ארכיטקטורה בעידן מיתוס ומודלים מתקדמים להגנת הסייבר

פורסם בתאריך ע"י Techtime

בתמונה למעלה: ד"ר גיא ויזל

מאת: ד״ר גיא ויזל, שגריר טכנולוגי וחוקר בכיר ב-Cato Networks

לאחר תקופה של דיווחים וספקולציות, חשפה Anthropic בפני קהל מצומצם את Mythos Preview: גרסת מחקר מוקדמת (Research Preview) למודל ה-Mythos שלה. בעולם הסייבר מיד עולה השאלה: מה קורה כאשר בינה מלאכותית מתקדמת יכולה להאיץ תהליכי תקיפה, כמו ניתוח נקודות תורפה, פיתוח קוד לניצול חולשות (Exploits) ותכנון מתקפות?

החשש הוא ממשי. מודלים מסוג זה עשויים לקצר את הזמן בין חשיפת חולשה לניצול שלה, ולהעניק לתוקפים יתרון במהירות, בהיקף וביכולת ההתאמה. אך זהו רק צד אחד של התמונה. אותן יכולות עצמן עשויות גם לסייע לצוותי הגנה לקדם מחקר, לקצר זמני תגובה ולהקדים לזהות מתקפות. לכן, השאלה המרכזית אינה רק מי יאמץ ראשון מודלים מתקדמים, אלא גם מי יוכל להפעיל אותם על גבי ארכיטקטורה שמספקת נראות רחבה, הקשר ואכיפה בזמן אמת.

מדוע זהו רגע משמעותי

במשך שנים, מתקפות סייבר מתוחכמות נשענו לרוב על שני סוגים של מומחיות אנושית: האחת, איתור וניתוח חולשות—קריאת התרעות אבטחה (advisories), ניתוח קוד, סקירת עדכוני תוכנה ובחינת היתכנות לניצול; והשנייה, ביצוע תקיפה—איסוף מודיעין, השגת גישה, הרחבת הרשאות, תנועה רוחבית, ביסוס אחיזה וגניבת נתונים. ככל שהמודלים משתפרים, ניתן יותר ויותר להסתייע בסוכנים לביצוע שני התפקידים הללו.

המשמעות היא שהשינוי המרכזי אינו רק באיכות, אלא גם במהירות ובהיקף. מודלים מסוגלים לעבד נתונים טכניים גלויים מהר יותר, לעדכן קוד הוכחת היתכנות (PoC) במהירות, לתעדף מטרות, ולבצע אוטומציה של משימות מחקר שבעבר דרשו מומחיות אנושית נדירה. גם אם תוקפים ממשיכים להסתמך על טקטיקות מוכרות, הזמן הנדרש לחבר ביניהן לכדי שרשרת תקיפה פעילה עשוי להתקצר משמעותית.

זו המשמעות האסטרטגית האמיתית של Mythos: קטגוריה חדשה של מערכות AI שעשויות לעצב מחדש הן את ההתקפה והן את ההגנה בעולם הסייבר. השינוי המרכזי אינו בצורת המתקפה, אלא במהירות, בהיקף ובכלכליות שלה. תוקפים המסתייעים ב-AI עשויים להתקדם מהר יותר לאורך שרשרת התקיפה, אך הם עדיין נדרשים לסרוק, לנוע רוחבית, לבסס גישה ולהוציא נתונים דרך מערכות ופרוטוקולים אמיתיים.

למה צוותי אבטחה צריכים להיערך

מודלים מתקדמים עשויים לשנות את זמן התגובה של צוותי ההגנה ולהרחיב את שטח התקיפה בכמה דרכים. להלן כמה מהאתגרים המרכזיים:

קיצור הזמן בין חשיפה של פגיעות לניצולה ולמתקפה בפועל
מודלים מתקדמים עשויים לקצר את הזמן בין דיווח ציבורי על חולשה לבין ניצולה בפועל. אם מודלים מסוגלים לפענח מידע טכני במהירות, להבין פרוטוקולים, להשוות שינויים בקוד ולנתח קודי הוכחת היתכנות גלויים—לצוותי אבטחת סייבר עשוי להישאר פחות זמן להעריך את רמת החשיפה וליישם אמצעי הגנה. גם אם המודל לא יחשוף חולשות חדשות באופן עצמאי, הוא עדיין יכול להפחית את המאמץ הנדרש לתעדף, להתאים ולהפעיל חולשות מוכרות במהירות.

לחץ גובר מחולשות ׳יום-אפס׳ וסמוך-לאפס (zero-day and near-zero-day)
מוקדם לקבוע כמה חולשות יום-אפס אמיתיות נראה, אך ניתן כבר להעריך כי נראה גילוי מהיר יותר של חולשות שלא זוהו עד כה, ניתוח מהיר יותר של נתיבי תקיפה וקיצור משך הזמן להפיכת חולשות שפורסמו לכלי תקיפה. די בכך כדי לצמצם את חלון ההגנה.

התרחבות זירת אבטחת ה-AI
עם אימוץ רחב יותר של כלי Copilot, תהליכי עבודה מבוססי AI ומערכות סוכנים, לתוקפים נפתחות הזדמנויות חדשות—ניצול פרומפטים, תמרון כלים, הזרקת הקשר מזיק (poisoned context), חשיפת מידע רגיש וכפיית פעולות מסוכנות. ככל שהמודלים שימושיים יותר ומשולבים עמוק יותר בתהליכים עסקיים, כך גדל גם המחיר של שגיאות ושל ניצול זדוני.

התרחבות היקף הפגיעה וסיכוני האמון במערכות AI
מערכות מבוססות סוכנים מרחיבות לא רק את היקף הפגיעה במקרה של פריצה, אלא גם את הנזק הנובע מהאמון בהן. מרגע שהמודל מחובר לכלים, לתהליכי עבודה או לנתונים פנימיים—היעד אינו רק תוכנה או תשתית, אלא שכבת קבלת ההחלטות עצמה: מה הסוכן רואה, במה הוא "מאמין", מה מותר לו לעשות וכמה הארגון סומך עליו. כאן אבטחת סייבר ואבטחת AI מתלכדות.

קושי גובר בזיהוי מתקפות

מודלים מתקדמים עשויים לא רק להאיץ מתקפות, אלא גם לאפשר שימוש בטכניקות שקטות, אדפטיביות ומודעות-הקשר, המשתלבות טוב יותר בתהליכים לגיטימיים. הדבר מקשה על זיהוי חדירות בשלבים מוקדמים ומגביר את הצורך לזהות דפוסים לאורך שרשרת התקיפה—ולא רק אינדיקציות חד-משמעיות (IoC).

חיזוק ההגנה באמצעות מודלים מתקדמים

היכולות שהופכות מודלים מתקדמים לאטרקטיביים בידי תוקפים, יכולות לשרת גם את ההגנה. מודל חזק יכול לסייע לצוותי אבטחה להבין תוכן טכני מהר יותר, לצמצם עבודה ידנית במשימות חוזרות, לזהות תנאים לניצול חולשות מוקדם, לנתח טלמטריה בהיקפים גדולים ולגבש אמצעי הגנה במהירות. בפועל, מדובר בקיצור תהליכים שבעבר נשענו כמעט לחלוטין על מומחיות אנושית.

אך המודל עצמו אינו אסטרטגיה. המגינים עדיין זקוקים לנראות, להקשר וליכולת לתרגם תובנות לפעולות אכיפה, כגון חסימה, הגבלת גישה והחלת מדיניות בזמן אמת. הם זקוקים גם לפלטפורמה המסוגלת להפוך ניתוח לפעולה, מבלי להישען על שרשרת ארוכה של מערכות נפרדות. לכן, דווקא בעידן של מודלים מתקדמים כמו Mythos, לארכיטקטורה יש חשיבות גדולה אף יותר.

עידן המיתוס

זהו עידן המיתוס עבור עולם הסייבר. לא משום שמודל אחד ישנה בן-לילה את פני התחום, אלא משום שהוא מצביע על כיוון: עולם שבו סוכני AI פועלים משני צידי המתרס, ותפעול אבטחה שבו אוטומציה מתקדמת ומעורבות אנושית פועלות יחד. במציאות כזו, המנצחים לא יהיו מי שיאמצו ראשונים מודלים מתקדמים, אלא מי שיטמיעו אותם באופן אחראי על גבי ארכיטקטורה נכונה.

למעשה, המשמעות של מודלים מתקדמים כמו Mythos אינה ביצירת סוג חדש של מתקפות, אלא בהאצה ובהחרפה של איומים קיימים. מה שמשתנה הוא המהירות, קנה המידה והיכולת לחבר בין שלבים בצורה יעילה יותר. מכאן עולה הצורך בארכיטקטורה חזקה: כבר לא מספיק לזהות אירוע בודד, שכן מתקפות אמיתיות נחשפות לרוב כרצף של אירועים—שכל אחד מהם נראה לגיטימי בפני עצמו, אך יחד מצביעים על התמונה המלאה.

מכאן נובע שגם התגובה מצד אנשי ההגנה לא יכולה להיות חשש או התעלמות, אלא אימוץ מושכל. אם תוקפים יקצרו משמעותית את הזמן בין גילוי חולשה לניצולה, גם צוותי ההגנה צריכים לאמץ כלים שמאיצים מחקר, זיהוי דפוסים ותגובה. היתרון לא יהיה במודל לבדו, אלא בארכיטקטורה שמפעילה אותו: נראות רחבה, הקשר רציף, טלמטריה עשירה ואכיפה בזמן אמת. ארגונים שימשיכו להסתמך על מערכות נפרדות ועל פתרונות נקודתיים—הדורשים איסוף וקורלציה בדיעבד—יתקשו לעמוד בקצב החדש.

בנוסף, בעידן של לחץ גובר ממתקפות יום-אפס וסמוך-לאפס, לא ניתן להישען רק על חתימות או אינדיקטורים ידועים מראש. חתימות יישארו שכבת הגנה חשובה, אך הן מטבען מגיבות למה שכבר זוהה. כאשר תוקפים נעזרים במודלים מתקדמים כדי לפעול מהר יותר, הם עשויים להקדים מנגנוני הגנה מבוססי חתימה. לכן נדרשות גם יכולות מניעה דינמיות המבוססות על הקשר רציף בין אירועים, משתמשים וזרימות תקשורת.

השאלה כבר אינה רק אם זוהתה חתימה מוכרת, אלא אם ניתן לזהות בזמן אמת דפוס תקיפה מתהווה, כאשר הסימנים הראשוניים עדיין חלשים ומפוזרים. בסופו של דבר, הערך אינו טמון רק במודל, אלא ביכולת להפעיל אותו על-גבי ארכיטקטורה המספקת נראות ויכולת להפוך תובנה לאכיפה אפקטיבית בזמן אמת. במובן זה, השילוב בין יכולות AI לבין ארכיטקטורות אבטחה מתכנסות – הופך לרלוונטי יותר מאי פעם.

הפנטגון מאיים על עתיד כוכבת ה-AI הזוהרת ביותר

פורסם בתאריך ע"י Techtime

מאת: יוחאי שויגר

ביום שישי האחרון, יממה אחת בלבד לפני פתיחת המתקפה הישראלית אמריקאית נגד איראן, הכריז הפנטגון שהמוצרים של חברת אנתרופיק (Anthropic) האמריקאית שפיתחה את סדרת המודלים הלשוניים הגדולים (LLM) ממשפחת Claude, מהווים “סיכון בשרשרת האספקה”. זוהי הכרזה דרמטית בעולם כלכלת הביטחון האמריקאית, אשר מסוגלת למוטט חברות כמעט ברגע, והפעם מדובר באחת מפלטפורמות ה-AI החשובות בעולם. העיתון וול סטריט ג'ורנל דיווח היום (א'), שהפיקודים האזוריים של צבא ארצות הברית, כולל פיקוד מרכז במזרח התיכון (Centcom) האחראי על המבצע באיראן, משתמשים ב-Claude לצורך ביצוע הערכות מודיעיניות, זיהוי מטרות וסימולציה של תרחישי קרב. בין השאר, גורמים המקורבים לנושא מסרו לוול סטריט ג'ורנל שהכלים האלה שימשו בתכנון וביצוע מבצע לכידת נשיא ונצואלה לשעבר, ניקולאס מדורו.

חברת אנתרופיק (Anthropic) האמריקאית, אשר פיתחה סדרת המודלים הלשוניים הגדולים (LLM) ממשפחת Claude (על-שם קלוד שאנון ממציא תורת התקשורת), נקלעה לסכסוך בעצימות יוצאת דופן בעוצמתה עם הפנטגון, שעשוי אפילו לסכן את קיומה. בחודשים האחרונים תפסו המודלים והצ'אטבוט שלה ממונטום חזק מאוד בשוק. מודל פיתוח התוכנה Claude נתפס ככלי המוביל בשוק הארגוני וכבחירה מועדפת בקרב מתכנתים וצוותי פיתוח. בשבועות האחרונים השיקה החברה שורה של יכולות מתקדמות, החל מאוטומציה בכתיבת קוד, ניתוח מסמכים פיננסיים וכלה ביכולת עבודה מול מאגרי מידע ארגוניים וכלי אבטחה – אשר חיזקו את מעמדה כגורם מרכזי במהפיכת ה-AI הארגוני.

גם המספרים שיקפו את ההתלהבות: לפני מספר שבועות החברה השלימה גיוס הון בהיקף של כ-30 מיליארד דולר לפי שווי חברה של כ-380 מיליארד דולר. כמעט פי שניים מהשווי בסבב הקודם שנערך כשישה חודשים קודם לכן. לכל היה נראה שהחברה עלתה על הנתיב הבטוח לבסס את מעמדה כאחת משחקניות ה-AI החשובות בעולם. אלא שאנתקופיק איננה רק חברת בינה מלאכותית, אלא גם חברה עם אידיאולוגיה. המודלים שלה מבוססים על פיקוח הדוק של בני אדם וכוללים מודול שהחברה פיתחה בשם "בינה מלאכותית חוקתית (Constitutional AI): זוהי גישה שפותחה על-ידי Anthropic לצורך אימון Claude ומערכות בינה מלאכותית אחרות, במטרה להבטיח שהן יהיו בלתי מזיקות ומועילות, גם כאשר הן אינן מסתמכות על משוב אנושי נרחב. ה"חוקה" הזו היא אוסף של עקרונות המנוסחים בשפה מילולית המובנת לבני אדם, שלפיהם המודל מנסה להתאים את תשובותיו לפקודות (prompts) כדי לעמוד בהם. החברה אפילו הצהירה שבכוונתה להביא לכך שהחוקה של Claude תשמש מודל לחיקוי עבור חברות אחרות בתעשייה.

בנקודה הזו החל הסכסוך עם מערכת הביטחון האמריקאית: לפני מספר שבועות ביקש הפנטגון לחתום על הסכם שימוש רחב-היקף בטכנולוגיה של אנתרופיק ונכנס איתה למשא ומתן אינטנסיבי. אלא שאנתרופיק דרשה לכלול בהסכם שני סעיפי החרגה מיוחדים: איסור שימוש בכלים שלה לצורך מעקב המוני אחר אזרחים בתוך ארצות הברית, ואיסור שימוש בטכנולוגיה שלה במערכות נשק קטלניות הפועלות באופן אוטונומי לחלוטין ללא פיקוח אנושי. הממשל סירב לוותר על הדרישה, אנתרופיק סירבה לוותר על העקרונות, והפנטגון הוציא את הסכסוך לאור היום כאשר הודיע בפומבי שהציב לחברה אולטימטום: לסגת מהדרישות עם יום שישי האחרון בשעה 17:00, או להסתכן בהגדרתה כ“סיכון בשרשרת האספקה”. אנתרופיק לא נסוגה מעמדותיה, ובשעה הנקובה לחץ הפנטגון על ההדק.

סנקציה השמורה לגורמים עוינים

זהו צעד דרמטי. ההכרזה הזו איננה עוד ביטול נקודתי של חוזה, אלא סימון החברה כגורם שעלול לסכן את שרשרת האספקה הביטחונית של ארצות הברית. מדובר במהלך חסר תקדים כלפי חברה אמריקאית מובילה. כלים מסוג זה הופעלו בעבר בעיקר כלפי חברות זרות שנתפסו כאיום ביטחוני, דוגמת וואווי ו-ZTE הסיניות. הוא גם מטיל צל כבד על יכולתה של אנתרופיק להמשיך ולהתרחב בקרב חברות המספקות שירותי צד שלישי למנגנוני המדינה ולמגזר הארגוני האזרחי בכללו שעשוי לאבד את אמונו בחברה. מה שנראה בתחילה כמערכת יחסים שתביא את החברה אל מסלול צמיחה מהיר, הפך למבחן הישרדות קשה במיוחד.

המושג “שרשרת אספקה” של משרד ההגנה הוא בעל עומק כלכלי עצום. לא מדובר ברשימה מצומצמת של קבלניות ביטחוניות כמו לוקהיד מרטין או בואינג, אלא במערך גדול מאוד של חברות פרטיות וקבלני משנה: אינטגרטורים, ספקיות ענן, חברות סייבר, תוכנה, לוגיסטיקה, ייעוץ וייצור. בחמש השנים האחרונות בלבד, יותר משני טריליון דולר מתקציבו הועברו לחברות פרטיות דרך חוזים שונים. המשמעות היא ששרשרת האספקה חודרת עמוק לתוך המגזר העסקי האמריקאי.

כאן עולה השאלה: עד לאן מגיעה ההכרזה ובאיזה מידה הפנטגון יאכוף אותה. האם מדובר באיסור להשתמש בטכנולוגיה של אנתרופיק בפרויקטים ביטחוניים בלבד, או שכל חברה שיש לה חוזה עם משרד ההגנה, אפילו אם מדובר בשירות תומך או במוצר שולי, תצטרך להימנע מכל התקשרות עמה? בפרשנות מקסימליסטית, חברות רבות במגזר הארגוני האמריקאי עלולות למצוא עצמן נדרשות לבחור בין עבודה עם הפנטגון לבין שימוש בכלים של אנתרופיק.

וזו נקודת הפגיעה הרגישה ביותר עבור החברה. אנתרופיק ביססה לעצמה נתח שוק משמעותי דווקא במגזר הארגוני, עם מומנטום מהיר בהטמעת AI בתהליכי פיתוח, אוטומציה ותפעול. אם ארגונים יחששו שהמשך עבודה עמה יסכן את יחסיהם עם הממשל האמריקאי, ייתכן שנראה הקפאת התקשרויות, מעבר למתחרות או האטה בחתימת חוזים חדשים. מעבר לכך, ארגונים שכבר הטמיעו את Claude במערכות ליבה עלולים להידרש לבחון מחדש תשתיות קיימות – מה שעלול ליצור דיסרפשן תפעולי רחב. אנתרופיק הודיעה שבכוונתה לפנות להליך משפטי ולערער על ההחלטה. אם בית משפט יבחן את שאלת הסמכות ואת היקף ההכרזה, ייתכן שהמהלך יצומצם או אפילו יבוטל. אולם עד שתתקבל הכרעה, עצם התיוג כ”סיכון בשרשרת אספקה” מרחף מעל החברה כמו ענן מאיים וכבד.

מלחמת התרבות

אנתרופיק ידועה כחברה שנושאת את דגל ה“בטיחות” והשימוש האתי ב-AI. הזהות שלה נבנתה סביב מגבלות, אחריות ופיקוח — קו שמלכתחילה לא משתלב באופן טבעי עם תפיסת ההפעלה של משרד ההגנה האמריקאי. ייתכן שבחברה קיוו שהעימות יסתיים בפשטות בכך שלא יעבדו עם הפנטגון. בפועל, המחלוקת גלשה במהירות ממחלוקת חוזית למלחמת תרבות -ולמבחן כוח עבור משרד ההגנה והממשל. שר ההגנה האמריקאי, פיט הגסת', הוביל מאז כניסתו לתפקיד קו מוצהר של מאבק ברעיונות ליברליים המוגדרים כ-Wok ומניעת כניסתם לצבא. הדבר משתקף גם בתפיסתו לגבי השימוש בבינה מלאכותית: "הפנטגון לא מפתח צ’אטבוטים לסטודנטים באוניברסיטאות עילית, אלא מכונות מלחמה”, הוא הצהיר. מבחינתו, AI צבאי מיועד לשרת עליונות מבצעית, ולא לשקף רגישויות חברתיות. בתוך ההקשר הזה, ההתעקשות של אנתרופיק על מגבלות אתיות נתפסה לא כעמדה טכנית – אלא כמאבק אידיאולוגי.

מאז בחירתו של טראמפ, רבות מחברות הטכנולוגיה התיישרו עם הרוח שנושבת בוושינגטון — הקטינו דגש פומבי על גיוון והכלה, ריככו מדיניות פיקוח תוכן ונמנעו מעימותים ערכיים עם הממשל. אנתרופיק מצאה את עצמה כמעט לבד בעימות חזיתי. טראמפ עצמו תקף את החברה וכינה אותה כ"שמאל קיצוני" וכ"חברת ווק". הצהרותיו התקיפות של טראמפ עשויות לאותת כי אין דרך חזרה מהמהלכים הנוכחיים. כך הפך סכסוך על תנאי שימוש בתוכנה למאבק רחב יותר על השאלה מי מגדיר את גבולות ה-AI האמריקאי: חברות המציבות תנאים אתיים, או ממשל המעניק קדימות עליונה ליכולת המבצעית.

המנצחים האמיתיים, או מי נהנה מהסכסוך?

מהעימות בין אנתרופיק לפנטגון יש גם מרוויחות ברורות, ובראשן חברות AI מתחרות הנמצאות בעצמן במגעים עם משרד ההגנה. הפנטגון הוא לקוח יוקרתי, עתיר תקציבים והשפעה, וחוזה עמו אינו רק מקור הכנסה משמעותי אלא גם חותמת איכות אסטרטגית. הוצאת אנתרופיק מהתמונה מותירה יותר מרחב, יותר חוזים ויותר נתח שוק למתחרות. בראש הרשימה ניצבת OpenAI, שהודיעה בסוף השבוע על הסכם עם משרד ההגנה לפריסת מודלים שלה גם בסביבות רגישות. באופן מחושב למדי, OpenAI הצליחה גם להשיג חוזה עם הפנטגון וגם להציג את ההסכם ככזה ששומר על “קווים אדומים”, עם הדגשה של מנגנוני בטיחות, פיקוח אנושי ומגבלות על שימושים שנויים במחלוקת.

בכך היא ממצבת את עצמה כשותפה ביטחונית אחראית, אך לא כמי שמציבה תנאים אידיאולוגיים פומביים שעלולים להיתפס כהתנגשות עם הממשל. מרוויחה פוטנציאלית נוספת היא חברת xAI של אילון מאסק. מאסק לא הסתיר את עמדתו בסכסוך, ואף טען כי באנתרופיק “שונאים את הציוויליזציה המערבית”. גם אם xAI אינה מחזיקה כיום באותו נתח שוק ארגוני כמו אנתרופיק או OpenAI, המצב החדש עשוי לפתוח לה דלתות רחבות בזירה הביטחונית.