מי אחראי על הגנה על מידע בענן?

מאת חן בורשן, מנכ"ל חברת האבטחה בענן סקייהוק סקיוריטי

במציאות הדיגיטלית של היום, חברות וארגונים מסתמכים יותר ויותר על מערכות ענן לאחסון מידע ולעיבוד נתונים. אך מה קורה כאשר נתונים רגישים ניזוקים, נעלמים או נפרצים? הנחיה החדשה של האיחוד האירופי מביאה עמה תקנות מחמירות שדורשות מספקי שירותי ענן ומפתחים לקחת אחריות על שלמות המידע, מהלך שעשוי לשנות את פני התעשייה.

"אחריות למוצרים פגומים"

הדירקטיבה החדשה של האיחוד האירופי בנושא אחריות למוצרים פגומים, שנכנסה לתוקף ב-8 בדצמבר 2024, מעדכנת את כללי האחריות כדי להתאים לטכנולוגיות חדשות, ומבטיחה הגנה טובה יותר לנפגעים וודאות משפטית למפעילים כלכליים. הדירקטיבה מבוססת על שני עקרונות מרכזיים:

  1. אחריות היצרן: היצרן מחויב לפצות על נזק שנגרם כתוצאה ממוצר פגום.
  2. חובת ההוכחה של הנפגע: הנפגע חייב להוכיח את הפגם במוצר, את הנזק שנגרם, ולקשר בין הפגם לנזק.

ההוראה הנוכחית מחליפה הוראה בת 40(!) שנה, שנזקקה לעדכון מאסיבי משום שלא התאימה לעידן הדיגיטלי. ההוראה החדה מבטיחה שהכללים יהיו מותאמים למוצרים מכל הסוגים, כולל טכנולוגיות מתקדמות כמו בינה מלאכותית ומתאימה לשרשראות אספקה גלובליות: בכך שהיא מבטיחה את קיומו של גורם אחראי מבוסס באיחוד האירופי שממנו יוכל הנפגע לדרוש פיצוי, גם אם היצרן אינו ממוקם באיחוד. בנוסף, היא מספקת הגנה משופרת לנפגעים וודאות משפטית: מתן כלים חדשים לבקשת ראיות בבית המשפט, והקלה על נטל ההוכחה במקרים מסוימים.

מה זה מוצר?

הדירקטיבה המעודכנת מרחיבה את ההגדרה של "מוצר" כך שתכלול גם עדכוני תוכנה, בינה מלאכותית ושירותים דיגיטליים, במטרה לשקף את השינויים בעולם הדיגיטלי. 

הדירקטיבה גם מאריכה את תקופת האחריות ל-20 שנה, עם אפשרות להארכה ל-30 שנה במקרים שבהם הנזק מתגלה לאחר תקופה ארוכה יותר. היא קובעת נהלים ברורים יותר לפיצויים, והתהליך להוכחת פגם במוצר שגרם לנזק הפך לפשוט יותר, עם הנחיות ומידע נגישים לתביעות פיצויים.

בכך, האיחוד האירופי מבקש להבטיח שהחקיקה תואמת את ההתפתחויות הטכנולוגיות והכלכליות, ומספקת הגנה מקיפה לצרכנים מפני נזקים הנגרמים ממוצרים פגומים.

למה ההוראה החדשה כל כך חשובה לצרכנים של שירותי ענן?

עד היום, האחריות על פגיעות בשלמות המידע בענן לא נכללה במסגרת החוק הזה. ספקי שירותים יכלו, במקרים מסויימים, להתנער מהשלכות של מחיקת נתונים בשוגג, השחתת מידע בעקבות תקלה, או אפילו מתקפות סייבר שפגעו במידע רגיש. כעת, האיחוד האירופי קובע ששלמות המידע היא חלק מהאחריות של החברות המספקות את השירותים, והן עשויות להיות חשופות לתביעות משפטיות אם יימצא שהן לא נקטו באמצעים מספקים כדי למנוע נזק.

מהם הנזקים שעליהם תוטל אחריות?

  • אובדן נתונים קריטיים של משתמשים פרטיים או חברות.
  • פגיעה בשלמות הנתונים בעקבות תקלה טכנית או מתקפה חיצונית.
  • נזקים עסקיים כתוצאה משיבוש במערכות מבוססות ענן.

ומה בנוגע לאחריות הלקוחות?

דירקטיבה חדשה זו חופפת במעט את מודל האחריות המקובל בעולמות הענן. כיום – ספקי שירותי ענן פועלים תחת הגדרה שנקראת Shared responsibility model, מודל מציין שלספק הענן וללקוח יש אחריות ספציפית כל אחד. הספק אחראי לרוב על תשתיות, אבטחת מרכזי נתונים פיזיים וחלק מהתוכנה, בעוד שהלקוח אחראי על אבטחת הנתונים, הצפנה ובקרת גישה. אם נגרם נזק לנתונים בשל כשל מצד הספק בתחומים שהוא אחראי להם, הוא עשוי להיות אחראי. עם זאת, אם הבעיה נגרמה בגלל שגיאות או רשלנות מצד הלקוח, ייתכן שהספק לא יהיה אחראי לפי ההנחיות החדשות של האיחוד האירופי. בכל מקרה, לקוח המעוניין להוכיח נזק שנגרם בענן צריך לאסוף ראיות ברורות המצביעות על כשל בשירות, שכוללת לוגים שמכילים תיעוד של זמן אירוע, שגיאות או התרעות שיכולות להצביע על הבעיה. באופן כללי, יש להראות שהנזק נגרם כתוצאה מבעיה אצל ספק השירות ולא ממקור אחר. עוד לא ברור האם לקוחות שיפגעו ממתקפות סייבר בענן יוכלו לתבוע את ספק הענן על בסיס הדירקטיבה. גם אם כן, יהיה עליהם להציג הוכחה לנזק (לוגים), וכנראה גם להוכיח שהם עשו ככל שביכולתם למנוע את המתקפה. דרך אחת לעשות כן הינה להריץ סימולציות תקיפה ולתעד אותן. כך ניתן יהיה להוכיח שהלקוח הבין את החולשות ודרכי החדירה האפשריות ופעל כדי לנטרל אותן, כך שאם בכל זאת הותקף, הרי שזו כנראה אשמת ספק הענן ועליו לקבל פיצוי נאות. 

הפרלמנט האירופי אישר את חוק הבינה המלאכותית

ביום רביעי השבוע אישר הפרלמנט האירופי את הצעת חוק הבינה המלאכותית (Artificial Intelligence Act) ברוב מוחץ של 523 תומכים, 46 מתנגדים ו-49 נמנעים. זהו החוק הראשון בעולם המנסה להסדיר את השימוש באלוגריתמי בינה מלאכותית ולהגן על הציבור מפני שימוש רשלני או שימוש לרעה בתוכנות בינה מלאכותית.

הכללים החדשים שאירופה מאמצת אוסרים על השימוש ביישומי AI המאיימים על זכויות האזרח, דוגמת שימוש במערכות ביומטריות לסיווג בני אדם, איסוף תוכן ממצלמות CCTV ציבוריות לצורך בניית בסיסי נתונים של זיהוי פנים, איסור על שימוש בתוכנות לזיהוי רגשות במקומות ציבוריים כמו בתי ספר ומקומות עבודה, איסור על שימוש בבינה מלאכותית לחיזוי פשעים בהתבסס על סיווג והערכת תכונות אישיות, וכדומה.

הגנה על הדמוקטיה בפני תקיפות AI

החוק גם מטיל הגבלות על השימוש של מערכות בינה מלאכותית על-ידי מנגנוני אכיפת החוק. כך למשל, זיהוי ביומטרי (קטגוריה הכוללת זיהוי פנים) אסור לשימוש מלבד במקרים מיוחדים ומוגדרים. כאשר יש צורך לבצע פעולות מיוחדות בזמן אמת, הן צריכות להיות מוגבלות בזמן או במקום, או לקבל אישור מיוחד מבית המשפט (בדומה לחוק האזנות הסתר כיום).

מלבד היותו מהלך שידחוף מדינות אחרות לחוקק חוקים דומים, אחת מהתרומות החשובות של החוק לעתיד טכנולוגיות הבינה המלאכותית (AI) היא בהגדרת קטגוריית יישומים בשם High-risk Systems. ההשתייכות לקטגוריה מבוססת על הפוטנציאל של המערכות לפגוע בבריאות, בביטחון האישי, בזכויות אדם בסיסיות, בסביבה, בדמוקרטיה ובשמירת החוק.

דוגמאות לתחומי סיכון גבוה: מתקני תשתית, בנקאות, חינוך, תעסוקה, שירותים ציבוריים וכדומה. מערכות High-risk דורשות הפעלת מערך של אמצעים להערכת הסיכונים והפחתתם, הן צריכות להיות שקופות ואמינות ובנויות באופן המאפשר לבני אדם לבחון אותן. במקביל, לאזרחים יש זכות להטיל ספק במערכות אלה, להתנגד לתוצריהן ולדרוש הסברים על אופן פעילותן.

החוק ייכנס לתוקף בהדרגה

עו"ד ליאור אתגר
עו"ד ליאור אתגר

ראש תחום הגנת הפרטיות והמידע במשרד עורכי הדין EBN (ארדינסט בן נתן טולדנו), ליאור אתגר, אמר שההישג של אירופה מרשים מאוד, מכיוון שהם הצליחו בזמן קצר יחסית להגיב להתפתחות טכנולוגית מרכזית. "זהו חוק מקיף ומשמעותי ראשון המתייחס ל-AI. החוק מחלק את העולם לפי סיכונים ומטיל דרישות משמעותיות על ספקים של כלי בינה מלאכותית". לדבריו, כניסת החוק לתוקף תהיה הדרגתית ותימשך לפחות תשעה חודשים, שכן בחלק ממרכיביו יש צורך בתקנות של המדינות ובהיערכות של מנגנוני הפיקוח. יחד עם זאת, כבר עכשיו ברור שיש בו חידושים ודרישות שישפיעו על התנהלות חברות הטכנולוגיה.

אתגר: "אם אתה בקטגוריית המערכות המסוכנות, יש בחוק דרישות מאוד מחמירות: כיצד לנהל את תהליך הפיתוח, כיצד לוודא את אמינות הנתונים ובטיחות המערכות, כיצד לבצע בקרת איכות וכדומה. הם גם דורשים בדיקות במעגל השני – אם אתה משתמש במודל בינה מלאכותית מסויים – אתה צריך להוכיח מהי רמת האמינות שלו ומהן הבדיקות שיש לבצע כדי להוכיח שאין בו טעויות ותקלות. החקיקה דורשת תיעוד מלא של תהליך הפיתוח ותיעוד מלא של רמת העמידה בדרישות החקיקה".

החלטות ה-AI יתקבלו תחת פיקוח אנושי

"מעניין מאוד לציין שהחוק דורש ביקורת ופיקוח אנושי על יישום הבינה המלאכותית. למעשה, החלטות המערכת הן תקפות רק לאחר שבן אנוש בדק ואישר אותן. הם הגדירו רשימה של יישומים אסורים, דוגמת מניפולציה ורמאות. מניפולציה קוגניבית הפוגעת ביכולת לקבל החלטות, סיווג בני אדם לפי אמונות, מגזדר וגזע, ואיסור על ביצוע Social Scoring כמו שנעשה כיום בסין. החקיקה כוללת מרכיבים רבים שנועדו למנוע ממערכות AI לתפקד ברמה של 'קופסא שחורה', באמצעות תיעוד טכני מדוייק של אופן שילוב הנתונים למודל, סוגי בסיסי הנתונים, התהליכים שבאמצעותם שומרים על רמת הדיוק והאמינות של המידע, ועוד.

"לדעתי זהו חוק מצויין. הפרט זקוק להגנת המחוקק, ואני סבור שכבר בשנה הקרובה נתחיל לראות את החברות הישראליות מאמצות את החוק. כעת הרגולטור האירופי עומד בפני אתגר גדול: כיצד ליישם את החוק, כיצד להיות שומר הסף של הציבור, וכיצד להבין את המידע המתקבל מהספקים כדי לבצע בקרה יעילה. יכול להיות שהחקיקה הזאת תייצר תעשיית תיווך של חברות שיידעו לספק שירותי בדיקה והסמכה, גם ללקוחות וגם לרגולטור עצמו".

ההרשמה לתוכנית הסטארט-אפים של BoostUp! 2023 של האיחוד האירופי תיסגר ב-13 במאי 2023

קרדיט צילום: שי מסינטר

ההרשמה בישראל לתוכנית BoostUp! 2023 של האיחוד האירופי תסתיים בשבת הקרובה, ה-13 במאי 2023. התוכנית היא פרוייקט של יוזמת EIT Manufacturing האירופית, שנועדה לקדם את תעשיית הייצור באופנים התורמים לשיפור קיימות כלכלית, חברתית וסביבתית. התוכנית מיועדת לחברות הנמצאות בשלב ה-Scale בתחומי טכנולוגיות לוגיסטיקה, תחזוקה, ניתוח דאטה, חיישנים מתקדמים (Industrial IoT), קישוריות ותשתיות IoT, פתרונות ייצור מתקדמים, סייבר-סקיוריטי תעשייתי ועוד. חברות ישראליות שיתקבלו לתוכנית יקבלו סיוע בכניסה לשוק האירופי ועבודה העם תאגידים מובילים בתחומן.

במקביל לישראל, שתי תכניות BoostUp! 2023 נוספות מתקיימות גם באירלנד ובמזרח אירופה. התוכנית בישראל מתקיימת בשיתוף EIT Hub Israel שהיא השלוחה הישראלית של מכון החדשנות של האיחוד האירופי (EIT), משרד הכלכלה, קרן ההון-סיכון SIBF, ו-II4. אירוע השיא של התוכנית יתקיים ב-9 ביולי במשרדי SIBF בבאר-שבע. במהלכו תיערך תחרות פיצ'ים מול משקיעים ושחקני מפתח בתעשיית הייצור מאירופה ומישראל ומול חבר שופטים המורכב ממומחים בכירים. 6 חברות שיזכו בתחרות יקבלו פרס כספי בשווי של עד 2,500 אירו והזמנה להשתתף ב-Road show במשך 3 ימים באיטליה, במסגרתו יקיימו פגישות עם לקוחות פוטנציאליים. בין השאר, ייפגשו הזוכים עם איגודי החברות המובילות בתחומי המנועים והאריזה בבלוניה, בתחומי האלקטרוניקה, המכניקה והמתכות בברגמו ובתחומי התחבורה והחלל בטורינו.

למידע נוסף והרשמה: https://lnkd.in/dvk6gtfS