ביום רביעי השבוע אישר הפרלמנט האירופי את הצעת חוק הבינה המלאכותית (Artificial Intelligence Act) ברוב מוחץ של 523 תומכים, 46 מתנגדים ו-49 נמנעים. זהו החוק הראשון בעולם המנסה להסדיר את השימוש באלוגריתמי בינה מלאכותית ולהגן על הציבור מפני שימוש רשלני או שימוש לרעה בתוכנות בינה מלאכותית.
הכללים החדשים שאירופה מאמצת אוסרים על השימוש ביישומי AI המאיימים על זכויות האזרח, דוגמת שימוש במערכות ביומטריות לסיווג בני אדם, איסוף תוכן ממצלמות CCTV ציבוריות לצורך בניית בסיסי נתונים של זיהוי פנים, איסור על שימוש בתוכנות לזיהוי רגשות במקומות ציבוריים כמו בתי ספר ומקומות עבודה, איסור על שימוש בבינה מלאכותית לחיזוי פשעים בהתבסס על סיווג והערכת תכונות אישיות, וכדומה.
הגנה על הדמוקטיה בפני תקיפות AI
החוק גם מטיל הגבלות על השימוש של מערכות בינה מלאכותית על-ידי מנגנוני אכיפת החוק. כך למשל, זיהוי ביומטרי (קטגוריה הכוללת זיהוי פנים) אסור לשימוש מלבד במקרים מיוחדים ומוגדרים. כאשר יש צורך לבצע פעולות מיוחדות בזמן אמת, הן צריכות להיות מוגבלות בזמן או במקום, או לקבל אישור מיוחד מבית המשפט (בדומה לחוק האזנות הסתר כיום).
מלבד היותו מהלך שידחוף מדינות אחרות לחוקק חוקים דומים, אחת מהתרומות החשובות של החוק לעתיד טכנולוגיות הבינה המלאכותית (AI) היא בהגדרת קטגוריית יישומים בשם High-risk Systems. ההשתייכות לקטגוריה מבוססת על הפוטנציאל של המערכות לפגוע בבריאות, בביטחון האישי, בזכויות אדם בסיסיות, בסביבה, בדמוקרטיה ובשמירת החוק.
דוגמאות לתחומי סיכון גבוה: מתקני תשתית, בנקאות, חינוך, תעסוקה, שירותים ציבוריים וכדומה. מערכות High-risk דורשות הפעלת מערך של אמצעים להערכת הסיכונים והפחתתם, הן צריכות להיות שקופות ואמינות ובנויות באופן המאפשר לבני אדם לבחון אותן. במקביל, לאזרחים יש זכות להטיל ספק במערכות אלה, להתנגד לתוצריהן ולדרוש הסברים על אופן פעילותן.
החוק ייכנס לתוקף בהדרגה
ראש תחום הגנת הפרטיות והמידע במשרד עורכי הדין EBN (ארדינסט בן נתן טולדנו), ליאור אתגר, אמר שההישג של אירופה מרשים מאוד, מכיוון שהם הצליחו בזמן קצר יחסית להגיב להתפתחות טכנולוגית מרכזית. "זהו חוק מקיף ומשמעותי ראשון המתייחס ל-AI. החוק מחלק את העולם לפי סיכונים ומטיל דרישות משמעותיות על ספקים של כלי בינה מלאכותית". לדבריו, כניסת החוק לתוקף תהיה הדרגתית ותימשך לפחות תשעה חודשים, שכן בחלק ממרכיביו יש צורך בתקנות של המדינות ובהיערכות של מנגנוני הפיקוח. יחד עם זאת, כבר עכשיו ברור שיש בו חידושים ודרישות שישפיעו על התנהלות חברות הטכנולוגיה.
אתגר: "אם אתה בקטגוריית המערכות המסוכנות, יש בחוק דרישות מאוד מחמירות: כיצד לנהל את תהליך הפיתוח, כיצד לוודא את אמינות הנתונים ובטיחות המערכות, כיצד לבצע בקרת איכות וכדומה. הם גם דורשים בדיקות במעגל השני – אם אתה משתמש במודל בינה מלאכותית מסויים – אתה צריך להוכיח מהי רמת האמינות שלו ומהן הבדיקות שיש לבצע כדי להוכיח שאין בו טעויות ותקלות. החקיקה דורשת תיעוד מלא של תהליך הפיתוח ותיעוד מלא של רמת העמידה בדרישות החקיקה".
החלטות ה-AI יתקבלו תחת פיקוח אנושי
"מעניין מאוד לציין שהחוק דורש ביקורת ופיקוח אנושי על יישום הבינה המלאכותית. למעשה, החלטות המערכת הן תקפות רק לאחר שבן אנוש בדק ואישר אותן. הם הגדירו רשימה של יישומים אסורים, דוגמת מניפולציה ורמאות. מניפולציה קוגניבית הפוגעת ביכולת לקבל החלטות, סיווג בני אדם לפי אמונות, מגזדר וגזע, ואיסור על ביצוע Social Scoring כמו שנעשה כיום בסין. החקיקה כוללת מרכיבים רבים שנועדו למנוע ממערכות AI לתפקד ברמה של 'קופסא שחורה', באמצעות תיעוד טכני מדוייק של אופן שילוב הנתונים למודל, סוגי בסיסי הנתונים, התהליכים שבאמצעותם שומרים על רמת הדיוק והאמינות של המידע, ועוד.
"לדעתי זהו חוק מצויין. הפרט זקוק להגנת המחוקק, ואני סבור שכבר בשנה הקרובה נתחיל לראות את החברות הישראליות מאמצות את החוק. כעת הרגולטור האירופי עומד בפני אתגר גדול: כיצד ליישם את החוק, כיצד להיות שומר הסף של הציבור, וכיצד להבין את המידע המתקבל מהספקים כדי לבצע בקרה יעילה. יכול להיות שהחקיקה הזאת תייצר תעשיית תיווך של חברות שיידעו לספק שירותי בדיקה והסמכה, גם ללקוחות וגם לרגולטור עצמו".
