משהב”ט האמריקאי ייאבק בחדשות המזוייפות

9 ספטמבר, 2019

הסוכנות למחקרי ביטחון מתקדמים מבקשת לקבל הצעות לפיתוח שלושה אלגוריתמים אשר יאפשרו לאתר פריטי מדיה מזוייפים או מעוותים במתכוון, לזהות את מקורם, ולהעריך את כוונת הזיוף. המטרה: להתגונן בפני מתקפת דיסאינפורמציה

הסוכנות האמריקאית למחקרי ביטחון מתקדמים, דארפה (DARPA), השיקה תוכנית מחקר ופיתוח שנועדה להיאבק בהפצת חדשות מזוייפות במרחב הדיגיטלי. התוכנית קיבלה את הכינוי SemaFor, קיצור של Semantic Forensics. במסגרת התוכנית יפותחו כלים טכנולוגיים המסוגלים לזהות ולאפיין באופן אוטומטי פריטי מדיה עשירים (טקסט, אודיו, תמונות, וידאו) שנעשו בהם עיוותים. המטרה היא לפתח מערך המאפשר למדינות להתגונן בפני מתקפות דיסאינפורציה נרחבות.

מנהל התוכנית המתקיימת בחטיבת החדשנות בתחום המידע (I2O) בדארפה, ד”ר מאט טורק, הסביר שעיוות מידע ברשתות החברתיות יכול ליצור אי-שקט חברתי ופוליטי. “אולם לא לכל העיוותים של המדיה יש אפקט זהה. כך למשל, תעשיית הסרטים משתמשת בכלים לעיוות מדיה לצורך בידור. יחד עם זאת, היכולת לזהות איזה מדיה עוותה, על-ידי מי ומדוע, תאפשר להבדיל בין איום ממשי לבין פעילות יצירתית תמימה”.

אלגוריתם חכם נגד תוכנות בינה מלאכותית

להערכת דארפה, ניתוח סטטיסטי קלאסי יכול להביא לתוצאות חיוביות, אולם הוא לא מצליח להתמודד עם טכנולוגיות עיוות מידע חדשות. הקושי הגדול ביותר הוא בהתמודדות עם תוכנות בינה מלאכותית (AI) אשר יכולות כבר היום לייצר סרטי וידאו מזוייפים, ואפילו להציג סרטון של אדם האומר דברים שמעולם לא נאמרו על-ידו, כאשר הדבר נראה אותנטי לחלוטין.

טורק: “למרבה המזל, הטכנולוגיות האלה נשענות על מאגרי מידע המשמשים לאימון המערכת המייצרת את הפריט המזוייף. והמאגרים האלה רגישים לשגיאות סמנטיות, אשר ניתן לנצל אותן כדי להתגונן בפני פריט מדיה מעוות”. מטרת SemaFor היא לפתח אלגוריתמים חדשים לניתוח סמנטי, אשר יזהו את פריטי המדיה המזוייפים ועל-ידי כך יקשו על הזייפנים לייצר אותם.

שלושה אלגוריתמים מרכזיים

התוכנית תתמקד בשלושה אספקטים מרכזיים: אלגוריתם סמנטי אשר יזהה האם פריט מדיה מסויים הוא מקורי או שנעשה בו שינוי. אלגוריתם שיוך (attribution) יזהה האם מקור הפריט הוא היצרן המקורי (למשל צלם), או שהוא מגיע מיוצר או מארגון המוכרים כמזייפים פריטי מדיה: הוא יזהה כיצד הפריט יוצר ובאיזה אמצעים טכנולוגיים – ועל-ידי מי הוא נוצר.

האלגוריתם השלישי יתמקד באיפיון הפריט, וינסה להגדיר כיצד הוא נוצר והאם השינויים שנעשו בו, נעשו מתוך כוונה שלילית. במקביל. תוכנית SemaFor תפתח כלים שיאפשרו לאנליסטים לבדוק ולסווג ביעילות פריטי מדיה מעוותים. הדבר כולל הצגה ברורה ונוחה להבנה של הממצאים שיתקבלו משלושת אלגוריתמי הליבה.

מתכונת של קוד פתוח

סוכנות DARPA פירסמה בקשה לקבלת הצעות מהתעשייה ומהאקדמיה, אשר צריכות להתקבל עד ה-21 בנובמבר השנה. הפרוייקט יתבצע לאורך ארבע וחצי שנים ויתקיים במתכונת שיתופית: כל הגופים שהצעותיהם יתקבלו, יחוייבו לעבוד בשיתוף פעולה אחד עם השני במטרה לבנות ארכיטקטורה פתוחה במתכונת קוד פתוח, המבוססת על תקנים משותפים. היא תתבסס על תבנית מודולרית, המאפשרת להוסיף ולהוריד מודולי תוכנה וחומרה, כדי שניתן יהיה להגיב במהירות להתפתחויות חדשות.

Share via Whatsapp

פורסם בקטגוריות: אבטחת סייבר , ביג דאטה , חדשות , טכנולוגיות מידע , תעופה וביטחון

פורסם בתגיות: DARPA , דארפה , סייבר