דארפה

משהב"ט האמריקאי ייאבק בחדשות המזוייפות

פורסם בתאריך ע"י Techtime

הסוכנות האמריקאית למחקרי ביטחון מתקדמים, דארפה (DARPA), השיקה תוכנית מחקר ופיתוח שנועדה להיאבק בהפצת חדשות מזוייפות במרחב הדיגיטלי. התוכנית קיבלה את הכינוי SemaFor, קיצור של Semantic Forensics. במסגרת התוכנית יפותחו כלים טכנולוגיים המסוגלים לזהות ולאפיין באופן אוטומטי פריטי מדיה עשירים (טקסט, אודיו, תמונות, וידאו) שנעשו בהם עיוותים. המטרה היא לפתח מערך המאפשר למדינות להתגונן בפני מתקפות דיסאינפורציה נרחבות.

מנהל התוכנית המתקיימת בחטיבת החדשנות בתחום המידע (I2O) בדארפה, ד"ר מאט טורק, הסביר שעיוות מידע ברשתות החברתיות יכול ליצור אי-שקט חברתי ופוליטי. "אולם לא לכל העיוותים של המדיה יש אפקט זהה. כך למשל, תעשיית הסרטים משתמשת בכלים לעיוות מדיה לצורך בידור. יחד עם זאת, היכולת לזהות איזה מדיה עוותה, על-ידי מי ומדוע, תאפשר להבדיל בין איום ממשי לבין פעילות יצירתית תמימה".

אלגוריתם חכם נגד תוכנות בינה מלאכותית

להערכת דארפה, ניתוח סטטיסטי קלאסי יכול להביא לתוצאות חיוביות, אולם הוא לא מצליח להתמודד עם טכנולוגיות עיוות מידע חדשות. הקושי הגדול ביותר הוא בהתמודדות עם תוכנות בינה מלאכותית (AI) אשר יכולות כבר היום לייצר סרטי וידאו מזוייפים, ואפילו להציג סרטון של אדם האומר דברים שמעולם לא נאמרו על-ידו, כאשר הדבר נראה אותנטי לחלוטין.

טורק: "למרבה המזל, הטכנולוגיות האלה נשענות על מאגרי מידע המשמשים לאימון המערכת המייצרת את הפריט המזוייף. והמאגרים האלה רגישים לשגיאות סמנטיות, אשר ניתן לנצל אותן כדי להתגונן בפני פריט מדיה מעוות". מטרת SemaFor היא לפתח אלגוריתמים חדשים לניתוח סמנטי, אשר יזהו את פריטי המדיה המזוייפים ועל-ידי כך יקשו על הזייפנים לייצר אותם.

שלושה אלגוריתמים מרכזיים

התוכנית תתמקד בשלושה אספקטים מרכזיים: אלגוריתם סמנטי אשר יזהה האם פריט מדיה מסויים הוא מקורי או שנעשה בו שינוי. אלגוריתם שיוך (attribution) יזהה האם מקור הפריט הוא היצרן המקורי (למשל צלם), או שהוא מגיע מיוצר או מארגון המוכרים כמזייפים פריטי מדיה: הוא יזהה כיצד הפריט יוצר ובאיזה אמצעים טכנולוגיים – ועל-ידי מי הוא נוצר.

האלגוריתם השלישי יתמקד באיפיון הפריט, וינסה להגדיר כיצד הוא נוצר והאם השינויים שנעשו בו, נעשו מתוך כוונה שלילית. במקביל. תוכנית SemaFor תפתח כלים שיאפשרו לאנליסטים לבדוק ולסווג ביעילות פריטי מדיה מעוותים. הדבר כולל הצגה ברורה ונוחה להבנה של הממצאים שיתקבלו משלושת אלגוריתמי הליבה.

מתכונת של קוד פתוח

סוכנות DARPA פירסמה בקשה לקבלת הצעות מהתעשייה ומהאקדמיה, אשר צריכות להתקבל עד ה-21 בנובמבר השנה. הפרוייקט יתבצע לאורך ארבע וחצי שנים ויתקיים במתכונת שיתופית: כל הגופים שהצעותיהם יתקבלו, יחוייבו לעבוד בשיתוף פעולה אחד עם השני במטרה לבנות ארכיטקטורה פתוחה במתכונת קוד פתוח, המבוססת על תקנים משותפים. היא תתבסס על תבנית מודולרית, המאפשרת להוסיף ולהוריד מודולי תוכנה וחומרה, כדי שניתן יהיה להגיב במהירות להתפתחויות חדשות.

דארפה ביצעה ניסוי לוחמה בסיוע נחילי רובוטים

פורסם בתאריך ע"י Techtime

הסוכנות האמריקאית למחקרי ביטחון מתקדמים (DARPA) ביצעה ניסוי בהפעלת נחיל רובוטים אוויריים וקרקעיים כדי לבודד מתחם עוין בתרגיל המדמה לוחמה אורבנית. התרגיל בוצע במסגרת תוכנית OFFSET – OFFensive Swarm-Enabled Tactics, נחיל של רובוטים קרקעיים ורחפנים, איתרו מבנה המוגדר ביעד שבו מתבצעת פעילות עויינת ובודדו אותו באמצעות יצירת חיץ בינו לבין הסביבה, ובדיקה וניטור של כל פעילות המתבצעת באזור המוגדר.

מטרת התוכנית היא לפתח טכנולוגיית ומתודולוגיית לחימה בשטח בנוי, המאפשרת ליחידה קטנה של לוחמי חי"ר להפעיל נחילים של עד 250 רובוטים אוויריים וקרקעיים, המשמשים כתומכי לחימה. מטרת התוכנית היא לפתח רובוטים צבאיים על-בסיס מערכות אזרחיות ולפתח ממשק ידיותי בין הלוחמים לבין הנחיל, המבוסס על היכולת של הנחיל לפעול באופן אוטונומי בהתאם להוראות הכלליות שהם מקבלים מהמשתמש.

התוכנית מתמקדת בשלושה יעדים מרכזיים: פיתוח ממשק אדם-נחיל המאפשר למשתמש לנהל מאות פלטפורמות רובוטיות, בו-זמנית בזמן אמת באמצעות ימשו בטכנולוגיות ממשק חדשות כמו מציאות וירטואלית, פיקוד קולי, פיקוד בעזרת מחוות וכדומה. הדבר כולל "דיקדוק משותף אדם-רובוט", שיאפשר לספק הוראות כלליות שאינן מתוכננות מראש, המאפשרות לנהל את הנחיל בהתאם להתפתחויות בלתי צפויות בשטח. במקביל לפיתוח הטכנולוגי, הפרוייקט כולל פיתוח טקטיקות לשימוש בנחילים באמצעות בניית סביבה וירטואלית המאפשרת ניסוי צורות שימוש שונות והעברת הטקטיקות לנחילים ממשיים.

לוחמת אוויר-קרקע רובוטית

הדמיית אמן של רובוטים אוויריים במסגרת תוכנית Gremlins
הדמיית אמן של רובוטים אוויריים במסגרת תוכנית Gremlins

במקביל לתוכנית נחילי הרובוטים בלוחמה קרקעית, נערכת דארפה לניסוי הדגמה שייערך בסוף 2019 שבו ייבדקו הביצועים של נחילי רובוטים המבצעים משימות של לוחמת אוויר-קרקע במסגרת תוכנית Gremlins. הפעם מדובר במל"טים תוקפים אשר יבצעו משימות של תקיפה אווירית. הם ישוחררו לאוויר ממטוסים המצויים מחוץ לטווח הפגיעה של האוייב, ויבצעו את המשימה באופן עצמאי – אם זו תקיפה ואם זו משימת איסוף מידע.

לאחר השלמת המשימה, הם ייאספו מהאוויר על-ידי מטוסי מטען כמו C-130, ויוחזרו לבססי האם לצורך תחזוקה והכנתם למשימה הבאה. המטרה היא לבצע תקיפות אוויריות בהיקף רחב באמצעות פלטפורמות זולות מאוד המאפשרות לא לסכן את הטייסים. להערכת דארפה, מבדקים ראשוניים הראו שניתן להחזיר גרמלין למצב מוכנות בתוך פחות מ-30 דקות מהרגע שהוא מוחזר לבסיס. המטרה היא שאורך החיים של כל לטפורמה כזו תאפשר לבצע לפחות 20 משימות. דארפה מסרה שכיו היא מבצעת ניסויים בהפעלת המל"טים התוקפי מתוך מטוסי קרב כמו F-22 ו-F-35.