משהב"ט האמריקאי ייאבק בחדשות המזוייפות

הסוכנות האמריקאית למחקרי ביטחון מתקדמים, דארפה (DARPA), השיקה תוכנית מחקר ופיתוח שנועדה להיאבק בהפצת חדשות מזוייפות במרחב הדיגיטלי. התוכנית קיבלה את הכינוי SemaFor, קיצור של Semantic Forensics. במסגרת התוכנית יפותחו כלים טכנולוגיים המסוגלים לזהות ולאפיין באופן אוטומטי פריטי מדיה עשירים (טקסט, אודיו, תמונות, וידאו) שנעשו בהם עיוותים. המטרה היא לפתח מערך המאפשר למדינות להתגונן בפני מתקפות דיסאינפורציה נרחבות.

מנהל התוכנית המתקיימת בחטיבת החדשנות בתחום המידע (I2O) בדארפה, ד"ר מאט טורק, הסביר שעיוות מידע ברשתות החברתיות יכול ליצור אי-שקט חברתי ופוליטי. "אולם לא לכל העיוותים של המדיה יש אפקט זהה. כך למשל, תעשיית הסרטים משתמשת בכלים לעיוות מדיה לצורך בידור. יחד עם זאת, היכולת לזהות איזה מדיה עוותה, על-ידי מי ומדוע, תאפשר להבדיל בין איום ממשי לבין פעילות יצירתית תמימה".

אלגוריתם חכם נגד תוכנות בינה מלאכותית

להערכת דארפה, ניתוח סטטיסטי קלאסי יכול להביא לתוצאות חיוביות, אולם הוא לא מצליח להתמודד עם טכנולוגיות עיוות מידע חדשות. הקושי הגדול ביותר הוא בהתמודדות עם תוכנות בינה מלאכותית (AI) אשר יכולות כבר היום לייצר סרטי וידאו מזוייפים, ואפילו להציג סרטון של אדם האומר דברים שמעולם לא נאמרו על-ידו, כאשר הדבר נראה אותנטי לחלוטין.

טורק: "למרבה המזל, הטכנולוגיות האלה נשענות על מאגרי מידע המשמשים לאימון המערכת המייצרת את הפריט המזוייף. והמאגרים האלה רגישים לשגיאות סמנטיות, אשר ניתן לנצל אותן כדי להתגונן בפני פריט מדיה מעוות". מטרת SemaFor היא לפתח אלגוריתמים חדשים לניתוח סמנטי, אשר יזהו את פריטי המדיה המזוייפים ועל-ידי כך יקשו על הזייפנים לייצר אותם.

שלושה אלגוריתמים מרכזיים

התוכנית תתמקד בשלושה אספקטים מרכזיים: אלגוריתם סמנטי אשר יזהה האם פריט מדיה מסויים הוא מקורי או שנעשה בו שינוי. אלגוריתם שיוך (attribution) יזהה האם מקור הפריט הוא היצרן המקורי (למשל צלם), או שהוא מגיע מיוצר או מארגון המוכרים כמזייפים פריטי מדיה: הוא יזהה כיצד הפריט יוצר ובאיזה אמצעים טכנולוגיים – ועל-ידי מי הוא נוצר.

האלגוריתם השלישי יתמקד באיפיון הפריט, וינסה להגדיר כיצד הוא נוצר והאם השינויים שנעשו בו, נעשו מתוך כוונה שלילית. במקביל. תוכנית SemaFor תפתח כלים שיאפשרו לאנליסטים לבדוק ולסווג ביעילות פריטי מדיה מעוותים. הדבר כולל הצגה ברורה ונוחה להבנה של הממצאים שיתקבלו משלושת אלגוריתמי הליבה.

מתכונת של קוד פתוח

סוכנות DARPA פירסמה בקשה לקבלת הצעות מהתעשייה ומהאקדמיה, אשר צריכות להתקבל עד ה-21 בנובמבר השנה. הפרוייקט יתבצע לאורך ארבע וחצי שנים ויתקיים במתכונת שיתופית: כל הגופים שהצעותיהם יתקבלו, יחוייבו לעבוד בשיתוף פעולה אחד עם השני במטרה לבנות ארכיטקטורה פתוחה במתכונת קוד פתוח, המבוססת על תקנים משותפים. היא תתבסס על תבנית מודולרית, המאפשרת להוסיף ולהוריד מודולי תוכנה וחומרה, כדי שניתן יהיה להגיב במהירות להתפתחויות חדשות.

דארפה ביצעה ניסוי לוחמה בסיוע נחילי רובוטים

הסוכנות האמריקאית למחקרי ביטחון מתקדמים (DARPA) ביצעה ניסוי בהפעלת נחיל רובוטים אוויריים וקרקעיים כדי לבודד מתחם עוין בתרגיל המדמה לוחמה אורבנית. התרגיל בוצע במסגרת תוכנית OFFSET – OFFensive Swarm-Enabled Tactics, נחיל של רובוטים קרקעיים ורחפנים, איתרו מבנה המוגדר ביעד שבו מתבצעת פעילות עויינת ובודדו אותו באמצעות יצירת חיץ בינו לבין הסביבה, ובדיקה וניטור של כל פעילות המתבצעת באזור המוגדר.

מטרת התוכנית היא לפתח טכנולוגיית ומתודולוגיית לחימה בשטח בנוי, המאפשרת ליחידה קטנה של לוחמי חי"ר להפעיל נחילים של עד 250 רובוטים אוויריים וקרקעיים, המשמשים כתומכי לחימה. מטרת התוכנית היא לפתח רובוטים צבאיים על-בסיס מערכות אזרחיות ולפתח ממשק ידיותי בין הלוחמים לבין הנחיל, המבוסס על היכולת של הנחיל לפעול באופן אוטונומי בהתאם להוראות הכלליות שהם מקבלים מהמשתמש.

התוכנית מתמקדת בשלושה יעדים מרכזיים: פיתוח ממשק אדם-נחיל המאפשר למשתמש לנהל מאות פלטפורמות רובוטיות, בו-זמנית בזמן אמת באמצעות ימשו בטכנולוגיות ממשק חדשות כמו מציאות וירטואלית, פיקוד קולי, פיקוד בעזרת מחוות וכדומה. הדבר כולל "דיקדוק משותף אדם-רובוט", שיאפשר לספק הוראות כלליות שאינן מתוכננות מראש, המאפשרות לנהל את הנחיל בהתאם להתפתחויות בלתי צפויות בשטח. במקביל לפיתוח הטכנולוגי, הפרוייקט כולל פיתוח טקטיקות לשימוש בנחילים באמצעות בניית סביבה וירטואלית המאפשרת ניסוי צורות שימוש שונות והעברת הטקטיקות לנחילים ממשיים.

לוחמת אוויר-קרקע רובוטית

הדמיית אמן של רובוטים אוויריים במסגרת תוכנית Gremlins
הדמיית אמן של רובוטים אוויריים במסגרת תוכנית Gremlins

במקביל לתוכנית נחילי הרובוטים בלוחמה קרקעית, נערכת דארפה לניסוי הדגמה שייערך בסוף 2019 שבו ייבדקו הביצועים של נחילי רובוטים המבצעים משימות של לוחמת אוויר-קרקע במסגרת תוכנית Gremlins. הפעם מדובר במל"טים תוקפים אשר יבצעו משימות של תקיפה אווירית. הם ישוחררו לאוויר ממטוסים המצויים מחוץ לטווח הפגיעה של האוייב, ויבצעו את המשימה באופן עצמאי – אם זו תקיפה ואם זו משימת איסוף מידע.

לאחר השלמת המשימה, הם ייאספו מהאוויר על-ידי מטוסי מטען כמו C-130, ויוחזרו לבססי האם לצורך תחזוקה והכנתם למשימה הבאה. המטרה היא לבצע תקיפות אוויריות בהיקף רחב באמצעות פלטפורמות זולות מאוד המאפשרות לא לסכן את הטייסים. להערכת דארפה, מבדקים ראשוניים הראו שניתן להחזיר גרמלין למצב מוכנות בתוך פחות מ-30 דקות מהרגע שהוא מוחזר לבסיס. המטרה היא שאורך החיים של כל לטפורמה כזו תאפשר לבצע לפחות 20 משימות. דארפה מסרה שכיו היא מבצעת ניסויים בהפעלת המל"טים התוקפי מתוך מטוסי קרב כמו F-22 ו-F-35.

האתגר הבא של DARPA: טייס-קרב רובוטי

הסוכנות למחקרי ביטחון מתקדמים (DARPA) במשרד הביטחון האמריקאי, מתכננת לפתח תוכנת בינה מלאכותית שתוכל לנהל קרבות אוויר (Dogfight) ולנצח טייסים אנושיים, כפי שמחשבים הצליחו לנצח שחקנים אנושיים במשחקי שחמט, גו ובמשחקי מחשב אסטרטגיים כמו Dota 2 ו-StarCraft II. מטרת הפרוייקט היא לבצע אוטומטיזציה של קרב האוויר, אשר יתנהל במהירויות של מחשב לא במהירויות אנושיות, על-מנת לאפשר לטייס האנושי להתמקד בהשגת מטרת העל של התקיפה.

לטענת DARPA, יש צורך ליצור אמון אצל הטייסים שהם יכולים להקצות משימות מורכבות למטוסים לא מאויישים, כדי שהם עצמם יתמקדו בתפקיד חדש של "מנהלי משימת קרב" ולא בתיפעול המטוס. התוכנית החדשה קיבלה את הכינוי ACE, שהוא ראשי תיבות של Air Combat Evolution, אולם גם הכינוי ההיסטורי של טייסי קרב מצטיינים שהגיעו להישגים יוצאי דופן בהפלת מטוסי אויב.

מאפייני התוכנית עדיין לא ברורים. לפני כחודש נערכה פגישה ראשונה בין DARPA לבין נציגים מהתעשייה הביטחונית שבה נבחנו רעיונות ראשונים לפיתוח תוכנת ACE, אולם הסוכנות הגדירה את הפגישה כסודית ולא מפרסמת את הרעיונות שהועלו בה. יחד עם זאת, היא מסרה שהשלב הראשון של התוכנית יתמקד בסדרת ניסויים בשם AlphaDogfight Trials, שנועדו לאפשר קרב אווירי בין מטוס קרב רובוטי לבין מטוס קרב מאוייש.

שדה קרב רובוטי במסגרת אסטרטגיית המוזאיקה

תוכנית פיתוח טייס-הקרב המלאכותי היא מרכיב נוסף ביוזמה רחבה יותר בשם Mosaic Warfare, שנועדה להסיט את המוקד של המאמץ המלחמתי מהפעלת מערכות מאויישות באוויר, בים וביבשה, למכלול של מערכות מאויישות ולא מאויישות. בחודש ספטמבר 2018 חשף מנהל התוכניות היוצא של DARPA, טום בארנס, את אסטרטגיית לוחמת המוזאיקה שהסוכנות מפתחת. לדבריו, היא מבוססת על הפעלת אמצעים רובוטיים בכמות גדולה לצד לוחמים אנושיים המנהלים אותם.

"אתה יכול למשל לשלוח מל"ט או רובוט קרקעי לפני הכוחות הלוחמים, וכשהם מאתרים טנק של האויב הם שולחים את המידע על מיקומו אל עמדת תקשורת אחורית, המעבירה אותו אל מערכת תקיפה מרוחקת אשר משגרת חימוש אל המטרה. זה נשמע מאוד מעשי, אבל במצב כיום התרחיש הזה הוא בלתי אפשרי. ממשקי התקשורת לא בנויים למתאר הזה ולצבא אין מספיק כלים בלתי מאויישים המסוגלים לבצע את המשימה.

"בתחום האווירי המצב דומה. כיום אתה יכול לשלוח ארבעה מטוסי F-16 כדי להתמודד עם מטוסי קרב של האוייב. אולם בתפישת אסטרטגיית המוזאיקה, חיל האוויר יכול לשלוח ארבעה מערכות לא מאויישות זולות שניתן להקריב בקלות. כל אחת מהן מצויידת בערכת חיישנים וחימוש אחרת. הטייס האנושי המשמש כמנהל המשימה יכול להתייחס אל הנכסים האלה כמו שמאמן כדורגל מתייחס אל השחקנים: הוא בוחר בהם, מטיל עליהם משימה, ונותן להם לשחק בכוחות עצמם".