מייקרוסופט נלחמת בדור הבא של הפייק ניוז

מייקרוסופט השיקה כלי חדש כנגד סרטוני דיפ פייק לקראת הבחירות בארצות הברית

מתנאל ראט , י"ז באלול תש"פ

האם בקרוב לא נוכל להאמין לאף סרטון?
האם בקרוב לא נוכל להאמין לאף סרטון?
צילום: iStock

הבחירות לנשיאות ארצות הברית כבר בפתח, ויש מי שמפחד מגל של סרטונים מזוייפים שעתיד להשפיע על דעת הקהל. מייקרוסופט הודיעה השבוע על פיתוח כלי שעתיד להתמודד עם האיום החדש.

לפני כשנתיים התפרסם סרטון קצר ברשתות החברתיות, שהציג את אובמה מקלל את טראמפ ומזהיר מפני יכולות חדשות של פייק ניוז. הסרטון חשף לראשונה קהל הרחב את טכנולוגיית ה"דיפ פייק" שמאפשרת לערוך תמונות וסרטונים של פוליטיקאים ומפורסמים ו"להכניס להם מילים לפה".

דיפ פייק, הוא השם הכולל לסרטונים בהם משתילים פרצוף של אדם אחר לתוך המלל של עורך הסרטון. שם הטכנולוגיה מורכב מחיבור של שני מונחים- למידה עמוקה (Deep Learning) וזיוף- פייק. על מנת ליצור סרטון מזויף כל מה שצריך זה סרטון או תמונה של היעד ואדם שיחקה את קולו. האינטליגנציה המלאכותית מצליחה ללמוד את תנועות הפנים של האדם ולחבר בינם לבין הקול של המציג.

גם כאשר זיוף הסרטון לא עשוי בצורה טובה- חלק גדול מהצופים עשוי עדיין להאמין בו. כך למשל, סרטון דיפ פייק פארודי שהציג את טראמפ לועג לבלגיה הוביל למאות תגובות נזעמות של בלגים, על אף שניתן לראות בקלות שהסרטון לא אמיתי.

הדבר נובע מההטיה הפסיכולוגית המכונה "הטיית האישוש"- במהלכה אנו נוטים להאמין לדברים שהיינו רוצים להאמין להם מראש. לפי ההשערה, הבלגים שראו את הסרטון כעסו כבר קודם לכן על טראמפ ולכן לא היו צריכים מהסרטון הנוכחי בשביל להשתכנע שאכן מדובר בטראמפ.

השבוע פרסמה מייקרוסופט על השקת כלי חדש שעתיד להתמודד עם התופעה ההולכת וגוברת של דיפ פייק. הכלי שפותח במיוחד לקראת הבחירות הקרובות בארצות הברית, עתיד לנתח סרטונים ותמונות לבדוק האם מדובר בחומרים ערוכים ולתת להם ציון על מהימנות.

מייקרוסופט מתכננת בעתיד להילחם בתופעה גם מהכיוון השני ולהתחיל לסמן סרטונים אמינים. לפי הדיווחים, החברה תוסיף סימון בלתי נראה לסרטונים של יוצרים אמינים כך שכל עריכה של הסרטון עשויה להסיר את הסימון ולהעלות את החשד לזיוף.

אבל עד שזה יקרה, נראה שהדבר החשוב ביותר הוא לא להאמין לכל סרטון שמופץ ברשת, אפילו אם הוא נשלח בקבוצת הוואטסאפ המשפחתית.

רוצים עוד? כתבות חדשות כל יום בנוער ערוץ 7- המקום בשבילכם!