
הבינה המלאכותית מתעתעת בנו באינספור הזדמנויות בחיינו. אחת מהן זכתה לפרסום בחדשות 12 עם שידורי ה-AI של משה נוסבויים. עם מוטי יעקב, מנכ"ל Surf Security שוחחנו על מה שצופן לנו העתיד בתחום זה ועל טכנולוגיה המאפשרת לזהות חיקויי בינה מלאכותית קוליים או מצולמים לבני אדם.
על יכולות ההטעיה הקיימות כיום מזכיר מוטי יעקב: "היכולת לייצר סרטון או קול 'דיפ-פייק' תוך כמה שעות על ידי הקלטה שלו בוידאו או קול, הופכת להיות יותר ויותר קלה. יש כבר כמה כלים, חלקם לגיטמייים וחלקם בשימוש על יד האקרים ופושעים למיניהם ומאפשרים לעשות את הדבר, כולל תזוזה נכונה של השפתיים. מספיקה הקלטה קטנה כדי להכניס טקסט והקרבן מקבל את ההקלטה או הוידאו ולהאמין שמי שמדבר אתו זה קרוב משפחה, הבוס או חבר לעבודה. לאוזן האנושית זה נשמע ברמה כמעט זהה".
האקרים ופושעים משתמשים במנגנונים הללו על מנת להביא להעברת כספים או לאישור להעברת כספים דרך שימוש קולי שכזה במדיות השונות, אם בווטסאפ או בפלטפורמות שונות נוספות.
לבד מתמונות והטעיות אאודיו "אפשר להראות וידאו שנראה אמיתי לגמרי, לרשום כל טקסט והוא יופיע באותה שפה ובאותו מנעד כמו שהדובר האמיתי היה אומר זאת. ראינו את זה בבבחירות כשהשתמשו ביכולת לזייף קולות של אנשים אחרים וכיום יש כלים שמזהים זאת. הטכנולוגיה שלנו לא לבד, אם כי היתרון שלנו הוא היכולת לוודא בתוך שניות אם מדובר בדיפ-פייק וגם ברמת הדיוק, הגענו לאחוזים מאוד גבוהים של זיהוי אם הסרטון או קובץ השמע נוצר על ידי בינה מלאכותית או לא".
אז איך זה קורה? איך מצליחה הטכנולוגיה שמציג מוטי יעקב למנוע הונאות? "בשמע שלנו יש תמיד רעשי רקע. יש גם אינדיקטורים נוספים שקיימים בקול טבעי לעומת קול מכונה, ואנחנו יודעים לזהות בתוך כמה שניות את אותם רעשי הרקע ואת אותם מאפיינים של קול טבעי שהאוזן האנושית לא שומעת אבל בדפדפן אנחנו יודעים לזהות ולהתריע את המשתמש מכך שמי שנמצא בצד השני משתמש בבינה מלאכותית על מנת לייצר את אותו קול או וידאו".
"המטרה שלנו היא להגיע לארגונים ביטחוניים וארגונים שחשוב שייזהרו מדיפ-פייק כמו ארגוני חדשות, משטרה וגופי ממשל שחשוב שידעו לזהות אם המידע אמיתי או לא", הוא אומר ולשאלתנו אם גם ההאקרים פועלים להוספת אותם רעשי רקע וניואנסים אנושיים לקולות והצילומים המזוייפים, הוא משיב ואומר כי אכן "זה תמיד חתול ועכבר. ההאקרים מתקדמים וארגוני ההגנה מתקדמים. היום ניתן לייצר סרטונים דיפ-פייק ברמה מאוד גבוהה ובעתיד זה יוכל לקרות בתוך כמה דקות וברמה שלאוזן האנושית יהיה קשה מאוד להבחין בהבדל. ההאקרים משתכללים ובעתיד גם יכולות ההגנה ישתפרו".
יעקב מספר על התעניינות בינלאומית רבה במוצר של החברה שלו. "יש כמה ביקושים מצד ממשלות וגופים ביטחוניים וגם מגופי חדשות שרוצים לוודא שהמידע שקיבלו בטלגרם או בכל מדיה אחרת הוא אמין או לא ואנחנו מאפשרים לנתח וידאו ולדעת אם הוא פייק או לא".