דו"ח של חברת IBM שפורסם מציג מגמה מדאיגה בנוגע לסיכונים הגוברים בארגונים המשתמשים בבינה מלאכותית.
על פי הממצאים, שנאספו על ידי מכון פונמון (Ponemon Institute) מתוך 600 פריצות מידע שאירעו בין מרץ 2024 לפברואר 2025, 13% מהארגונים דיווחו כי נפרצו מודלים או יישומי AI שברשותם.
ממצאי הדו"ח מצביעים על כך ש-97% מהארגונים שחוו פריצה ל-AI לא הפעילו בקרות גישה מתאימות. כמו כן, ב-16% מהמקרים נעשה שימוש בכלי בינה מלאכותית על ידי התוקפים עצמם, בעיקר לצורך מתקפות פישינג והתחזות באמצעות טכנולוגיות Deepfake. כתוצאה מכך, ב-60% מהאירועים חלה דליפת מידע ו-31% הובילו לשיבוש תפעולי משמעותי.
הדו"ח שם דגש על תופעת Shadow AI - שימוש לא מוסדר ולרוב בלתי מורשה ביישומי בינה מלאכותית בארגון. אחד מכל חמישה ארגונים דיווח על פריצה הקשורה לתופעה זו, כאשר רק ל-37% מהארגונים קיימת מדיניות פנימית לניהול AI או לאיתור Shadow AI. ארגונים המשתמשים ב-Shadow AI ברמה גבוהה סבלו מנזקים ממוצעים גבוהים ב-670 אלף דולר לעומת אלו שאינם משתמשים בו.
עוד עלה מהמחקר כי מערכות ללא ממשל תאגידי נוטות להיפרץ יותר, ועלות ההתמודדות עם פריצה כזו גבוהה משמעותית. מנגד, ארגונים ששילבו פתרונות AI ואוטומציה במערך האבטחה הצליחו לחסוך בממוצע 1.9 מיליון דולר ולקצר את משך ההתאוששות ב-80 ימים.
סוג'ה ויסווסן, סגנית נשיא של מכון פונמון ציינה כי "הנתונים מראים שכבר קיים פער בין אימוץ בינה מלאכותית לבין פיקוח עליה, וגורמי איום מתחילים לנצל אותו. ככל שבינה מלאכותית מוטמעת עמוק יותר בפעילות העסקית, יש להתייחס לאבטחתה כאל דבר בסיסי. העלות של חוסר מעש אינה רק כלכלית, אלא גם אובדן אמון, שקיפות ושליטה".
הדו"ח מגלה כי העלות הממוצעת העולמית של דליפת מידע ירדה השנה ל-4.44 מיליון דולר - ירידה ראשונה מזה חמש שנים. עם זאת, בארה"ב נרשמה עלות שיא של 10.22 מיליון דולר לפריצה. ארגונים שזיהו את הפריצה בעצמם הצליחו לחסוך 900 אלף דולר בממוצע לעומת אלו שלמדו על האירוע מהתוקפים.
לפי הנתונים, 63% מהארגונים סירבו לשלם כופר - עלייה לעומת 59% בשנה שעברה. עם זאת, העלות הממוצעת של פריצה שפורסמה על ידי התוקף נותרה גבוהה במיוחד - 5.08 מיליון דולר.
למרות ההשפעות הרחבות של פריצות המידע, רק 49% מהארגונים שנפגעו מתכננים להשקיע באבטחה בעקבות הפריצה - ירידה משמעותית לעומת 63% בשנת 2024. מתוכם, פחות ממחצית צפויים להשקיע בפתרונות אבטחה מבוססי בינה מלאכותית.