לפי דוח חדש של חברת SoSafe, רוב מומחי אבטחת המידע (87%) דיווחו שהארגון שלהם נתקל בשנה האחרונה במתקפת סייבר מבוססת בינה מלאכותית. הדו"ח החדש של SoSafe 2025 Cybercrime Trends ציין כי 91% מכל מומחי אבטחת הסייבר צופים עלייה משמעותית באיומים מבוססי בינה מלאכותית במהלך שלוש השנים הקרובות.
Outlook Cybersecurity Global 2025 של הפורום הכלכלי העולמי, הראה בין הרבעון הראשון של 2023 לרבעון הראשון של 2024 עלייה של 223% בסחר בכלים הקשורים לזיוף עמוק בפורומי אינטרנט ברשת האפלה. מחקר SoSafe על 500 אנשי אבטחת מידע, כמו גם על 100 לקוחות SoSafe ב- 10 מדינות, ציין שזיהוי מתקפות סייבר אלו הוא עדיין אתגר, כאשר רק 26% מביעים אמון גבוה ביכולות הזיהוי שלהם. אנדרו רוז – CSO SoSafe, אמר כי: "AI מגדיל באופן דרמטי את התחכום וההתאמה האישית של מתקפות סייבר. בעוד שנראה כי ארגונים מודעים לאיום זה, מראים הנתונים שלנו שעסקים אינם בטוחים ביכולתם לזהות ולהגיב למתקפות כאלו."
טכניקות ערפול, כמו שיטות שנוצרו על ידי בינה מלאכותית כדי להסוות את המקור והכוונה של המתקפות, צוינו כדאגה העיקרית על ידי 51% מאנשי אבטחת המידע. המחקר ציין כי בינה מלאכותית מאפשרת גם מתקפות רב-ערוציות המשלבות טקטיקות בדוא"ל, SMS, מדיה חברתית ופלטפורמות שיתוף פעולה. במהלך השנתיים האחרונות, 85% מאנשי אבטחת סייבר מסכימים כי הם הבחינו בעלייה בסגנון המתקפה הזה: "מיקוד בקורבנות על פני שילוב של פלטפורמות תקשורת, מאפשר לפושעי סייבר לחקות דפוסי תקשורת רגילים אשר נראים לגיטימיים יותר", אמר רוז והוסיף: "מתקפות אימייל פשטניות מתפתחות להתחזות בתלת מימד, תוך שילוב חלק של קול, סרטונים או אלמנטים מבוססי טקסט, כדי ליצור הונאות מתקדמות המופעלות על ידי בינה מלאכותית."
SoSafe גם ציינה שאימוץ כלי AI על ידי ארגונים, מרחיב בשוגג את משטחי התקיפה עליהם ומכפיף את הארגונים למתקפות חדשניות כמו הרעלת נתונים ודיפ פייק מבוסס בינה מלאכותית. יש לציין שהסקר מצא כי 55% מהעסקים לא יישמו באופן מלא בקרות לניהול סיכונים הקשורים לפתרונות ה- AI הפנימיים שלהם. יחד עם זאת ציינה SoSafe כי ל- AI אכן יש פוטנציאל להיות 'טרנספורמטיבי' באבטחת סייבר באמצעות הדרכת עובדים, התאמת התראות אבטחה ואוטומציה של תיקוני קוד.
לדברי ניקלס הלמן – מנכ"ל SoSafe: "למרות שבינה מלאכותית ללא ספק מציגה אתגרים חדשים, היא גם אחת מבעלי בריתנו הגדולים בהגנה על ארגונים מפני איומי סייבר ההולכים ומתפתחים. עם זאת, אבטחה מבוססת בינה מלאכותית חזקה רק כמו האנשים המשתמשים בה. מודעות לאבטחת סייבר היא קריטית וללא עובדים מאומנים אשר יכולים לזהות ולהגיב לאיומים מבוססי בינה מלאכותית, לא תספיק אפילו הטכנולוגיה הטובה ביותר. על ידי שילוב של מומחיות אנושית, מודעות לאבטחת מידע ויישום זהיר של AI, נוכל להישאר בקדמת העקומה ולבנות ארגונים חזקים ועמידים יותר."
