ה- FBI מזהיר מפני מגמה גוברת של פושעי סייבר אשר יוצרים תוכן מזויף עמוק (deepfake) כדי לבצע מתקפות סחיטת סקס באיומים. סחיטת סקס באיומים – Sextortion היא סוג של סחיטה מקוונת שבה מאיימים פושעי סייבר על קורבנותיהם באמצעות תמונות וסרטונים אינטימיים שהם גנבו (באמצעות פריצה) או רכשו (באמצעות כפייה) ובדרך כלל דורשים תשלומי כסף עבור מניעת פרסום החומר. במקרים רבים של סחיטה באיומים התוכן אינו אמיתי, כאשר פושעי הסייבר רק מעמידים פנים שיש בידיהם מנוף להפחדת הקורבנות כדי שישלמו עבור מניעת פרסום החומר.
ה-FBI מזהיר ש- Sextortionists החלו להשתמש בתמונות זמינות לציבור של הקורבנות שלהם, כמו תמונות וסרטונים תמימים שפורסמו בפלטפורמות מדיה חברתית. התמונות הללו מוזנות לאחר מכן לכלים ליצירת תוכן מזויף שהופכים אותן לתוכן מיני מפורש שנוצר על ידי בינה מלאכותית. למרות שהתמונות או הסרטונים שהופקו אינם אמיתיים, הם נראים אמיתיים מאד, כך שהם יכולים לשרת את מטרת סחיטת הסקס של פושעי הסייבר, שכן שליחת החומר הזה למשפחת הקורבן, לעמיתיו לעבודה וכו', עלולה לגרום לו נזק אישי רב.
"נכון לאפריל 2023 ראה ה- FBI עלייה במספר קורבנות Sextortion המדווחים על שימוש בתמונות או סרטונים מזויפים שנוצרו מתכנים שפורסמו באתרי המדיה החברתית שלהם או פרסומים באינטרנט, שסופקו לפושעי הסייבר לפי בקשה, או שנלכדו במהלך וידאו צ'אט. כך נכתב בהתראה שפורסמה בפורטל IC3 של ה- FBI: "בהתבסס על דיווחי הקורבנות האחרונים, דרשו פושעי הסייבר בדרך כלל: 1. תשלום (למשל, כסף, כרטיסי מתנה) עם איומים לשתף את התמונות או הסרטונים עם בני משפחה או חברים ברשתות החברתיות אם הכספים לא יתקבלו; או 2. דרישה מהקורבן לשלוח עוד תמונות או סרטונים אמיתיים בעלי אופי מיני."
ה- FBI טוען כי יוצרי תוכן מיני מדלגים לפעמים על חלק הסחיטה ומפרסמים את הסרטונים שנוצרו ישירות באתרי אינטרנט פורנוגרפיים וכך חושפים את הקורבנות לקהל גדול ללא ידיעתם או הסכמתם. בחלק מהמקרים משתמשים Sextortionists בהעלאות אלו שהן פומביות כעת כדי להגביר את הלחץ על הקורבן ודורשים תשלום כדי להסיר את התמונות / סרטונים שפורסמו מהאתרים. ה- FBI מדווח כי המניפולציה הזו השפיעה למרבה הצער, גם על קטינים.
הקצב שבו כלי יצירת תוכן בעלי יכולת בינה מלאכותית הופכים לזמינים לקהל הרחב יותר, יוצר סביבה עוינת עבור כל משתמשי האינטרנט. ישנם מספר פרויקטים של כלי יצירת תוכן הזמינים בחינם דרך GitHub, שיכולים ליצור סרטונים מציאותיים מתמונה אחת בלבד של פני היעד, ללא צורך בהכשרה כלשהי. רבים מהכלים הללו כוללים הגנות מובנות למניעת שימוש לרעה, אך הכלים הנמכרים בפורומים מחתרתיים ובשווקים ברשת האינטרנט האפלה אינם עושים זאת.
ה- FBI ממליץ להורים לעקוב אחר הפעילות המקוונת של ילדיהם ולדבר איתם על הסיכונים הכרוכים בשיתוף מדיה אישית באינטרנט. יתר על כן, מומלץ להורים לבצע חיפושים כדי לקבוע את כמות החשיפה של ילדיהם באינטרנט ולנקוט בפעולה לפי הצורך כדי להסיר תוכן. מבוגרים המפרסמים תמונות או סרטונים באינטרנט צריכים להגביל את גישת הצפייה למעגל חברים פרטי קטן כדי להפחית את החשיפה. יחד עם זאת, יש תמיד לטשטש או להסוות את פניהם של ילדים. במידה ומגלים תוכן מזויף עמוק (deepfake) באתרים פורנוגרפיים, יש לדווח על כך לרשויות ולפנות לפלטפורמת האירוח של האתר הפורנוגרפי כדי לבקש את הסרת המדיה הפוגעת.
יש לציין כי בריטניה הציגה לאחרונה חוק בצורה של תיקון להצעת חוק הבטיחות המקוונת, המסווג כפשע את השיתוף ללא הסכמה של זיופים עמוקים.
