נמצא ליקוי אבטחה קריטי ב- EmailGPT – עוזר כתיבת דוא"ל מופעל בינה מלאכותית ותוסף של Google Chrome, המייעל את תכתובת הדוא"ל באמצעות טכנולוגיית בינה מלאכותית מתקדמת. פגיעות זו הידועה בשם הזרקה מיידית, מאפשרת להאקרים לתמרן את השירות, מה שעלול להוביל לחשיפת מידע אישי רגיש ולדלף מידע. פגיעות אבטחה זו ב- EmailGPT נעוצה בניצול שירות API, המאפשר להאקרים להחדיר הנחיות ישירות ובכך להשיג שליטה על השירות.
על ידי כפייה על שירות ה- AI, יכולים האקרים לכפות דליפה של הנחיות מערכת סטנדרטיות או לבצע הנחיות בלתי מורשות וכך, לסלול את הדרך לצורות שונות של ניצול. באמצעות שליחת הנחיה זדונית, יכולים גורמים בעלי גישה לשירות לחלץ מידע רגיש, ליזום שליחת ספאם באמצעות חשבונות שנפגעו, או לייצר תוכן אימייל מטעה התורם לדיסאינפורמציה. מעבר לדלף מידע, ניצול הפגיעות הזו עלול לגרום למתקפות מניעת שירות – DDoS וכן, להפסדים כספיים ישירים באמצעות בקשות חוזרות ונשנות לממשק ה- API של ספק הבינה המלאכותית.
פגם האבטחה ב- EmailGPT משמש תזכורת לחשיבות הקריטית של תעדוף אבטחה בכלים המונעים בינה מלאכותית. על ידי ציות להמלצות חוקרי סייבר מומחים ונקיטת אמצעים יזומים להפחתת סיכונים, יכולים משתמשים להגן על המידע שלהם ולשמור על שלמות מערכות התקשורת הדיגיטליות שלהם.
